16 августа – ИА SM.News. Аналитик убежден, что пока разработка на базе искусственного интеллекта не готова к исключительно самостоятельно работе — ее должен контролировать человек
Нейросеть GPT-4 в состоянии всего за один день выполнить работу по модерации контента за шесть месяцев. Несмотря на очевидные плюсы, существуют и вполне реальные риски. О них рассказал руководитель группы защиты инфраструктурных ИТ-решений компании «Газинформсервис» Сергей Полунин.
Фото редакции
Сейчас ведется тестирование системы от отсеиванию с помощью искусственного интеллекта нежелательной информации, его маркировки. Иными словами, можно легко исключить контент определенного рода, установить необходимую фильтрацию.
Аналитик уверен, что систему еще можно обмануть, а это значит только одно — ее должен контролировать человек.
«Очень логичное применение искусственного интеллекта – автоматизация рутины, это то, чего мы ждем больше всего. Тут важно помнить, что ChatGPT остается компьютерной программой, которая подвержена специфическим уязвимостям, которые могут повлиять на принимаемые ей решения. Существует десяток способов заставить ИИ ошибаться, подсунув некорректные данные в процессе постоянного обучения, поэтому при всей перспективности этой затеи, систему нужно грамотно сопровождать и контролировать, а это может сделать только человек», — убежден Полунин.
