12 января – ИА SM.News. Вывод о невозможности полноценно управлять сверхразумным искусственным интеллектом сделали недавно ученые. Исследование 11 января было опубликовано в научном журнале Journal of Artificial Intelligence Research.
Исследователи обратили внимание на проблемы сверхразумного ИИ. Такой искусственный интеллект был бы умнее всех остальных машин, при этом отмечается, что его интеллект превзошел бы человеческий. При получении доступа подобного сверхразумного ИИ к интернету и всем накопленным знаниям человечества, в итоге возможно наступление утопии или антиутопии.
Ученые разбирались в данной проблеме при помощи моделирования, а также применения теории информатики, исследуя вопрос, сможет ли человек как-то контролировать такой ИИ и вообще обеспечить соблюдение этических принципов данной машиной. Отмечается, что искусственный интеллект можно попытаться сдерживать специальными алгоритмами, отключающими тот или иной функционал системы при совершении им деструктивных действий.
Ученые при этом смогли выяснить, что, согласно теории информатики, любой алгоритм сдерживания достаточно уязвим тем, что может при некоторых обстоятельствах в итоге отключать сам себя. Получается, что он оказывается в таких ситуациях по сути неприменим, поскольку не гарантирует собственной работы. На основании этого исследования делается вывод о невозможности сдержать сверхразумный ИИ человеком.
