Ученые предупредили, что люди не смогут сдержать сверхразумный компьютер

Вывод о полной невозможности контролировать сверхразумный искусственный интеллект сделали представители мирового научного сообщества. Выводы ученых уже опубликовали в журнале Journal of Artificial Intelligence Research.

Исследователи сфокусировали внимание на вопросах сверхразумного ИИ, который смог бы превосходить человеческий.



Ученые разбирались благодаря моделированию, а также — с помощью базовых инструментов теории информатики. Эксперты хотели установить, сможет ли такой человек контролировать подобный ИИ и соблюсти при этом законы этики.

– ИИ вполне можно было бы сдерживать с помощью алгоритмов сдерживания, отключающих ту или иную опцию всей системы во время фиксации каких-то деструктивных действий.

Ученые определили, что в соответствии с теорией информатики, алгоритм сдерживания — абсолютно любой — уязвим. Все потому, что при ряде обстоятельств он способен отключать сам себя, а значит, он является просто неприменимым. Собственную работу он не может гарантировать.
И все же, возможности ИИ пока служат человеку только хорошую службу. Так, в Московской области искусственный интеллект поможет вызвать врача на дом, а в Петербурге искусственный интеллект учат выявлять язву и рак по фото.