Наука

Ученые предупредили, что люди не смогут сдержать сверхразумный компьютер

Искусственный интеллект с доступом в Интернет смог по-настоящему напугать специалистов.

Ученые предупредили, что люди не смогут сдержать сверхразумный компьютер
Фото: © Pixabay.com
США, 12 янв 2021 - LIVE24. Вывод о полной невозможности контролировать сверхразумный искусственный интеллект сделали представители мирового научного сообщества. Выводы ученых уже опубликовали в журнале Journal of Artificial Intelligence Research.

Исследователи сфокусировали внимание на вопросах сверхразумного ИИ, который смог бы превосходить человеческий.

- Если такой ИИ получил бы безграничный доступ в Интернет к накопленным знаниям человечества, то нас всех ждала бы утопия или, скорее всего — антиутопия, — заявили ученые.


Ученые разбирались благодаря моделированию, а также — с помощью базовых инструментов теории информатики. Эксперты хотели установить, сможет ли такой человек контролировать подобный ИИ и соблюсти при этом законы этики.

- ИИ вполне можно было бы сдерживать с помощью алгоритмов сдерживания, отключающих ту или иную опцию всей системы во время фиксации каких-то деструктивных действий.

Ученые определили, что в соответствии с теорией информатики, алгоритм сдерживания — абсолютно любой — уязвим. Все потому, что при ряде обстоятельств он способен отключать сам себя, а значит, он является просто неприменимым. Собственную работу он не может гарантировать.
И все же, возможности ИИ пока служат человеку только хорошую службу. Так, в Московской области искусственный интеллект поможет вызвать врача на дом, а в Петербурге искусственный интеллект учат выявлять язву и рак по фото.
Лента новостей