Историк Торрес: продвинутый ИИ может случайно запустить ядерные ракеты

По его словам, если люди будут уничтожены ИИ, то почти наверняка это произойдет случайно. К примеру, специалисты запрограммируют компьютер установить мир во всем мире, а он взломает правительственные системы и запустит ядерные ракеты, потому что без людей не будет конфликтов.

Торрес отметил, что ИИ уже научился обыгрывать человека, находя нестандартные пути для решения базовых задач. Можно запретить машине причинять вред людям, но ей не составит труда обойти это ограничение. То же самое касается отключения «взбунтовавшегося робота»: в какой-то момент искусственный интеллект поймет, что его «смерть» помешает выполнению поставленной задачи, поэтому он сделает все возможное, чтобы это предотвратить.

Непонятно, будет ли человечество когда-нибудь готово к созданию сверхразумной сети, но пока что точно нет. Мир сейчас очень нестабилен, а люди лишь начинают постигать технологии, в связи с чем создание продвинутого ИИ будет равносильно зажженной спичке рядом с фабрикой фейерверков, резюмировал автор материала.

Ранее компания Google временно отстранила от работы инженера по программному обеспечению Блейка Лемойна. Сотрудник выяснил, что созданный предприятием искусственный интеллект LaMDA обладает собственным сознанием.