«Крестный отец ИИ» из Google предупредил человечество о катастрофе

​Джеффри Хинтон, создавший базовую технологию для систем искусственного интеллекта, рассказал СМИ, что все достижения в этой области представляют «серьезные риски для общества и человечества в целом».

​- Посмотрите, как это было пять лет назад и что происходит сейчас, – восклицает он в беседе с журналистами издания. – Просто попробуйте оценить эту разницу!

Хинтон сообщил, что конкуренция между технологическими гигантами подталкивает компании к выпуску новых технологий ИИ с опасной скоростью, рискуя рабочими местами и распространяя дезинформацию.

– Трудно понять, как вы можете помешать плохим игрокам использовать его для плохих целей, – рассказал он Times.

В 2022 году Google и OpenAI – стартап, стоящий за популярным чат-ботом AI ChatGPT, – начали создавать системы, использующие гораздо большие объемы данных, чем раньше.

Хинтон сообщил, что эти системы в некотором смысле затмевают человеческий интеллект из-за объема данных, которые они вынуждены анализировать.

– Возможно, то, что происходит в этих системах, на самом деле намного сложнее, чем то, что происходит в мозге, – пояснил он.

В то время как ИИ использовался для поддержки человеческих работников, быстрое распространение чат-ботов, таких как ChatGPT, может поставить рабочие места под угрозу.

– ИИ забирает тяжелую работу, но может отнять больше, – намекнул он.

Ученый предупредил также о потенциальном распространении дезинформации, созданной ИИ.

 Он рассказал о том, что обычный человек больше не сможет знать, что именно современном мире является правдой.

В итоге Хинтон уведомил Google о своей отставке в прошлом месяце.

Джефф Дин, ведущий ученый Google AI, поблагодарил Хинтона в заявлении для американских СМИ.

– Как одна из первых компаний, опубликовавших принципы ИИ, мы по-прежнему привержены ответственному подходу к ИИ, – сказано Дином в ответном заявлении от лица корпорации. – Мы постоянно учимся понимать возникающие риски, одновременно смело внедряя инновации.

В марте технический миллиардер Илон Маск и ряд экспертов призвали к паузе в разработке систем ИИ, чтобы дать время убедиться в их безопасности.

Открытое письмо, подписанное более чем 1000 человек, включая Маска и сооснователя Apple Стива Возняка, было вызвано выпуском GPT-4, гораздо более мощной версии технологии, используемой ChatGPT.

Сам Хинтон в то время не подписал это письмо, но сделал заявление для New York Times, в котором подчеркнул – ученым не стоит «расширять масштабы этого, пока они не поймут, могут ли они это контролировать».