Джеффри Хинтон, создавший базовую технологию для систем искусственного интеллекта, рассказал СМИ, что все достижения в этой области представляют «серьезные риски для общества и человечества в целом».
- Посмотрите, как это было пять лет назад и что происходит сейчас, – восклицает он в беседе с журналистами издания. – Просто попробуйте оценить эту разницу!
Хинтон сообщил, что конкуренция между технологическими гигантами подталкивает компании к выпуску новых технологий ИИ с опасной скоростью, рискуя рабочими местами и распространяя дезинформацию.
– Трудно понять, как вы можете помешать плохим игрокам использовать его для плохих целей, – рассказал он Times.
В 2022 году Google и OpenAI – стартап, стоящий за популярным чат-ботом AI ChatGPT, – начали создавать системы, использующие гораздо большие объемы данных, чем раньше.
Хинтон сообщил, что эти системы в некотором смысле затмевают человеческий интеллект из-за объема данных, которые они вынуждены анализировать.
– Возможно, то, что происходит в этих системах, на самом деле намного сложнее, чем то, что происходит в мозге, – пояснил он.
В то время как ИИ использовался для поддержки человеческих работников, быстрое распространение чат-ботов, таких как ChatGPT, может поставить рабочие места под угрозу.
– ИИ забирает тяжелую работу, но может отнять больше, – намекнул он.
Ученый предупредил также о потенциальном распространении дезинформации, созданной ИИ.
Он рассказал о том, что обычный человек больше не сможет знать, что именно современном мире является правдой.
В итоге Хинтон уведомил Google о своей отставке в прошлом месяце.
Джефф Дин, ведущий ученый Google AI, поблагодарил Хинтона в заявлении для американских СМИ.
– Как одна из первых компаний, опубликовавших принципы ИИ, мы по-прежнему привержены ответственному подходу к ИИ, – сказано Дином в ответном заявлении от лица корпорации. – Мы постоянно учимся понимать возникающие риски, одновременно смело внедряя инновации.
В марте технический миллиардер Илон Маск и ряд экспертов призвали к паузе в разработке систем ИИ, чтобы дать время убедиться в их безопасности.
Открытое письмо, подписанное более чем 1000 человек, включая Маска и сооснователя Apple Стива Возняка, было вызвано выпуском GPT-4, гораздо более мощной версии технологии, используемой ChatGPT.
Сам Хинтон в то время не подписал это письмо, но сделал заявление для New York Times, в котором подчеркнул – ученым не стоит «расширять масштабы этого, пока они не поймут, могут ли они это контролировать».
