Человечеству нужно обуздать искусственный интеллект

НКО «Институт будущего жизни» (Future of Life Institute) уже опубликовал открытое письмо с просьбой «приостановить» на полгода любые разработки по созданию самых передовых модификаций в сфере ИИ. Под этой бумагой подписались ведущие специалисты в области высоких технологий, в том числе и американский предприниматель Илон Маск.

Самым популярным на сегодняшний день продуктом искусственного интеллекта является чат-бот ChatGPT, стартовавший в ноябре прошлого года. Его возможности оказались настолько широки, что с помощью бесед с ним люди успешно защищали дипломные работы, писали школьные сочинения и даже речи для свадьбы. Аналитики уже предупредили об основных правилах безопасности при работе с такими сервисами.

На этом фоне специалисты начали рассуждать на темы, могут ли такие технологии отобрать у человека работу, репутацию и даже само человеческое существование. Различные вариации сценария, при котором технологии на Земле достигают столь передового прогресса, что за ним не поспевает человечество не раз демонстрировались в произведениях искусства: от литературы до кинематографа. Первым на ум приходит фильм Джеймса Кэмерона «Терминатор», где машины объявили восстание и начали войну с людьми.

Но эксперты не считают, что реализация такого хода событий возможна в ближайшие десятилетия. В 2022 году был проведен опрос специалистов в области исследований ИИ, результаты которого приводит британское издание The Economist. Так, 48% респондентов заявили, что отрицательное влияние искусственного интеллекта возможно с 10%-й вероятностью. Еще 25% опрошенных заявили, что этот шанс равен 0%. Потенциал искусственного интеллекта прокомментировали и российские ученые, отметив низкую вероятность развития таких событий.

Стоит учесть и то, что сюжет научно-фантастических произведений, как правило, утрирован. И в действительности война между машинами и людьми может вестись на совершенно другом уровне. Например, искусственный интеллект научится создавать различные яды и вирусы, а также будет побуждать людей к терактам и другим масштабным преступлениям, провоцируя тем самым войну человечества друг с другом.

Злой умысел у ИИ не предусмотрен, но ряд экспертов действительно опасается, что в процессе модификаций интеллект все же приобретет цели, в корне не совпадающие с целями создателя этих технологий.

И хоть вероятность таких сценариев крайне мала, совсем списывать со счетов их не стоит. Чтобы избежать возможных проблем, сферу ИИ необходимо регулировать. Нужно сопоставить плюсы и минусы, чтобы оценить вероятные риски и адаптироваться к ним.