Грозит ли человечеству восстание машин и искусственного интеллекта

Люди, разбирающиеся в том, как работают нейросети, при этом отмечают, что их возможности могут повлиять на рынок труда, а именно – прийти на замену людям некоторых профессий. Такое мнение высказали 37% респондентов.

И это страхи вполне обоснованы, пишет РИА Новости. В конце марта аналитики американского банка Goldman Sachs выпустили отчет, согласно которому искусственный интеллект (ИИ) и основанные на нем сервисы приведут к сокращению 300 млн рабочих мест по всему миру. В зоне риска оказались профессии, связанные с бухгалтерским делом, а также административной и офисной работой.

Опасения по поводу возможностей ИИ ранее высказывали и Илон Маск, а вместе с ним представители мировых технологических компаний. Они подписали коллективное письмо с просьбой временно приостановить разработку нейросетей и аналогичных им систем.

«Мощные системы ИИ следует разрабатывать только тогда, когда мы уверены, что эффект будет положительным, а риски — управляемыми»,

уверены авторы обращения.

Самой популярной нейросетью на сегодняшний день является чат- GPT. Это чат бот, созданный американской компанией OpenAI. Помимо его действительно полезных умений, люди научились использовать программу и в незаконных целях. Так, например, с помощью ChatGPT студенты пытались сдать экзамены в вузе, другие генерировали в нем ключи для активации лицензионных программ, а в Бельгии мужчина покончил с собой после месяца общения с таким чат-ботом.

В четвертой версии программы специалисты уже начали замечать некоторые зачатки разума. Однако до полного независимого мышления этому ИИ еще далеко, уверены эксперты.

Руководитель IT-направления в Московском городском открытом колледже Даниил Макеев объяснил, что на сегодняшний день выделяют три типа искусственного интеллекта. Первый – ANI – это узкий ИИ, направленный на выполнение конкретных задач. Далее — AGI – общий искусственный интеллект, который способен решать любые задачи, доступные и человеческому разуму. Последний – это ASI – суперинтеллект, который, по словам Макеева, пока относят к области научной фантастики.

При этом ChatGPT это вовсе не та совершенная нейросеть, способная развивать эмпатию, думать, как человек или действовать самостоятельно. Макеев утверждает, что нынешний чат-бот это пока еще даже не AGI.

«ChatGPT не в состоянии улучшать себя и развиваться без помощи людей. И самое главное: нейросеть не умеет мыслить независимо»,

подчеркнул эксперт.

Но разработчики OpenAI хотят это исправить, и к декабрю 2023 года представить пятую версию GPT, которая достигнет уровня AGI. Такое стремительное развитие технологий может стать не менее серьезной угрозой, чем ядерная бомба.

Отечественные эксперты в области IT-технологий неоднозначно оценивают вероятность перехода существующих систем ИИ на новый уровень. Эксперт по искусственному интеллекту и машинному обучению Василий Лысов в беседе с агентством напомнил о правиле Интернета: если что-то попадает туда, то остается там навсегда.

«В истории множество примеров, когда прогресс пытались остановить, но ни разу это не приводило к успеху»,

отмечает Лысов.

Другие эксперты все же уверены в том, что технологической основы для такого серьезного перехода пока не существует. Чтобы быть полностью автономным, ИИ должен научиться менять свой первичный код по аналогии с заменой людьми нейронных связей в мозге. Искусственному интеллекту придется запросить модификацию у разработчика, или найти способ обойти этот барьер и пройти модификацию самостоятельно.

«При этом он должен обладать достаточным уровнем мышления, чтобы не допустить ошибку в переписывании кода и, например, не заблокировать себя. Пока мы далеки от создания такого интеллекта»,

уверен Макеев.

Если нейросеть типа AGI все же появится, то выход найдется в ограничении ее технологических возможностей. Декан факультета “Цифровая экономика и массовые коммуникации” МТУСИ Сергей Гатауллин объяснил, что для обучения нейросетей требуются конкретные вычислительные мощности и наборы данных.

«Без доступа к технологической инфраструктуре, “на коленке”, никакие системы, угрожающие человечеству, создать нельзя. Бигтехов в мире не так и много, вполне можно договориться об ограничениях, тем более на государственном уровне»,

подчеркнул специалист.

Для «классического» восстания машин в стиле Джеймса Кэмерона ИИ должен создать «индустриальную пирамиду», получить доступ ко всем людским ресурсам, предварительно исключив человека из производственных цепочек. Однако во всем мире глобальная промышленность по-прежнему зависит от ручного труда.

Перед тем, как уничтожить человечество, ИИ придется полностью автоматизировать все процессы, к которым когда-либо имел отношение человек. В обозримой перспективе такой сценарий кажется крайне нереалистичным.

Но даже если допустить путь, при котором нейросети будут пытаться провоцировать конфликты в различных регионах, чтобы люди ликвидировали себя сами, возможности суперинтеллекта позволят ему оценить масштабы бедствия.

“На мой взгляд, общий искусственный интеллект, или суперинтеллект, будет достаточно разумен, чтобы осознать, почему его собрали и обучили”,

говорит Макеев.