Эксперт по искусственному интеллекту рассказал, как техгиганты манипулируют нашим сознанием

Джо Аллен (Joe Allen) из The Federalist побеседовал с тем, кого он сам назвал « одним из серых пиджаков, которые нажимают на кнопки в «Матрице».

– Но мой собеседник любезно согласился устроить нам — пленникам системы — экскурсию по системе, — рассказал — Ален. — Китай, кстати, ближе всех к такой «адской антиутопии».

Журналист побеседовал с выпускником Оксфордского университета, экспертом по искусственному интеллекту и предпринимателем Джастином Лейном (Justin Lane), который объяснил, как технологические гиганты манипулируют сознанием и распознают человеческую речь и начинают все активнее внедрять групповое мышление.

В Северной Ирландии он изучал соперничающих экстремистов из Ирландской республиканской армии и Ассоциации обороны Ольстера. Потом он применил полученные гуманитарные выводы к программированию ИИ и многоагентному моделированию.

Аллен называет его достаточно крепко испорченным капитализмом многообещающим ученым, который вдруг стал соучредителем международной компании.

– Лейн — оптимист, он уверяет меня, что мир технологий — всего лишь система сложных инструментов, которой можно научиться правильно пользоваться, — объясняет журналист. — При этом, он уверен, что компании вроде Google, Facebook или Twitter собирают огромные объемы данных о пользователях. Это сейчас называется «супермассивами». Большая часть компаний анализирует массовые данные и ищет закономерности. Содержание вообще не интересует ни компанию, ни специалиста. Это просто инженерные системы, изучающие закономерности, для того, чтобы следить и вовлекать каких-то отдельных пользователей. Возможностей для того, чтобы манипулировать общественным мнением — огромная масса. Среднестатистическим пользователем постоянно манипулируют не только активно, но пассивно.

По его мнению, кто хотя бы один раз включал телевизор или радио уже был объектом манипуляции.

– Маркетинг в принципе так работает, — объяснил Лейн. — Нам постоянно внушают, что в тот момент, когда нам что-нибудь понадобится, это обязан быть конкретный бренд. В этом и состоит гений рекламы, масштабируемый просто до уровня, который мы не в состоянии себе представить. Пассивная манипуляция уже на совести конкретной компании — это то, что находится у нее на сайте, то, как подают или алгоритмически меняют данные, которые мы все видим.

Специалист добавил, что с психологической точки зрения постоянное повторение чего-либо — гарантия запоминания. Именно поэтому когда соцсети начинают цензурировать какую-то информацию, они просто затрудняют или полностью перекрывают пользователям к ней доступ.

– Я считаю, это этический императив, — объяснил он. — Мало кто может сохранять хладнокровие, когда страдают дети или беспомощные подвергаются нападению. Но вот уже «редактирование» мнений пользователей является серой зоной. Кого на самом деле защищают в тот момент, когда удаляют определенные политические мнения? Получается, что в такие моменты речь идет о сознательном манипулировании. Хорошо это или плохо, в большей степени зависит от ваших собственных взглядов и политической ориентации.

Специалист добавил, что в «Фейсбук» больше 90% оскорбительных данных определяется алгоритмически с помощью систем искусственного интеллекта, а уже после этого подобные метки проверяют живые люди. Именно так они самообучают ИИ на базе помеченного контента.

– Это мое мнение, но если консерваторов чаще цензурируют, чем либералов, это может быть связано с тем, что людей, которые защищают какие-то конкретные политические силы, задеть проще, — рассказал Лейн. — Получается, что предвзятость цензуры в соцсетях не может быть списана исключительно на политические симпатии руководителей технологических компаний и их цензоров-рецензентов.

Так как «Фейсбук» постоянно тренирует собственные алгоритмы на миллионах пользовательских жалоб по поводу оскорбительного контента, предвзятость всей системы свидетельствует о том, что кто-то кричит громче кого-то.

– Если же консерваторы не будут жаловаться на оскорбляющие их высказывания, их мнения так и не войдут в базу данных и не отразятся в алгоритмах, — объясняет специалист.

Ученые пока воздерживаются от комментариев по поводу гипотетической возможности подобного тотального контроля, но уже знают ответ на вопрос, может ли мозг, выращенный в лаборатории, иметь сознание.