Как искусственный интеллект влияет на выбор человека

Форум проходил в Петропавловске-Камчатском и участие в нем приняли как светские эксперты, так и иерархи, священнослужители РПЦ, занимающиеся проблемами биоэтики.

В ходе своего выступления Лосева пояснила, что главную опасность представляет так называемый удобный мир, создаваемый искусственным интеллектом, в рамках которого человеку больше не нужно выбирать между одним жанром музыки и другим, между зарубежным или российским курортом – технологии все решили за него, уверена спикер.

В пример она привела алгоритмы, которые выводят на страницы браузера или в смартфон рекламу, соответствующую предпочтениям пользователя и его интересам. Эксперт уверена, что люди перестали испытывать интеллектуальное напряжение во время мыслей о том, куда сходить вечером, например, так как умные алгоритмы все уже просчитали и «выбросили» на главную страницу браузера рекламу с подходящим рестораном или мероприятием.

Еще одна опасность искусственного интеллекта, по мнению Лосевой, заключается в «информационных пузырях», в которые человек загоняет себя самостоятельно. Он создает информационное поле на основании собственных интересов. Спикер указала на то, что таким образом пользователь создает себе картину мира, опирающуюся в первую очередь на его предпочтения.

“Даже если в этой картине мира не будет фейков, наборы информации у разных людей могут отличаться диаметрально, и эта воронка будет засасывать людей”,

высказалась Лосева.

Эксперт также указала на проблему фейков, которых в Сети огромное количество. Некоторые из них созданы людьми, другие сгенерированы искусственным интеллектом. Однако уже сейчас понятно, что «пробиться к правде» пользователю будет непросто.

Еще более тревожным Лосева считает использование виртуальной и дополненной реальности. Спикер опасается, что со временем VR-очки войдут в моду и смогут заменить смартфоны.

“То есть, все наметки информационных пузырей, искажений, фальсификаций будут гипертрофированы, усилены, когда мы человека помещаем в такое 360-потребление”,

уточнила она.

Кроме того, в пример спикер привела недавний доклад «одной из крупнейших соцсетей». Точное название платформы она не уточнила. В своей работе IT-специалисты рассказали о случае, когда алгоритмы, созданные ими самими, резко изменили порядок действий и начали предлагать пользователям то, чего не было заложено в их программе изначально. Лосева отметила, что алгоритмы, разработанные специалистами, стали «главенствовать» над их волей и идеями.

Эксперт добавила, что в этом случае роль главного редактора в медийном издании уйдет на второй план, так как искусственный интеллект будет лучше знать, что продать и в чем убедить конкретного пользователя.

Представители Русской православной церкви, участвовавшие в форуме, также высказали свое мнение относительно идеи ИИ. По их мнению, подавление воли и желания человека идет в разрез с христианством, а этические нормы развития и внедрения искусственного интеллекта должны базироваться на библейских ценностях, уверены они.

Зампредседателя Синодального отдела по взаимоотношениям Церкви с обществом и СМИ Московского патриархата Вахтанг Кипшидзе подчеркнул, что «способность имеет прямое отношение к достоинству человека и христианской этике».

Секретарь Синодальной комиссии по биоэтике, настоятель московского храма Сергия Радонежского в Крапивниках протоиерей Александр Абрамов и вовсе заявил, что через современные удобства, к коим относятся смартфоны и другие гаджеты, «действует сатана». По его мнению, современной этикой правят корпорации, международные чиновники и правительственные организации, которые не должны оказывать ключевого влияния на механизм принятия решений человека.

“Церковь предлагает всецелое интегральное видение ситуации, поэтому к ее опыту необходимо обращаться”,

заключил протоиерей.

Развитие технологий искусственного интеллекта действительно происходит стремительно. Так, российские власти в апреле этого года заявили о возможности внедрения ИИ в систему судов. Вице-президент по развитию и планированию фонда «Сколково» Сергей Израйлит рассказал, что есть пара направлений, на которые такие технологии могут оказать влияние. Например, с их помощью у россиян появится возможность разбираться с различными правовыми документами.