Как дипфейки рушат наш мир дезинформацией

Девушка во все глаза смотрит прямо в камеру и спрашивает что-то еще на чистейшем английском. И только одно «но». Этот ангел – вовсе не журналист И даже – не настоящий человек.

Он – всего лишь аватар. То, что было создано искусственным интеллектом (ИИ). То есть, инструментом, который является главным в деле глобального распространения дезинформации.

Видеоролики с субтитрами такого предполагаемого новостного канала появились в социальных сетях с однозначной задачей – бросить мощную тень в сторону правительства Венесуэлы. Скандал государственного масштаба не заставил себя долго ждать.

Как сообщает techxplore.com, этот случай – не единичный.

– Все больше и больше регионов начинают ссылаться на подобные «глубокие» подделки и аудиовизуальные материалы, созданные ИИ, как на угрозу, и происходит это, как правило, ближе к выборам, – сообщила эксперт по медиа-технологиям из неправительственной организации Witness AFP Ширин Анлен.

Американская исследовательская фирма в прошлом месяце выявила поддельное новостное издание под названием «Wolf News», чьи ведущие, также сделанные ИИ, распространяли пропаганду, продвигающую интересы Коммунистической партии Китая.

В прошлом месяце фальсифицированное видео президента США Джо Байдена, предупреждающего об угрозе «внеземного характера», и вовсе стало вирусным.

В 2022 году на видео президент Украины Владимир Зеленский распоясался при помощи ИИ настолько, что нюхал кокаин, а рэпер Эминем атаковал президента Мексики Андреса Мануэля Лопеса Обрадора в рэп-песне.

Аватары «House of News Espanol» были созданы программой искусственного интеллекта Synthesia.

Synthesia уведомила о содержании канала поддельных новостей на YouTube, и руководство видеохостинга удалило его.

– Если вы притворяетесь журналистом или делаете вид, что у вас есть срочные новости, не надейтесь, мы все запретим, – заявила AFP представитель Synthesia Лаура Морелли.

Но государственный телеканал VTV показал видеоролик House of News, в котором хвастался тем, сколько денег заработали отечественные соревнования по бейсболу. Не ссылаясь ни на какие официальные данные.

Известный ведущий VTV Барри Картайя даже утверждал, что о цифрах говорят «в Соединенных Штатах и значительной части Латинской Америки».

При этом президент Николас Мадуро рассердился на предположение, что за этим фальшивыми видео стоит его правительство.

– Знаете что, это – не искусственный интеллект, это – популярный интеллект! – парировал он. – Я – тоже робот.

Два фейковых ведущих House of News, Ной и Дарен, входят в каталог Synthesia из 93 аватаров, как и дуэт Wolf News Алекс и Джейсон.

Их использовали в январе для создания видеороликов о предполагаемых американцах, поддерживающих переворот в Буркина-Фасо.

Между тем материнская компания Facebook Meta недавно ликвидировала сети поддельных аккаунтов.

Один из них на Кубе создал поддельные удостоверения, «критикующие членов оппозиции». Об этом лично сообщал Бен Ниммо – руководитель отдела глобальной разведки угроз Meta.

По его словам, некоторые использовали фотографии профиля, которые, ранее, вероятно были созданы с использованием искусственного интеллекта:

– Подобную тактику мы уже не раз видели – в операциях влияния за последние несколько лет, – рассказал он. – Программы подобного типа может использовать любой, кто владеет базовым пониманием что и как.

Профессор Университета Ла-Коруньи Эдуардо Москейра сообщил, что идентифицировать поддельное видео – вовсе нетрудно. Сложнее расшифровать его происхождение.

– Программировать ботов в социальных сетях становится все проще, они очень похожи на реальных людей, и способны донести любые сообщения, которые вы вложите им в уста, – добавил он.

Москейра также привел цитату, приписываемую нацистскому пропагандисту Йозефу Геббельсу:

 – Ложь, повторенная 1000 раз, становится правдой, – заключил он.