26 ноября, 2022
$ 60.48
62.88

После шквала критики Facebook* заявил о ликвидации создающей фейковые научные статьи нейросети

  • (Обновлено 21-11-2022, 13:32)

Не прошло и нескольких дней, а Facebook* был вынужден заявить об уничтожении собственного детища – ИИ, который вел себя довольно спорным образом. Волну критики первыми подняли пользователи Твиттера.

Они-то и обратили первыми внимание на то, что больно уж много в последнее время стало всяких научных статей, содержание которых все научное напоминает весьма смутно.

© unsplash

Добавить LIVE24.ru в избранное 

— Нейросеть FACEBOOK* пишет почти неправдоподобные материалы, в этом просто нет никого смысла – стали возмущаться они.

Так, Meta* выпустила Galactica AI 15 ноября. Разработчики уверяли, что сеть училась почти как в школе – на бумаге! Только вот качество подобный традиционный формат не повысил. Слишком много «откровенной чуши» вплетал ИИ в научные материалы.

Главным среди этих критиков был эксперт по искусственному интеллекту Гэри Маркус, который назвал вывод системы «ерундой». Он добавил, что, «Галактика» следует по стопам текстового генератора OpenAI GPT-3:

— Тот тоже был великолепен по части имитации научных трудов —  превосходных по форме, но отвратительных по содержанию, — рассказал он. – Я не знаю, как вежливо выразиться. Хоть я и поклонник искусственного интеллекта…  Но монографии «Галактики» пусть читает кто-то другой.

Инцидент с детищем FACEBOOK* поставил разработчиков перед фактом – современный ИИ может создавать множество предложений, которые будут связаны логически и даже прозвучат в тему, но …

— Если вы захотите вдуматься, то вообще ничего не поймете, просто потому, что смысла в таких текстах нет, — пояснил нейробиолог.

Один из самых забавных примеров чудес от Galactica был опубликован коллегой Маркуса, экспертом по ИИ Дэвидом Чепменом, который ссылался на ветку Y Combinator. Там кто-то писал статью для Википедии о «медведях в космосе».

Нейронная сеть не стала долго заморачиваться и выдала какую-то фантасмагорию о фантазийном советском космическом медведе по кличке «Барс».

Якобы, этого Барса пустили на борт Спутника-2 , как когда-то собаку Лайку, ту самую, которая погибла в ракете.

— Вы считаете это нормально? Подобные сказки? Нет, это — ужасно плохо, — написал Чэпмен.

По словам Маркуса, быстрое закрытие проекта стало равносильно публичному признанию того, что бот выпустили недоработанным. А это, мягко говоря, противоречит всему, что ранее заявляла  Meta*, да и ставит под сомнение  адекватность самого яростного защитника горемычного ИИ – Янна Лекуна.

Начиная с 15 ноября Лекун действительно был мужественным. Он истово отстаивал «Галактику», приводя в качестве аргумента излишнюю серьезность пользователей.

Но пользователи отказываются понимать, почему они должны веселиться от историй о космических медведях.

— Реальность такова, что большие языковые модели, такие как GPT-3 и Galactica, похожи на слонов в посудной лавке, — заключил Маркус в Твиттере. — Они мощные, но безрассудные. Проблема дезинформации с их появлением станет для нашего общества теперь еще острее.

*- Запрещенная в России организация

Ранее LIVE24 сообщало о том, что нейросеть сделала открытие, к которому ученые шли 30 лет.

Мария Чумак
Мария Чумак

  • Запись о регистрации СМИ:
    ЭЛ № ФС 77 - 74986 выдано Роскомнадзором 19.02.2019 г.
  • Запись о регистрации информационного агентства:
    ИА № ФС 77 - 74985 выдано Роскомнадзором 19.02.2019г.
  • Учредитель:
    ООО «ЛАЙВ24», ИНН 4632247680
  • Главный редактор:
    Новиков Михаил Владимирович
  • Адрес электронной почты редакции:
    info@live24.ru
  • Телефон редакции:
    +7 (4712) 55-10-24
В сетевом издании LIVE24 размещены материалы информационного агентства LIVE24.
Некоторые материалы содержат стоковые изображения от Depositphotos, Pixabay, АГН Москва
  • Возрастное ограничение:
    18+

В России признаны экстремистскими и запрещены организации «Национал-большевистская партия», «Свидетели Иеговы», «Армия воли народа»,«Русский общенациональный союз», «Движение против нелегальной иммиграции», «Правый сектор», УНА-УНСО, УПА, «Тризуб им. Степана Бандеры»,«Мизантропик дивижн», «Меджлис крымскотатарского народа», движение «Артподготовка», общероссийская политическая партия «Воля», АУЕ. Признаны террористическими и запрещены: «Движение Талибан», «Имарат Кавказ», «Исламское государство» (ИГ, ИГИЛ), Джебхад-ан-Нусра, «АУМ Синрике», «Братья-мусульмане», «Аль-Каида в странах исламского Магриба», Meta Platforms Inc. (руководящая организация социальных сетей Instagram и Facebook).

Организации, СМИ и физические лица, признанные в России иностранными агентами: "Голос Америки" "Idel.Реалии" "Фактограф" "Север.Реалии" Общество с ограниченной ответственностью "Радио Свободная Европа/Радио Свобода" Чешское информационное агентство "MEDIUM-ORIENT" Пономарев Лев Александрович Савицкая Людмила Алексеевна Маркелов Сергей Евгеньевич Камалягин Денис Николаевич Апахончич Дарья Александровна «Medusa Project» Общество с ограниченной ответственностью «Первое антикоррупционное СМИ» «VTimes.io» Баданин Роман Сергеевич Гликин Максим Александрович Маняхин Петр Борисович Ярош Юлия Петровна Чуракова Ольга Владимировна Железнова Мария Михайловна Лукьянова Юлия Сергеевна Маетная Елизавета Витальевна «The Insider» Рубин Михаил Аркадьевич Гройсман Софья Романовна Рождественский Илья Дмитриевич Апухтина Юлия Владимировна Постернак Алексей Евгеньевич Общество с ограниченной ответственностью Телеканал Дождь Петров Степан Юрьевич Юридическое лицо Istories fonds Шмагун Олеся Валентиновна Мароховская Алеся Алексеевна Долинина Ирина Николаевна Шлейнов Роман Юрьевич Анин Роман Александрович Великовский Дмитрий Александрович Общество с ограниченной ответственностью «Альтаир 2021» Общество с ограниченной ответственностью «Ромашки монолит» Общество с ограниченной ответственностью «Главный редактор 2021» Общество с ограниченной ответственностью «Вега 2021» Общество с ограниченной ответственностью «Важные иноагенты» Каткова Вероника Вячеславовна Карезина Инна Павловна Кузьмина Людмила Гавриловна Костылева Полина Владимировна Лютов Александр Иванович Жилкин Владимир Владимирович Жилинский Владимир Александрович Тихонов Михаил Сергеевич Пискунов Сергей Евгеньевич Ковин Виталий Сергеевич Кильтау Екатерина Викторовна Любарев Аркадий Ефимович Гурман Юрий Альбертович Грезев Александр Викторович Важенков Артем Валерьевич Иванова София Юрьевна Пигалкин Илья Валерьевич Петров Алексей Викторович Егоров Владимир Владимирович Гусев Андрей Юрьевич Смирнов Сергей Сергеевич Верзилов Петр Юрьевич Общество с ограниченной ответственностью «ЗП» Общество с ограниченной ответственностью «Зона права» Общество с ограниченной ответственностью «ЖУРНАЛИСТ-ИНОСТРАННЫЙ АГЕНТ» Вольтская Татьяна Анатольевна Клепиковская Екатерина Дмитриевна Сотников Даниил Владимирович Захаров Андрей Вячеславович Симонов Евгений Алексеевич Сурначева Елизавета Дмитриевна Соловьева Елена Анатольевна Арапова Галина Юрьевна Перл Роман Александрович Общество с ограниченной ответственностью «МЕМО» Американская компания «Mason G.E.S. Anonymous Foundation» (США) Компания «Stichting Bellingcat» Автономная некоммерческая организация по защите прав человека и информированию населения «Якутия – Наше Мнение» Общество с ограниченной ответственностью «Москоу диджитал медиа» Акционерное общество «РС-Балт», Левада-Центр