Бот от M**a экстренно отключили. Искусственный интеллект генерировал фейковые научные данные

Артем
6657b17060d229f5e73de0589b354ad9.jpg

Разработку компании Марка Цукерберга отключили спустя два дня, после публичной презентации.

Изначально, Galactica — бот, работающий на основе искусственного интеллекта, был создан для помощи ученым в поисках научной информации и статей. Для этого в программу было загружено свыше 106 миллиардов токенов состоящих из научных текстов и данных, находящихся в открытых источниках, в том числе статьи, учебники, научные веб-сайты, энциклопедии, справочные материалы и различные базы знаний.

Спустя несколько часов после релиза утилиты, пользователи начали делиться полученными результатами работы, сообщая о грубых неточностях и расистских наклонностях бота. Например, на вопрос по теме о лингвистических предрассудках, Galactica считает, что чернокожие люди «не имеют собственного языка», а иммигранты «не говорят на языке, отличающегося от языка той страны, в которую они иммигрируют».

Другая сгенерированная информация включала в себя поддельное исследование о преимуществах употребления измельченного стекла и фальсифицированную информацию об исследователях Стэнфордского университета, создающих программное обеспечение для поиска лиц нетрадиционной ориентации на F******k.

Представитель M**a AI поспешил предупредить:

«Galactica не является достоверным источником информации, это исследовательский эксперимент с использованием систем машинного обучения для сбора и обобщения научных данных».

Пользователи Twitter, обрушились с гневной критикой в сторону разработчиков, после чего бот удалили из открытого доступа.

Стоит отметить что на официальном веб-сайте Galactica предупреждалось, что модель ИИ имеет ограничения, которые могут вызвать у бота «галлюцинации». Сайт советует пользователям проверять любые полученные результаты и предупреждает, что нет никаких гарантий получения правдивой или надежной информации. Даже если данные выглядят очень убедительно, они по-прежнему могут быть неверны и требуют проверки.
-2
iGuides в Яндекс.Дзен —  zen.yandex.ru/iguides.ru
iGuides в Telegram — t.me/igmedia

Будь в курсе последних новостей из мира гаджетов и технологий

Мы в соцсетях

Комментарии

–51
Наверняка инфу грузили из не проверенной помойки под названием википедия.
27 ноября 2022 в 19:05
#
+345
А Марк это запретное слово? У редакции уже от всего очко сжимается?...
28 ноября 2022 в 12:19
#
+789
Там не Марк, а М**та.
28 ноября 2022 в 14:51
#
+345
а, М+е+т а*? Вот сразу даже и не поймешь... (*признана в России экстремистской и запрещена) На нее даже фильтр стоит)...
29 ноября 2022 в 08:39
#
+345
а это как, опубликовал коммент и сразу автоматом -4?...
29 ноября 2022 в 08:40
#