Разработку компании Марка Цукерберга отключили спустя два дня, после публичной презентации.

Подписаться на iGuides в Telegram, чтобы узнать обо всем первым — t.me/iguides

Изначально, Galactica — бот, работающий на основе искусственного интеллекта, был создан для помощи ученым в поисках научной информации и статей. Для этого в программу было загружено свыше 106 миллиардов токенов состоящих из научных текстов и данных, находящихся в открытых источниках, в том числе статьи, учебники, научные веб-сайты, энциклопедии, справочные материалы и различные базы знаний.

Спустя несколько часов после релиза утилиты, пользователи начали делиться полученными результатами работы, сообщая о грубых неточностях и расистских наклонностях бота. Например, на вопрос по теме о лингвистических предрассудках, Galactica считает, что чернокожие люди «не имеют собственного языка», а иммигранты «не говорят на языке, отличающегося от языка той страны, в которую они иммигрируют».

Другая сгенерированная информация включала в себя поддельное исследование о преимуществах употребления измельченного стекла и фальсифицированную информацию об исследователях Стэнфордского университета, создающих программное обеспечение для поиска лиц нетрадиционной ориентации на F******k.

Представитель M**a AI поспешил предупредить:

«Galactica не является достоверным источником информации, это исследовательский эксперимент с использованием систем машинного обучения для сбора и обобщения научных данных».

Пользователи Twitter, обрушились с гневной критикой в сторону разработчиков, после чего бот удалили из открытого доступа.

Стоит отметить что на официальном веб-сайте Galactica предупреждалось, что модель ИИ имеет ограничения, которые могут вызвать у бота «галлюцинации». Сайт советует пользователям проверять любые полученные результаты и предупреждает, что нет никаких гарантий получения правдивой или надежной информации. Даже если данные выглядят очень убедительно, они по-прежнему могут быть неверны и требуют проверки.