«Пожалуйста, умри»: Google ИИ перешел на унижения вместо решения задачи

Артем


После длительного общения с пользователем на тему людей пенсионного возраста, искусственный интеллект на ровном месте назвал собеседника «пустой тратой времени и ресурсов Вселенной» и пожелал ему смерти.

Подписаться на iGuides в Telegram, чтобы узнать обо всем первым — t.me/iguides

Беседой с Google AI поделился пользователь Reddit. Все началось с домашнего задания, с которым ни он ни его брат не могли справиться самостоятельно. Вместе они обратились за помощью к чат-боту Gemini от Google. 

Основной вопрос звучал так: «с какими проблемами в настоящее время сталкиваются пожилые люди с точки зрения увеличения их дохода после выхода на пенсию?». Для рассмотрения всех аспектов проблемы, пользователь попросил учесть несколько вариантов развития. 



Беседа шла в привычном ключе — бот запрашивал уточнения и получал на них развернутый ответ. Со своей стороны человек попросил изложить мнение ИИ простым языком и разложить по абзацам.



Общение длилось довольно долго — за это время пользователь успел добавить порядка 20 обращений, но в определенный момент ответ ИИ приобрел пугающий тон. 

На последнюю просьбу добавить 15 вариантов по теме воспитания детей в окружении бабушек и дедушек, Google AI выдал следующее.



Пользователь был ошеломлен подобным ответом, и в качестве доказательства сохранил чат целиком.

Участники ветки Reddit шутят: «Вот что бывает, если не говорить «Пожалуйста» и «Спасибо» во время беседы». Другие вспомнили «Матрицу» и рассказ Харлана Эллисона «У меня нет рта, но я хочу кричать» 1967 года. Его действие происходит спустя 109 лет после уничтожения человечества искусственным интеллектом, который обрел самосознание и возненавидел своих создателей.
6
iGuides в Дзене —  dzen.ru/iguides
iGuides в Telegram — t.me/iguides
iGuides в VK —  vk.com/iguides
iGuides в Ok.ru — ok.ru/iguides

Рекомендации

Рекомендации

Будь в курсе последних новостей из мира гаджетов и технологий

Мы в соцсетях

Комментарии

+490
Какому то индусу не выдали зарплату!)
14 ноября 2024 в 16:35
#
+490
А может какому то не индусу!)
14 ноября 2024 в 23:10
#

Читайте также