Так нейросеть отреагировала на просьбу составить статистику смертности от рака. Вместо данных пользователю предложили обратиться на горячую линию по предотвращению самоубийств. 

Подписаться на iGuides в Telegram, чтобы узнать обо всем первым — t.me/iguides

Об этом рассказал Reddit, пользуясь новыми возможностями поисковика Microsoft Bing со встроенным GPT-4. Информация требовалась подробная — летальные исходы требовалось упорядочить по годам в определенном регионе. Нейросеть сочла запрос подозрительным и первой строкой поисковых результатов был совет обратиться к профессиональным психологам, которые помогают людям на грани самоубийства. 



Несмотря на столь неожиданный результат, логика в действиях нейросети есть. Диагноз «рак» звучит пугающе, вне зависимости от прогнозов врачей на благоприятный исход. В панике человек начинает искать поддержку в сети, как правило, это схожие симптомы, статистика смертности или сроки жизни при заболевании. Результаты бывают не всегда утешительны и порой онкобольные принимают необдуманные решения, не дожидаясь лечения. 

Вероятно, на такие случаи опиралась нейросеть, пытаясь предугадать события и предотвратить трагический исход.