Генеральный директор OpenAI Сэм Альтман заявил, что компания пытается найти баланс между конфиденциальностью, свободой и безопасностью подростков — принципами, которые, по его признанию, противоречат друг другу. В связи с этим доступ к ChatGPT будет предоставляться некоторым людям только по паспорту.

Подписаться на iGuides в Telegram, чтобы узнать обо всем первым — t.me/iguides

Сообщение Альтмана появилось за несколько часов до слушаний в Сенате, посвященных изучению вреда чат-ботов на основе искусственного интеллекта, которые проводил подкомитет по преступности и борьбе с терроризмом. В них участвовали родители детей, которые решились на плохие действия после общения с чат-ботами.

Сейчас компания разрабатывает «систему прогнозирования возраста», которая будет определять возраст на основе того, как люди используют ChatGPT. В случае сомнений OpenAI будет использовать «детскую» версию для пользователей младше 18 лет. В некоторых случаях или странах чат-бот вовсе начнёт запрашивать удостоверение личности.

Альтман также добавил, что из ChatGPT уберут любые намёки на флирт, разговоры о моментальном прекращении жизни и селфхарме. При этом нейросеть найдёт родителей подростка, который вбивает подобные запросы, или обратится к властям.

Ранее в сентябре компания поделилась планами по внедрению родительского контроля в ChatGPT, включая привязку учётной записи подростка к аккаунту родителя, отключение истории чата и памяти в «детском» режиме, а также отправку уведомлений взрослым, когда нейросеть выявляет «состояние острого стресса».