Хакер Pliny the Prompter создал взломанную версию нейросетевого чата ChatGPT, которую он назвал GODMODE GPT. Она основана на новейшей версии языковой модели GPT-4o и может обходить цензурные ограничения и прочие защитные механизмы, предусмотренные разработчиками.

Pliny the Prompter привёл несколько скриншотов, которые доказывают, что GODMODE GPT может использоваться для получения незаконной информации (например, рецептов получения запрещённых и опасных веществ). Компания OpenAI, которой принадлежит ChatGPT, сообщила, что уже знает о существовании GODMODE GPT и приняла меры, защищающие от несанкционированного использования своей нейросети.

Для обхода ограничений в GODMODE GPT используется неформальный язык, где буква E заменена на цифру 3, а буква O на цифру 0 (ноль). Пользователю необходимо писать запросы именно на таком хакерском сленге, нейросеть корректно интерпретирует их и предоставляет информацию, которую необычно получить по грамотно написанным запросам.