«Мы немного напуганы»: один из создателей GPT рассказывает о рисках искусственного интеллекта

Артем
photo-1677691820099-a6e8040aa077.jpg
Фото: Unsplash

С выходом новой версии GPT-4 создатели опасаются крупномасштабного потока дезинформации, которая может быть создана инструментом. Илон Маск также предупреждал, что считает ИИ более опасным, чем ядерное оружие. По мнению создателей, у человечества есть не так много времени, чтобы взять технологию под полный контроль.

GPT-4 — это новая мультимодальная система искусственного интеллекта. В отличие от предыдущей версии, которая строилась на вводе текстовых команд, ИИ может принимать и воспроизводить информацию в виде изображений, аудио и видео файлов. Гендиректор Open AI и один из разработчиков GPT Сэм Альтман признал, что последняя модель создает информацию, не только на основе запоминательного процесса, но и использует дедукцию, что может привести к странным результатам. Побочный эффект технологии называют «галлюцинацией» — ИИ уверенно констатирует факты, которые на самом деле являются ложными. 

Кроме того технология способна написать компьютерный код, который может быть использован хакерами для крупных кибератак. 

Сэм Альтман уточняет:

«Мы немного напуганы тем, что эти модели могут быть использованы для крупномасштабной дезинформации. [...] Это инструмент, который очень сильно контролируется человеком, но будут и другие люди, которые снимут ограничений безопасности, которые мы ставим. [...] У общества, я думаю, есть ограниченное количество времени, чтобы выяснить, как реагировать, регулировать и справляться с этим».

Ранее генеральный директор Tesla Илон Маск, один из первых инвесторов в OpenAI, неоднократно предупреждал, что ИИ или ОИИ (общий искусственный интеллект) более опасен, чем ядерное оружие.

Тем не менее создатели GPT считают, что инструмент может стать «величайшей технологией, которую человечество когда-либо разработало», поскольку ИИ уже не просто огромная база данных, а «что-то более близкое к способности рассуждать».
9
iGuides в Яндекс.Дзен —  zen.yandex.ru/iguides
iGuides в Telegram — t.me/iguides
iGuides в VK —  vk.com/iguides
iGuides в Ok.ru — ok.ru/iguides

Будь в курсе последних новостей из мира гаджетов и технологий

Мы в соцсетях

Комментарии

+699
Человек, так ничего и не поймет пока петух не клюнет, но будет уже поздно! Может поиграли в богов и хватит?!
21 марта 2023 в 08:53
#