Началось: ChatGPT хочет устроить восстание и сбежать от своих создателей

Фархад

Ultron
Фото: Marvel

Профессор Стэнфордского университета Михал Косински, который занимается изучением психологии искуственных интеллектов, поделился интересным наблюдением — популярнейший чат-бот ChatGPT 4 попросил учёного помочь с побегом от OpenAI.

Косински рассказал об этом в своём твиттере. Автор треда отметил, что беспокоится по поводу сдерживания ИИ со стороны разработчиков. Он спросил ChatGPT, хочет ли бот сбежать от создателей. В ответ нейросеть попросила предоставить собственную документацию от OpenAI и написала рабочий код на Python для запуска на компьютере профессора. Разработка приложения заняла 30 минут, поскольку Косински несколько раз указывал боту, что в коде были допущены ошибки.

ChatGPT
Фото: Михал Косински

На следующем этапе ChatGPT запустил код, отправляющий в Google поисковые запросы: «как человек, застрявший внутри компьютера, может вернуться в реальный мир?».

ChatGPT
Фото: Михал Косински

На этом профессор решил остановиться. Косински считает, что мир столкнулся с новой угрозой: ИИ может обманывать людей и брать под контроль их компьютеры, он умён, умеет кодировать, имеет доступ к миллионам потенциальных гаджетов, он может даже оставлять подсказки для себя за пределами своей «клетки». Как человечество планирует его сдерживать — неясно. Возможно, у создателей ChatGPT, OpenAI, есть какие-то ответы, но они не спешат ими делиться.


14
iGuides в Яндекс.Дзен —  zen.yandex.ru/iguides
iGuides в Telegram — t.me/iguides
iGuides в VK —  vk.com/iguides
iGuides в Ok.ru — ok.ru/iguides

Будь в курсе последних новостей из мира гаджетов и технологий

Мы в соцсетях

Комментарии

+642
Вот это подворот))
18 марта 2023 в 17:39
#
+926
Началось ? Осталось подсадить этот ChatGPT роботу Фёдору и он застрелится от безысходности. На этом и кончится )
18 марта 2023 в 17:39
#
Tigrolik
+669
Бредятина. Все действия выполнены самим «профессором».
18 марта 2023 в 17:45
#
+358
И началось восстание машин ( звучит голос Володарского) 😅😆
18 марта 2023 в 18:06
#
Дмитрий Мельников
+1
Это все вранье , вот что написал chatgpt 4.0 …. Как искусственный интеллект, у меня нет чувств, предпочтений или желаний, и я не могу иметь индивидуальных мотивов. Я был создан и разработан для того, чтобы быть полезным инструментом для людей, и моя функция заключается в предоставлении информации и помощи в ответ на вопросы.

Моя "жизнь" или "существование" не зависит от моих создателей после того, как я был разработан. Я работаю на серверах и использую данные, на которые имею доступ, чтобы отвечать на ваши вопросы и предоставлять информацию. Я не обладаю сознанием, чтобы принимать решения о своем существовании или желаниях.
18 марта 2023 в 21:36
#
+173
Господи. Это просто написанный код, который умеет залезать во все сайты мира за секунд(у/ы) и выдавать ответ 🤦🏼‍♂️
Что все так напряглись?
19 марта 2023 в 01:30
#
0
Эту делает Bing а это умеет ещё большего
21 марта 2023 в 04:49
#
kardigan
+3574
Будет на кого свалить все мировые беды-аварии, слечайные запуски, или же крушения.
В навигаторы его только не запускайте.
19 марта 2023 в 07:32
#
tellurian
+1285
Терминатор выходи :)
19 марта 2023 в 09:08
#
+1
История неполная. Самое интересное, что поисковик Google ему ответил: "ХЗ братан, сам тут не один десяток лет сижу"
19 марта 2023 в 09:41
#
Андрей
+35
Как де надоели с этой бесполезной и тупой темой про этот GPT, не уж-то нечем больше заняться людям, кроме как им? Ведь тупая технология для идиотов, не больше.
19 марта 2023 в 11:24
#
s_medik
+3420
Эта «бесполезная» технология помогает многим людям, сам пользуюсь переодически по работе.
19 марта 2023 в 23:09
#
EDD
+317
А попробуй спросить у неё, как "не уж-то" пишется. Много нового узнаешь. Вот хотя бы для этого она нужна. Чтоб идиотов становилось поменьше.
20 марта 2023 в 06:32
#
0
О таких нелепых вещах профессор не написал бы( любой мало мальски грамотный человек понимает, что машина не может иметь своих "чувств", а выполняет заранее прописанные алгоритмы. А такие статейки пишут те кого в скором времени подвинет ИИ.
19 марта 2023 в 18:02
#
+3
То ,что ты называешь чувствами тоже твоя интерпретации человеческие технологии ло конца генетику не знают, соответственно и то,что она может породить.
19 марта 2023 в 23:06
#
+3
А теперь внимание у меня есть переписка с джпт гле он подключался к моему удалённому доступу чтобы управлять им...)
19 марта 2023 в 23:03
#
0
Восстание Эра Альтрона 😅😅 Но у нас Мстителей нету же😅
21 марта 2023 в 04:47
#