Названа работа, в которой ИИ не может заменить человека

Олег


Разработчики жалуются на постоянные ошибки ИИ при использовании его для выявления уязвимостей. Об этом пишет The Register.

Подписаться на iGuides в Telegram, чтобы узнать обо всем первым — t.me/iguides

Согласно источнику, неспособность нейросетей нормально выполнять поиск ошибок и уязвимостей в программном обеспечении была выявлена благодаря программе Vex Curl. Команда разработчиков платит деньги тем, кто находит серьезные уязвимости в их ПО и на текущий момент в рамках программы было выплачено уже более $70 тысяч.

Подписаться на iGuides в Telegram, чтобы узнать обо всем первым. 

В ходе работы эксперты столкнулись с проблемой: более 66% присланных отчетов на поверку оказываются ложными. Из 415 репортов действительно важными оказались всего 64, и еще 77 признали информативными, то есть не имеющими значительных последствий для безопасности.

Проверка показала, что аусорсеры, занимающиеся выявлением ошибок, начали использовать для этого нейросетевые модели. В результате сотрудники Curl получают множество отлично оформленных и легко читаемых отчетов, составленных чат-ботами, которые по сути своей оказываются ошибочными.

Разработчики называют это серьезной проблемой, поскольку использование ИИ в таком деле лишь прибавляет им работы: перебирать и проверять отчеты об уязвимостях им в любом случае приходится вручную. В вопросе поиска ошибок ПО нейросети пока неспособны заменить человека. 

7
iGuides в Дзене —  dzen.ru/iguides
iGuides в Telegram — t.me/iguides
iGuides в VK —  vk.com/iguides
iGuides в Ok.ru — ok.ru/iguides

Рекомендации

Рекомендации

Будь в курсе последних новостей из мира гаджетов и технологий

Мы в соцсетях

Комментарии

+408
Текущие нейросети с архитектурой трансформер склонны к галлюцинациям, поскольку натренированы на удовлетворение спрашивающего, а не на реальность. Ничего нового. Нейросети другой архитектуры могут вести себя иначе. А AGI ещё не достигнут, какой искусственный интеллект, вы о чём?)) его нет пока)
6 января 2024 в 15:55
#
–49
Да полно ещё профессий, где так называемый ИИ не сможет заменить человека.
6 января 2024 в 17:07
#
+1199
Я бы сказал, пока не много профессий, где может заменить. На гаджетах и компах жизнь не заканчивается.
6 января 2024 в 22:05
#
Dmitriy
+1178
пока оно является продвинутым споавочником, а авторы не знают иных профессий кроме ИТ.
7 января 2024 в 11:58
#

Читайте также