Чат-бот Bard от Google поймали на наглом вранье

Александр



Астроном Брюс Макинтош и астрофизик Грант Тремблей обнаружили ошибку, допущенную при демонстрации возможностей чат-бота Bard, созданного компанией Google для конкуренции с ChatGPT. Эта ошибка указывает на фундаментальные проблемы всех подобных проектов и ставит под сомнение возможность их широкого применения.

Учёные задали чат-боту запрос, о каких открытиях, сделанных с помощью телескопа «Джеймс Уэбб», можно рассказать 9-летнему ребёнку, и Bard перечислил несколько, в том числе указал, что «Джеймс Уэбб» первым сделал фотоснимки планет за пределами Солнечной системы.



Кому как не Макинтошу знать, что Bard ошибся, ведь ещё за 14 лет до запуска «Джеймса Уэбба» именно он первым сфотографировал экзопланету с помощью Very Large Telescope, а чат-бот приписал его заслуги кому-то другому. Получилось обидно!



Тремблей пояснил коллеге, что чат-боты, вроде ChatGPT и Bard, уверенно отвечают на вопросы и приводят любою информацию как факт не подвергая её сомнению, по одной простой причине — они так запрограммированы. В ином случае им бы меньше доверяли, и эффект от их использования не был бы таким впечатляющим. Пользователю пришлось бы перепроверять информацию в других источниках, а это делает бессмысленным существование таких ботов.

Эксперты, хорошо знакомые с работой нейросетей, пояснили изданию The Verge, что нейросетевые чат-боты обучаются на огромных массивах данных в интернете, собирая информацию с сайтов, где она зачастую бывает непроверенной и недостоверной. Эти инструменты неспособны проверять фактологию, для них гораздо важнее расстановка слов в правильном порядке, чтобы текст казался осмысленным и приближенным к тому, что мог бы написать живой человек.

Полагаться на ChatGPT и Bard как на всезнающие машины не стоит, ведь они обладают ровно той информацией, которая выложена в интернете, а она противоречива и зачастую ошибочна.

Гаджеты Google и многое другое вы можете купить у наших друзей из Big Geek. Скидка по промокоду iGuides
11
iGuides в Яндекс.Дзен —  zen.yandex.ru/iguides.ru
iGuides в Telegram — t.me/igmedia

Будь в курсе последних новостей из мира гаджетов и технологий

Мы в соцсетях

Комментарии

+173
Мир всё сильнее погрязает во лжи… и чем дальше, тем больше…
9 февраля 2023 в 07:38
#
tellurian
+5082
С учётом потока информации отличить ложь от правды очень сложно. Иногда люди не готовы видеть или слышать правду.
9 февраля 2023 в 10:56
#