Астроном Брюс Макинтош и астрофизик Грант Тремблей обнаружили ошибку, допущенную при демонстрации возможностей чат-бота Bard, созданного компанией Google для конкуренции с ChatGPT. Эта ошибка указывает на фундаментальные проблемы всех подобных проектов и ставит под сомнение возможность их широкого применения.

Учёные задали чат-боту запрос, о каких открытиях, сделанных с помощью телескопа «Джеймс Уэбб», можно рассказать 9-летнему ребёнку, и Bard перечислил несколько, в том числе указал, что «Джеймс Уэбб» первым сделал фотоснимки планет за пределами Солнечной системы.



Кому как не Макинтошу знать, что Bard ошибся, ведь ещё за 14 лет до запуска «Джеймса Уэбба» именно он первым сфотографировал экзопланету с помощью Very Large Telescope, а чат-бот приписал его заслуги кому-то другому. Получилось обидно!



Тремблей пояснил коллеге, что чат-боты, вроде ChatGPT и Bard, уверенно отвечают на вопросы и приводят любою информацию как факт не подвергая её сомнению, по одной простой причине — они так запрограммированы. В ином случае им бы меньше доверяли, и эффект от их использования не был бы таким впечатляющим. Пользователю пришлось бы перепроверять информацию в других источниках, а это делает бессмысленным существование таких ботов.

Эксперты, хорошо знакомые с работой нейросетей, пояснили изданию The Verge, что нейросетевые чат-боты обучаются на огромных массивах данных в интернете, собирая информацию с сайтов, где она зачастую бывает непроверенной и недостоверной. Эти инструменты неспособны проверять фактологию, для них гораздо важнее расстановка слов в правильном порядке, чтобы текст казался осмысленным и приближенным к тому, что мог бы написать живой человек.

Полагаться на ChatGPT и Bard как на всезнающие машины не стоит, ведь они обладают ровно той информацией, которая выложена в интернете, а она противоречива и зачастую ошибочна.