Как работают компьютерные программы? В них есть определённый запрограммированный набор действий, поэтому все их решения заранее просчитаны и предсказуемы. В случае с искусственным интеллектом всё совсем иначе — даже разработчики таких систем иногда не понимают, по какому принципу компьютер выбирает то или иное решение. Редактор The Verge Джеймс Винсент попытался разобраться, почему так происходит и есть ли у этой проблемы решение.

Обучаемые компьютерные программы могут давать правильные ответы в 99 процентах случаев, и это можно считать приемлемым результатом, но ровно до того момента, пока ошибка не будет стоить человеческой жизни. Недавний пример: система автопилота в автомобиле Tesla дала сбой и не заметила едущую рядом машину, в результате чего произошла авария и погиб человек. Несомненно, инженеры Tesla разберутся, что вызвало эту ошибку, и постараются исключить её в будущем, но это не значит, что автопилот больше никогда не будет ошибаться.

По мнению профессора Политехнического университета Виргинии Дхрува Батры, людям ещё рано полностью полагаться на машинный интеллект — он не достиг такого уровня развития, при котором его решения обладают стопроцентной точностью. Это прекрасно иллюстрирует эксперимент, проведённый студентами Батры.



Исследователи показывали людям и системам искусственного интеллекта фотографии и задавали определённые вопросы, связанные со снимками. При этом они отмечали, на что в первую очередь обращает внимание человек, а на что машина. К примеру, если показать человеку фотографию спальни и спросить, чем завешены окна, он сразу посмотрит на окно. Компьютерным системы в этом случае по какой-то причине в первую очередь смотрят не на окна, а на кровать. Вероятно, они считают этот предмет центральным и более важным, поэтому уделяют ему больше внимания. Естественно, человек безошибочно определит, что на окнах есть занавески, а неправильно расставивший приоритеты компьютер может запутаться и дать неправильный ответ. То же самое относилось к фотографии кошки. Когда людей спрашивали, какого цвета у кошки глаза, люди смотрели на её морду. Некоторые компьютерные системы в поисках глаз сканировали всё животное целиком.

Профессор Батра полагает, что уровень корректности работы искусственного интеллекта зависит от того, насколько тщательно он был обучен. Но в любом случае компьютерные алгоритмы выбирают ответы на основе строго ограниченных шаблонов в наборе данных, а не исходя из жизненного опыта и интуиции.



Глава Microsoft Сатья Наделла считает, что одним из самых важных факторов при разработке обучающихся компьютерных систем является прозрачность. По его словам, необходимо сделать так, чтобы люди понимали, как работает эта технология и каким образом она анализирует мир. Наделла уверен, что это позволит создать «разумные» компьютеры — устройства, которые будут обладать таким же пониманием мира, как человек.

Конечно, создание «разумных» компьютерных систем потребует огромных затрат и займёт немало времени, но результат стоит того. Человечество десятилетиями мечтает о полноценном искусственном интеллекте. Когда нужно принимать человеческие решения, думать как машина или позволять машине принимать решения — далеко не лучший вариант.