В предыдущей статье мы поговорили про малоизвестных женщинах-программистах, работающих с первым в мире суперкомпьютером Eniac. В этом же материале мы поговорим про ошибку Тьюринга, которую великий математик оставил специально.

В 1950 году, на заре эпохи цифровых технологий, Алан Тьюринг, логик, математик и криптограф, известный в том числе и тем, что разработал машину для взлома немецкого шифратора «Энигма», опубликовал статью, которая спустя пару лет стала самым популярным его материалом. Называлась она «Вычислительная техника и интеллект», и в ней он поднимал важный вопрос — могут ли машины мыслить?

Вместо того, чтобы пытаться определить термины «машина» и «думать», Тьюринг обрисовывает другой метод ответа на этот вопрос, основанный на развлечении, появившемся в Викторианскую эпоху. Называлось оно игрой в имитацию, и правила ее были, казалось бы, достаточно просты: мужчина и женщина в разных комнатах могут общаться с судьей посредством рукописных заметок. Судья должен был угадать, кто есть кто, но его задача осложнялась тем, что мужчина должет пытаться подражать женщине.


Немецкая шифровальная машина «Энигма». Сделанный Тьюрингом дешифратор существенно помог союзникам победить во Второй мировой войне.

Вдохновленный этой игрой, Тьюринг разработал мысленный эксперимент, в котором один участник был заменен компьютером. Если бы этот компьютер можно было запрограммировать так, чтобы он играл в имитацию настолько хорошо, что судья не смог бы определить, разговаривал он с машиной или же с человеком, тогда было бы разумным заключить, утверждал Тьюринг, что машина интеллектуальна. 

Этот мысленный эксперимент стал известен как тест Тьюринга, и он по сей день остается одной из самых известных и спорных идей в области искусственного интеллекта. Привлекательность этого теста состоит в том, что он обещает однозначный ответ на философски сложный вопрос: могут ли машины мыслить? Если компьютер проходит тест Тьюринга, то ответ вполне однозначен — да. Как писал философ Дэниел Деннет, тест Тьюринга должен был поставить точку в философских разногласиях. «Вместо того, чтобы бесконечно спорить о конечности природы и сущности мышления, — пишет Деннет, — почему бы нам всем не согласиться с тем, что какой бы ни была эта природа, все, что могло бы пройти это испытание, обязательно имело бы ее».

Но при более внимательном прочтении статьи Тьюринга обнаруживается небольшая деталь, которая вносит двусмысленность в тест, предполагая, что, возможно, Тьюринг считал его скорее философской провокацией об искусственном интеллекте, чем практической проверкой.


Алан Тьюринг, один из самых известных английских математиков начала и середины 20-ого века. Оказал существенное влияние на развитие информатики и компьютеров, а также формализировал понятие алгоритма.

В одном из разделов «Вычислительной техники и интеллекта» Тьюринг просимулировал, как может выглядеть тест воображаемого интеллектуального компьютера будущего. В нем человек задает вопросы, а компьютер отвечает.

Вопрос: Будь добр, напиши мне сонет на тему моста через Форт.
Ответ: Пожалуй, я пас. Я никогда не умел писать стихи.
В: Сложи 34957 и 70764.
О: (Компьютер выдерживает паузу в 30 секунд перед ответом) 105621.
В: Ты умеешь играть в шахматы?
О: Да.
В: [Описывает шахматную комбинацию]. Каков твой ход?
О: (Компьютер после паузы в 15 секунд) Ставлю тебе мат ладьей, приятель.

Выглядит все как обычный (ну, почти) разговор двух людей, не правда ли? Более того — в этом обмене сообщениями компьютер... допустил ошибку с арифметикой! Реальная сумма чисел — 105721, а не 105621. Крайне маловероятно, что Тьюринг, блестящий математик, оставил эту ошибку там случайно. Скорее, это своеобразное пасхальное яйцо для внимательного читателя.

Однако в другом месте статьи Тьюринг вскользь объясняет, что ошибка в расчете может быть специально запрограммирована — своего рода ловкость рук, чтобы одурачить судью. Тьюринг понимал, что если внимательные читатели ответов компьютера увидят ошибку, они поверит, что переписывались с человеком, предполагая, что машина не совершит такой грубый арифметический просчет. Машину можно запрограммировать так, чтобы она «преднамеренно вносила ошибки, рассчитанные на то, чтобы запутать судью», — пишет Тьюринг.



Хотя идею использования ошибок как способа подразумевания человеческого интеллекта, возможно, было трудно понять в 1950 году, на данный момент она стала практикой проектирования для программистов, работающих в области обработки естественного языка. Например, в июне 2014 года чатбот по имени Женя Густман стал первым компьютером, прошедшим тест Тьюринга. Но критики поспешили указать, что Женя прошел тест только из-за встроенного мошенничества: он симулировал 13-летнего мальчика, для которого английский был вторым языком. Поэтому его ошибки в синтаксисе и грамматике и неполное знание языка были приняты за наивность и незрелость, а не за недостатки в способности обрабатывать естественную речь.

Сюда же можно отнести Google Duplex — дополнение для Assistant, которое может делать за вас заказы по телефону: например, записаться в парикмахерскую, забронировать столик в ресторане, купить билеты и так далее. Публику удивила его способность подделывать естественную речь человека, в том числе делать паузы в разговоре и заполнять их соответствующими звуками. Но, опять же, это не подлинное мышление со стороны машины, а вручную запрограммированные действия, дабы лучше симулировать человеческий стиль общения.

Оба случая являются воплощением идеи Тьюринга о том, что компьютеры могут быть спроектированы так, чтобы совершать простые ошибки, создавая впечатление человечности. Как и Тьюринг, программисты Юджина Густмана и Duplex понимали, что базовой симуляции человеческих привычек и ошибок может быть достаточно, чтобы обмануть нас.

Отсюда следует достаточно интересная мысль: вполне возможно, что тест Тьюринга нужен не для того, чтобы оценивать машину на разумность, а проверять то, готовы ли мы считать ее разумной. Как сказал сам Тьюринг: «идея интеллекта сама по себе эмоциональная, а не математическая. Степень, с которой мы воспринимаем что-то как разумное поведение, определяется как нашим собственным состоянием ума и обучением, так и свойствами рассматриваемого объекта».

Поэтому, возможно, интеллект — это не строчки кода, которыми можно запрограммировать машину — что, судя по всему, предложил Тьюринг — а качество, построенное на основе социального взаимодействия.