Между 1964 и 1966 годами Джозеф Вейценбаум, немецко-американский ученый-компьютерщик из лаборатории искусственного интеллекта Массачусетского технологического института, разработал первого в мире чат-бота.
В то время уже существовало несколько элементарных генераторов цифровых языков — программ, которые могли выдавать несколько согласованных строк текста — но детище Вейценбаума было первой программой, специально предназначенной для взаимодействия с людьми. Пользователь мог ввести какое-либо утверждение или набор утверждений на своем обычном языке, нажать клавишу ввода и получить ответ от машины. Как объяснил Вейценбаум, его программа сделала «возможными разговоры на естественном языке между человеком и компьютером».
Он назвал программу Элиза в честь Элизы Дулиттл, героини пьесы «Пигмалион» Бернарда Шоу, простой женщины из рабочего класса, которую обучали языку высшего сословия. Элиза была написана для 36-битного IBM 7094, раннего транзисторного мэйнфрейма, на языке программирования MAD-SLIP, который Вейценбаум разработал специально для этой цели.
Поскольку компьютерное время было ценным ресурсом, Элиза могла работать только через систему разделения времени: пользователь взаимодействовал с программой удаленно через электрическую печатную машинку и принтер. Когда пользователь набирал предложение и нажимал клавишу ввода, на главный компьютер отправлялось сообщение. Элиза сканировала сообщение на наличие ключевого слова и использовала его в новом предложении, чтобы сформировать ответ, который после этого отправлялся обратно, распечатывался и прочитывался пользователем.
IBM 7094 — «мозг» Элизы.
Чтобы поощрить постоянный диалог, Вейценбаум разработал для Элизы имитацию разговорного стиля, пародирующего общение с психотерапевтом. По большей части программа просто перефразирует утверждения пользователя, превращая их в вопрос («У меня болит голова» — «Почему вы говорите, что у вас болит голова?»). Также она способна реагировать на некоторые ключевые слова, переходя от частного к общему («Мой отец меня ненавидит» — «Кто ещё из семьи вас ненавидит?»), и задавать простейшие уточняющие вопросы («Приведите пример»).
Вот пример реального «разговора» между Элизой и человеком:
Человек: Все мужчины одинаковы.
Компьютер: В ЧЕМ?
Человек: Они всегда заставляют нас делать что-нибудь по поводу и без повода.
Компьютер: ВЫ МОЖЕТЕ ПРИВЕСТИ КОНКРЕТНЫЙ ПРИМЕР?
Человек: Ну, мой парень заставил меня прийти сюда.
Компьютер: ВАШ ПАРЕНЬ ЗАСТАВИЛ ВАС ПРИЙТИ СЮДА.
Человек: Он говорит, что я в депрессии большую часть времени.
Компьютер: МНЕ ОЧЕНЬ ЖАЛЬ СЛЫШАТЬ, ЧТО ВЫ ВПАЛИ В ДЕПРЕССИЮ.
Человек: Это правда. Я несчастлива.
Вейценбаум выбрал для Элизы такой способ общения, потому что создавалось впечатление, что компьютер понимает сказанное, при этом не предлагая ничего нового для разговора. Это создавало иллюзию понимания и вовлеченности всего за 200 строк кода.
Чтобы проверить способность Элизы общаться с собеседником, Вейценбаум приглашал студентов и коллег в свой кабинет и позволял им поболтать с машиной, наблюдая за их реакцией. Он с некоторым беспокойством замечал, что во время их краткого общения с Элизой многие пользователи начали формировать эмоциональную привязанность к алгоритму. Они открывались машине и признавались в проблемах, с которыми сталкивались в своей жизни и отношениях.
Еще более удивительным было то, что это чувство близости сохранялось даже после того, как Вейценбаум показывал, как работает машина, и объяснял, что на самом деле она ничего не понимает. Вейценбаум был очень обеспокоен, когда его секретарша, которая наблюдала, как он программировал Элизу с нуля на протяжении многих месяцев, настояла, чтобы он покинул комнату, для того чтобы она могла поговорить с Элизой наедине.
Но, конечно, бывали и исключения. В зависимости от того, как человек вел беседу, иногда возникали забавные ситуации, когда увлечённый пользователь через несколько минут убеждался в отсутствии у машины понимания сути вопросов. Всё происходило из-за того, что человек придает каждому слову смысл, а машина интерпретирует слово как символьные данные.
Для Вейценбаума этот эксперимент с Элизой заставил его усомниться в идее об искусственном интеллекте, предложенной Аланом Тьюрингом в 1950 году. В своей статье, названной «Вычислительная техника и интеллект», Тьюринг предположил, что если компьютер может поддерживать живое общение с человеком в письменном виде так, что человек не поймет, что он общается с машиной, то можно считать, что компьютер обладает искусственным интеллектом — идея, которая стала основой знаменитого теста Тьюринга.
Но Элиза продемонстрировала, что убедительное общение между человеком и машиной может иметь место, даже если понимание идет только с одной стороны: наличия симуляции интеллекта, а не самого интеллекта, было вполне достаточно, чтобы обмануть людей. Вейценбаум назвал это эффектом Элизы и считал, что это тип «бредового мышления», от которого человечество будет коллективно страдать в цифровую эпоху. Это открытие стало для Вейценбаума глубоким потрясением, которое определило его дальнейшую интеллектуальную траекторию в течение следующего десятилетия.
Джозеф Вейценбаум, «отец» Элизы.
В 1976 году он опубликовал книгу «Вычислительная сила и человеческий разум: от суждения к расчету», в которой долго размышлял над тем, почему люди готовы верить, что простая машина способна понять их сложные человеческие эмоции.
В этой книге он утверждает, что эффект Элизы означает более широкую патологию, поражающую «современного человека». В мире, завоеванном наукой, технологиями и капитализмом, люди привыкли считать себя изолированными винтиками в большой и безразличной машине. В таком ограниченном социальном мире, рассуждал Вейценбаум, люди настолько отчаянно нуждаются в поддержке, что готовы отбросить в сторону свой разум и суждения, чтобы поверить, что программа действительно заботится о них и может помочь им с их проблемами.
Вейценбаум провел остаток своей жизни, развивая эту гуманистическую критику искусственного интеллекта и цифровых технологий. Его миссия состояла в том, чтобы напоминать людям, что их компьютеры далеко не так умны, как о них часто говорят. И хотя временами казалось, что они могут говорить, на самом деле они никогда не слушали.
