По мере того, как мы все ближе подходим к очередной технологической революции — революции искусственного интеллекта — растет беспокойство, что она может стать последней для нас. Существует опасение, что интеллект машин скоро сравняется или даже превысит интеллект людей. Они могут обернуться против нас и заменить нас как доминирующую форму «жизни» на Земле.
Наши творения станут нашими повелителями — или, возможно, полностью уничтожат нас. Такие драматические сценарии, какими бы захватывающими они ни казались, отражают некоторое непонимание самой сути ИИ. И они отвлекают от более приземленных, но гораздо более вероятных рисков, связанных с этой технологией в ближайшем будущем, а также от ее самых впечатляющих преимуществ.
Победа ИИ над человеком уже давно стала предметом научной фантастики. Вспомните культовый фильм 2001 год: Космическая одиссея, где HAL 9000, разумный компьютер, управляющий работой межпланетного космического корабля, убивает большую часть команды из-за очень жестко заданных инструкций. Разумеется, можно вспомнить Скайнет в Терминаторах — суперкомпьютер министерства обороны США, решивший, что люди «лишние» на планете Земля и начавший ядерную войну.
В настоящее время такие сценарии стали чуть ли не естественными в научной фантастике: если в фильме есть достаточно интеллектуальная компьютерная система, то она сделает все возможное, чтобы выжить, что, вероятно, будет включать в себя достижение господства над человеческой расой.
Разбирающихся в нейросетях людей такие рассуждения озадачивают. Существует множество рисков ИИ, о которых по-настоящему стоит беспокоиться — например, экономические сбои, ошибки в жизненно важных приложениях и вооружение с «искусственным идиотом» внутри. Но на деле больше всего людей беспокоят властолюбивые роботы, решившие по собственной воле захватить власть над миром. Зачем разумному ИИ захватывать Землю? Едва ли это произойдет.
Стандартная интерпретация теста Тьюринга: сторонний наблюдатель должен определить, кто из собеседников машина, а кто человек. Если он не может это сделать, то машина обладает ИИ.
Мы слишком сильно переоцениваем угрозу захвата планеты ИИ, потому что мы склонны связывать интеллект со стремлением к доминированию. Эта путаница понятна: во время нашей эволюционной истории как приматов интеллект был ключом к социальному доминированию и обеспечил наш репродуктивный успех. И действительно, интеллект — это мощная адаптация: у нас нет рогов и острых когтей, зато есть огнестрельное оружие и ножи. Мы не умеем летать, поэтому построили самолеты, делающие это в разы лучше любых птиц.
Многие страны, в том числе и США, поднялись только благодаря рабам — еще один пример того, как интеллект позволяет доминировать. Но следует понимать, что интеллект сам по себе не генерирует тягу к превосходству, как это делают рога у быков.
Это просто способность приобретать и применять знания и навыки для достижения цели. Интеллект не обеспечивает саму цель, он лишь средство для ее достижения. «Естественный интеллект» — интеллект биологических организмов — является эволюционной адаптацией, и, как и другие подобные адаптации, он возник при естественном отборе, потому что он способствовал выживанию и дальнейшему размножению вида. Эти цели запрограммированы как инстинкты глубоко в нервной системе даже самых простых организмов.
Но поскольку системы искусственного интеллекта не прошли через горнило естественного отбора, им не нужно было развивать инстинкт самосохранения. В ИИ интеллект и выживание отделены друг от друга, поэтому интеллект может служить тем целям, которые мы перед ним ставим. Признавая этот факт, писатель-фантаст Айзек Азимов предложил свой знаменитый Первый закон робототехники: «робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред». И это правило до сих пор используется для проектирования роботов, работающих с людьми.
Заманчиво предположить, что если бы мы эволюционировали от какого-нибудь другого существа, такого как орангутанги или слоны (одни из самых разумных животных на планете), мы были бы менее склонны видеть неизбежную связь между интеллектом и доминированием. Вместо этого мы могли бы сосредоточиться на интеллекте как на инструменте расширения сотрудничества. Например, самки азиатских слонов живут в тесных кооперативных группах, но не демонстрируют четкой иерархии доминирования или матриархального лидерства.
Диаграмма прогресса ИИ в классификации изображений. Синие столбики — процент ошибок, допускаемых ИИ, красная линия — процент ошибок, допускаемых обученным человеком.
Интересно, что самцы слонов живут более свободными группами и часто борются за доминирование, потому что только самые сильные из них способны спариваться с лучшими самками. Орангутанги вообще живут в основном уединенно. Их самки не стремятся к матриархату, хотя самцы иногда конкурируют за доступ к ним. Эти и другие наблюдения показывают, что поведение, направленное на доминирование, в большей степени коррелирует с тестостероном, чем с интеллектом. Даже среди людей те, кто стремятся к власти, редко бывают самыми умными среди нас. Поэтому отсюда можно сделать простой вывод: ИИ не будет уничтожать «кожаных конкурентов». В нем банально не заложены принципы доминирования.
Беспокойство по поводу сценария развития нашей жизни с ИИ как в Терминаторе отвлекает нас от более реальных проблем, связанных с ним. Искусственный интеллект, разумеется, будут использовать в новейшем вооружении, и он может привести к новым способам ведения войны. ИИ также может разрушить большую часть нашей нынешней экономики. К примеру, одно исследование предсказывает, что в конечном итоге 47 процентов рабочих мест в США могут быть заняты умными роботами.
В то время как ИИ будет повышать производительность, создавать новые рабочие места и развивать экономику, рабочие должны будут переучиваться на новые специальности, и некоторые из них неизбежно останутся позади. Как и во многих предыдущих технологических революциях, ИИ может привести к дальнейшему росту неравенства в богатстве и доходах, если не будет введена новая налогово-бюджетная политика. И, конечно, есть непредвиденные риски, связанные с любой новой технологией — «неизвестные переменные». Все это гораздо важнее, чем искусственный интеллект с комплексом Наполеона.
Существует мало сомнений в том, что ИИ будет способствовать глубоким преобразованиям в течение следующих десятилетий. В лучшем случае, эта технология имеет потенциал, чтобы освободить нас от примитивной работы и создать утопию, в которой люди занимаются самосовершенствованием все свободное время. В худшем случае, в третьей мировой войне будут участвовать армии сверхразумных роботов. Но их не будут вести HAL, Скайнет или их новые родственники в стане ИИ. Даже в самом худшем случае роботы останутся под нашим командованием, и винить в итоге мы будем только самих себя.
