Канта Дихал о древнем страхе перед ИИ

В середине сентября в Санкт-Петербурге прошла конференция о будущем искусственного интеллекта Global AI Narratives, которую открыла исследователь из Центра будущего интеллекта при Кембриджском университете Канта Дихал. Ниже предлагается краткое изложение ее доклада. Матросы и дочь Декарта Искусственный интеллект (ИИ), кажется, есть повсюду, но он не мог появиться из ниоткуда. Не бывает так, чтобы конструктор ИИ проснулся однажды утром и сказал себе: «Я построю умную машину». У этих идей есть очень долгая история — начиная с небольшого рассказа о любви, смерти и роботах в XVII веке, во Франции. Именно тогда французский философ Рене Декарт предположил, что живые существа — это на самом деле машины; что в любом организме всё работает по заданной схеме, и только люди являются чем-то особенным, ведь у них есть душа. Для той эпохи это была крайне радикальная идея. Декарт был очарован автоматонами — заводными механизмами, куклами, которые могли самостоятельно писать, говорить или проигрывать музыку. Для него они были доказательством концепции животных-машин, ведь если деятельность человеческого тела можно воспроизвести с помощью механизма, то и прототип, то есть человеческое тело, подчиняется тем же правилам. Куда менее известно, что у Декарта была внебрачная дочь, которую звали Франсина и которая была рождена служанкой-датчанкой. Философ, по-видимому, действительно любил и свою дочь, и её мать, поэтому жил вместе с ними, хотя это считалось крайне неподобающим поведением в то время. Но затем Франсина умерла в возрасте пяти лет. Достоверные факты тут заканчиваются, но есть легенда, что философ был настолько опечален потерей дочери, что воскресил её. Он построил роботизированное подобие Франсины: механическая девочка могла двигаться, ходить и говорить, оставаясь с Декартом круглые сутки. Когда философ спал, она лежала в небольшом ящике рядом с кроватью. Потом шведская королева Кристина пригласила Декарта ко двору, и он, конечно, взял с собой механическую девочку. Водный путь из Франции в Швецию был неблизок, поэтому капитан и команда успели заподозрить неладное, приметив таинственный ящик в каюте философа. По ночам они слышали голоса, хотя Декарт должен был находиться у себя в одиночестве. Матросы перешёптывались: «Стоит плохая погода. Наверное, этот философ — чародей, который занимается чёрной магией, вызывающей ненастье». Однажды, пока Декарт спал, они вломились в его каюту и открыли ящик. К их ужасу, девочка, находившаяся внутри, села и начала говорить с ними. В шоке от того, что увидели, матросы выбросили её в море. Конечно, это выдумка, причём появившаяся лет через сто лет после смерти Декарта. Но мне особенно нравится в ней то, как она объединяет в себе надежды и страхи, проявляющиеся в западных нарративах «умных» машин. Для философа Декарта в этом рассказе автоматон оказался источником вдохновения: он дал ему возможность исполнить сокровенное желание и вернуть свою любимую Франсину, выйдя за ограничения, наложенные природой. Однако для команды корабля, которая, вскрыв ящик, обнаружила нечто, нарушающее законы природы, автоматон предстал ужасным злом, которое должно быть немедленно уничтожено. При своём развитии технологии всегда провоцировали подобные надежды и страхи в людях, но искусственный интеллект уникален, поскольку обретает качества, которые, определённо, принадлежат самим людям. Именно поэтому идея сосуществования с «умной» машиной порождает концептуальные крайности. От Гомера до Гофмана Самое древнее известное упоминание ИИ встречается у древнегреческого поэта Гомера в поэме «Илиада», датируемой примерно VIII веком до нашей эры. Там есть сцена, где бог Гефест работает в своей кузнице, а ему помогают существа, которых поэт описывает следующим образом: «Прислужницы, под руки взявши владыку, шли золотые, живым подобные девам прекрасным, кои исполнены разумом, силу имеют и голос». Гефест, который родился травмированным, сделал себе целую команду антропоморфных ИИ, облегчающих ему жизнь. Есть и менее известные легенды, приписывающие Гефесту ещё более необычные технологические изобретения: например Талоса — гигантского бронзового автоматона, патрулирующего берега острова Крит и швыряющего камни во вражеские корабли. Получается, что и первый робот-убийца тоже появился в греческой мифологии. Фантастика Гомера основывалась на реальности, поскольку технологии его времени были на удивление продвинуты в области строительства автоматонов. Греки действительно умели создавать машины, которые выглядели и вели себя словно живые существа. К примеру, на Олимпийских играх появлялись бронзовые автоматоны, а в книге, написанной Героном Александрийским в I веке нашей эры, можно найти «автоматический театр», способный воспроизвести целую пьесу. Во всех этих историях «умные» машины связаны с человеческими надеждами обретения идеальных слуг, которые всегда подчиняются и помогают, которые никогда не устают и не восстают. Со временем люди вновь заинтересовались «умными» машинами. В средние века сформировался образ металлического солдата: скажем, в историях о Ланселоте Озёрном (Lancelot du Lac) фигурируют жестокие медные рыцари. В ходу была легенда о том, как знаменитый философ Роджер Бэкон создал бронзовую голову, способную ответить на любой вопрос. Новые истории практически всегда заканчивались плохо: «умные» машины вызывают безотчётный ужас, поэтому их кто-нибудь уничтожает. Мораль рассказов об искусственном интеллекте того времени поддерживала человеческие страхи: творцом жизни и разума должен оставаться Бог, а в попытках повторить Его работу всегда есть нечто дьявольское. Однако на следующем этапе надежды вернулись. Со второй половины XVII века до XIX века включительно вся Европа была одержима конструированием автоматонов, поэтому истории о них снова стали позитивными. Например, знаменитый французский изобретатель Жак де Вокансон построил утку, которая изображала поедание пищи, питьё и даже испражнение. Помимо шутливого назначения, эта машина была отличным способом продемонстрировать работу организма-прототипа. Несколько десятилетий спустя изобретатель Вольфганг фон Кемпелен построил шахматную машину «Турок» (Schachtürke), которая вызвала ажиотаж в Европе. Её возили по разным странам в течение семидесяти лет; она даже сыграла в шахматы с Наполеоном, победив его. Поэтому многие начали подозревать, что «Турок» не может быть разумным, что применён трюк. Однако никто не мог точно сказать, как машина работает, поэтому появилось множество картинок, демонстрирующих карлика или ребёнка у неё внутри. Позднее выяснилось, что внутри стола машины всё-таки прятался живой игрок, причём его роль поочерёдно исполняли действительно отличные шахматисты. Но, несмотря на разоблачение, культурное наследие поддельного автоматона оказалось настолько действенным, что оно до сих пор живёт в виде онлайн-платформы Amazon Mechanical Turk, где любой человек может зарегистрироваться, чтобы выполнять задачи типа заполнения электронных опросов и расшифровки изображений, то есть совершать действия, которые самые «умные» компьютерные программы пока не способны осилить. Бунт человекоподобных: робот как зомби Шахматный «Турок» и механическая утка не были ни разумны, ни автономны. Соответственно, их даже с натяжкой нельзя квалифицировать как настоящий ИИ. Но они доказывали, что имитация жизни механическими средствами возможна. И люди начали беспокоиться: а что если автоматоны станут слишком похожи на живых? Великий романтик Эрнст Теодор Амадей Гофман в новелле «Песочный человек» (Der Sandmann) рассказывал о мужчине, который влюбляется в красивую молодую девушку по имени Олимпия, а потом узнаёт, что она — автоматон. Персонаж морально раздавлен и в финале прыгает с моста. Зигмунд Фрейд прочёл новеллу и начал исследовать, почему мы находим эти машины такими очаровательными. Он пришёл к выводу, что андроиды вводят нас в неуверенность относительно того, смотрим мы на нечто живое или мёртвое. Страх этот похож на тот, который мы испытываем при виде кинематографических зомби или вампиров, — мы уверены: то, на что мы смотрим, не должно жить, но оно живёт. Таким образом, антропоморфные роботы могут быть пугающими, а Фрейд исследовал этот психологический аспект первым из учёных. Истории о том, что когда-нибудь андроиды станут слишком человекоподобными, получили активное развитие в ХХ веке. Для примера можно вспомнить фильм «Степфордские жёны» (The Stepford Wives), снятый в 1975 году по одноимённому роману Айры Левина. Он рассказывал о мужчинах в небольшом американском городке, которые убивали своих жён, заменяя их андроидами. Понятно, что интерес к антропоморфным машинам был связан с индустриализацией. Именно на заре смены производственного уклада появился на свет термин «робот» — в пьесе R.U.R.: Rossumovi univerzální roboti, написанной чехом Карелом Чапеком в 1920 году. В ней же, как известно, роботы восстают против людей и убивают всех. Этот страх перед угрозой бунта «умных» машин оставался с нами на протяжении ХХ века. В новейшее время традиция модифицируется. С одной стороны, всё ещё встречаются истории о бунте, с другой — формируется привлекательный образ «умных» машин. Вы знакомы с роботом Spot производства Boston Dynamics? Он отдалённо похож на собаку и стал звездой на YouTube. Его производитель выпустил видео, в котором рекламируется: «Наши роботы оснащены отличными гироскопами, их можно ударить и они не упадут, настолько они прочны и хороши». А в комментариях пользователи начали писать в таком духе: «Ох, как грустно, бедный робот, мне его жалко, я хочу его обнять». Получается, что они рассматривают робота как живое существо, достойное сочувствия! От страха к надежде Мы надеемся когда-нибудь обрести идеальное здоровье, долголетие и даже бессмертие. И есть истории типа «Видоизменённого углерода» (Altered Carbon) Ричарда Моргана, где с помощью ИИ всё это становится осуществимым. Но тут же возникает страх: если мы заменим все части тела иными (механическими, искусственными, клонированными и т.п.) элементами, останемся ли мы людьми? Что если придётся пожертвовать индивидуальностью и самой личностью? Другое требование к ИИ — обеспечение безопасности. Допустим, у нас есть бессмертное тело, но мы всё равно остаёмся уязвимыми, ведь существуют глобальные угрозы: война, падение астероида, изменение климата и т. п. Отсюда вырастает целое дерево всевозможных образов ИИ: от суперсолдат вроде Талоса до электронного повелителя мира, решающего за нас любые проблемы. И, конечно, тут же присутствует страх: если мы дадим искусственному интеллекту коды для запуска ядерных ракет, он ведь может использовать их против самих людей, как поступил Skynet в незабвенном «Терминаторе». Третий вид надежды — ИИ должен облегчить нам жизнь, взяв на себя всю рутинную и грязную работу. Страх здесь состоит в том, что роботы будут делать за нас всё вообще, включая творческий труд, и тогда для нас не останется ни одного достойного места в прекрасном мире будущего. Не приведёт ли это к тому, что мы всю жизнь будем проводить в креслах, глядя фильмы, созданные ИИ, как показано в «ВАЛЛ-И» (WALL-E)? Наконец, присутствует надежда на то, что ИИ упростит наше социальное взаимодействие, подстраиваясь под индивидуальные запросы каждого. Сейчас появились такие программные пакеты, как чат-боты, созданные для того, чтобы стать вашим и только вашим другом. Вы можете с ним говорить, и этот ИИ будет отвечать адекватно, будет с вами добр, никогда не устанет от вас, никогда не будет зол на вас — идеальный друг, родитель, ребёнок или даже любовница, как в фильме «Она» (Her). Страх заключается в том, что ИИ полностью завоюют наше внимание и мы проведём жизнь, общаясь с собственным отражением в зеркале. Я надеюсь, что в следующий раз, когда вы встретите повествование об «умной» машине, то задумаетесь, на чём оно может быть основано — не столько с точки зрения разрабатываемых сегодня технологий, сколько с позиции древних историй о золотых девах, построенных Гефестом. Возможно, это поможет вам разглядеть реальную, а не фантастическую перспективу. Подготовили: Алексей Первушин, Антон Первушин