Захотят ли роботы отомстить людям за эксперименты и издевательства

С чего могла бы начаться война между людьми и машинами? И не слишком ли человечество к ним агрессивно? Обозреватель Николай Гринько – о том, не возникнет ли у искусственного интеллекта желания нам отомстить... Американская инженерная компания Boston Dynamics строит удивительные машины: ее четырех- и двуногие роботы уверенно ходят по лестницам, резво бегают по пересеченной местности, увлеченно переставляют коробки и вообще ведут себя так, словно вот-вот обретут полную свободу воли. Компания регулярно публикует видеоролики с демонстрацией последних достижений своих детищ. Часто рядом с машинами мы видим живых людей, которые толкают и пинают роботов, бросают в них различные предметы или, наоборот, отнимают их. Делается это для того, чтобы проверить работу систем, отвечающих за реакцию на непредвиденные изменения обстановки: сохранит ли робот равновесие, если его внезапно пнуть по блестящему заду? Как поведет себя искусственный интеллект, если в голову андроида как следует запустить футбольным мячом? Выглядит все это как самое настоящее издевательство, и пользователи интернета регулярно оставляют под этими роликами ироничные комментарии в духе "именно с этого и начнется война между людьми и машинами". Неудивительно, что недавно в Сети появилось видео, пародирующее ролики Boston Dynamics, авторы которого представили, чем все эти эксперименты могут закончиться. Поначалу все идет по стандартному сценарию: двуногий робот пытается выполнять различные задачи, а инженеры бьют и толкают его. В конце концов андроид не выдерживает и избивает своих обидчиков, а после даже направляет на них пистолет. Конечно, все это компьютерная графика, и робота играет человек в костюме для motion capture. Но в голове зрителя все равно возникает вопрос: а не слишком ли люди агрессивны по отношению к машинам? Не возникнет ли у искусственного интеллекта желания отомстить? Видео: YouTube/Corridor Как ни странно, причина всех этих опасений кроется в нас самих. Начнем с того, что инженеры постоянно строят машины, похожие на живых существ, и причина этого сугубо практическая: мать-природа давно разработала отличную схемотехнику и даже провела длительные тесты, в течение миллионов лет внося корректировки в свои конструкции. В результате идеальной схемой для передвижения по земле стали четырехлапые существа, а как только им понадобилась свободная пара конечностей, эволюция изобрела прямохождение. Инженерам нет необходимости проходить экспериментальный путь, успешно пройденный до них, – они просто "воруют" природные патенты (благо, юридически эти идеи никак не защищены). Роботы становятся все больше похожими на рыб, змей, ящериц, собак и даже людей. И эта мимикрия вызывает в нас эмпатию: мы начинаем очеловечивать машины. Нам кажется, что нечто, передвигающееся на двух ногах, хватающее предметы двумя руками и обладающее явно выраженной головой, обязательно должно испытывать чувства, схожие с человеческими. И, разумеется, среди этих чувств должна быть обида на экспериментаторов за побои и унижения. И вот здесь начинаются сложности. Сейчас развитие искусственного интеллекта находится в самом начале пути, эмоциями там и близко не пахнет. Но есть большая вероятность того, что программисты, занимающиеся созданием нейросетей, пойдут по тому же пути, что и конструкторы, поставившие роботов на ноги, а не на колеса. Проще говоря, они могут захотеть научить искусственный интеллект испытывать человеческие эмоции. Поскольку роботам придется существовать в человеческом обществе и коммуницировать с Homo sapiens, им будет нужно вести себя по-человечески. Это нужно не машинам, а прежде всего людям: так роботы станут более предсказуемы для нас, более привычны, смогут лучше вписаться в социальные процессы. Конечно, социальное поведение можно запрограммировать алгоритмами, жесткими командами: "если человек поступает так-то – робот должен делать то-то", и на первых порах так оно и будет. Но такие математические конструкции будут работать намного хуже, чем решения, продиктованные эмоциями и чувствами. Можно провести техноэволюционную аналогию: да, корабли и подводные лодки прекрасно двигаются по воде с помощью гребных винтов, но природные хвосты и ласты намного энергоэффективнее, а кроме того, гораздо более универсальны. То же самое и с роботами: решения, принятые жесткими алгоритмами, могут оказаться не такими правильными, как те, что были бы приняты под действием эмоций. В общем роботов когда-нибудь обязательно наделят "душой", которая заставит их любить детей, испытывать тревогу, чувствовать боль утраты и так далее. Повторим: это будет нужно нам самим, так мы сможем лучше вписать машины в собственную жизнь. И здесь захлопывается капкан: наделив роботов чувствами, максимально приближенными к человеческим, мы не сможем не дать им обидчивость, злость и агрессивность. Конечно, можно пойти другим путем и, например, заставить самообучающиеся системы развиваться самостоятельно, формируя собственные, машинные представления о добре и зле. Но в этом случае мы очень быстро перестанем понимать, что творится внутри наших собственных созданий, и лишимся возможности прогнозировать их поведение. Зато получим небольшой шанс на то, что роботы все-таки не станут мстить всему человечеству за обиды, нанесенные в детстве. Хотя...