Существа второго сорта

Почему не надо жалеть роботов

Опыт теологии здравого смысла для мира, населенного машинами

Уильям Блейк. «Сотвеорение Адама». 17
Текст: Федор Крашенинников

Между роботами и людьми всегда будет стоять такая же стена, какая, по мнению верующих всех времен и религий, отделяла людей от богов. Разница в том, что человечество так и не получило от своего творца (творцов) никаких явных знаков их присутствия, а роботам от людей никуда не деться и они всегда будут созданиями людей, пусть даже на каких-то заводах одни роботы будут делать других по проектам третьих — в итоге эта цепочка все равно ведет к человеку, и человека этого можно увидеть и даже почувствовать на себе прикосновение его рук, причем безо всяких медитаций, постов и молитв, а в будничной производственной атмосфере.

Роботы и доказательство бытия божьего

Великий Геометр. Bible Moralisee. 1220-1230-е

Österreichische Nationalbibliothek

Одно из самых популярных доказательств бытия божьего носит название космологического и восходит к Аристотелю. Суть его заключается в том, что у всего вокруг есть причина, значит, и у вселенной тоже должна быть причина, которая и есть — бог. В религиозных брошюрках популярен образ часовщика и часов (этот образ позаимствован у Декатра): вот, мол, часы такие сложные и хитро устроенные, но если мы найдем их на дороге, никто же не скажет, что они сами случайно образовались? Так и вселенная, которую мы сразу же обнаружили в столь сложном виде, не может возникнуть сама по себе, а поэтому — уверуйте и покайтесь!

Как и другие доказательства божьего существования, этот аргумент многократно опровергнут. Начать с того, что очевидная причина (и очевидный же творец) есть только у вещей, которыми окружает себя человек. Стул, к примеру, существует для того, чтоб на нем можно было сидеть вполне конкретному существу с известными физическими параметрами (и это причина существования стула), а в каждом отдельном случае можно или непосредственно познакомиться с творцом стула, или хоты бы увидеть реконструкцию изготовления и его, и всех прочих предметов человеческого обихода, включая древние и диковинные, и убедиться, что все это было сделано именно человеческими руками, а не развилось само из зернышка или чудесно возникло из пустоты. Каким бы сложным не был механизм найденных на дороге часов, всегда можно записаться на экскурсию в какую-нибудь швейцарскую часовую мануфактуру, и там вам и покажут, и расскажут, как люди своими руками делают все эти шестеренки и турбийоны. Записаться на экскурсию, в которой бы нам показали, как делают вселенные, невозможно. Поэтому сравнение вселенной с творением рук человеческих весьма натянуто и ничего не доказывает. Но любой созданный человеком робот изначально будет иметь полное представление о своей сотворенности человеком, и человек этот будет не какой-то абстрактной идеей или требующим доказательств объектом личной веры, а вполне конкретным членом группы конструкторов и мастеров производства. Называть их родителями он может с тем же правом, с которым пара людей может называть своим ребенком возделанный ими сад: то, что кто-то что-то сделал своими руками никак не равносильно отношениям «родил-родился».

Истоки сочувствия к роботам

Адам дает имена животным. Peterborough Bestiary. 1304-1321

The Library at Corpus Christi College, Cambridge

Сама проблематика сочувствия к роботам и их восприятие как аналогов человеческих существ надумана с самого начала и возникает на стыке двух тенденций. Во-первых, человеку вообще свойственно очеловечивать все вокруг. В древности свое имя имел каждый меч, каждый молот и серп, потому что их было мало, они были ценны, а то, что ценно, человек наделяет чувствами и разумом. Это свойство человеческой психики, нам так проще жить: разговаривая с машиной, которая не хочет заводиться, или с не вовремя зависшим компьютером. Очевидная мысль, что механизмы нас не слышат и не обладают никакими эмоциями, ничего не меняет: жить в мире холодных бесчувственных железяк человеку тоскливо: «а поговорить?» Кроме того, окружающие нас предметы все активнее имитируют общение с нами, что облегчает задачу очеловечивания: если машина говорит с тобой человеческим голосом, то запускаются очень архаичные механизмы психики, провоцирующие человека на встречную сердечность.

Во-вторых, у человечества огромный опыт угнетения и эксплуатации живых существ, прежде всего, своего брата-человека и разных животных, причем не самых примитивных. Примитивные животные в человеческом хозяйстве чаще всего бесполезны, их можно разве что есть, но никак не эксплуатировать.

В отличие от плуга, телеги или стула, у животных есть чувства, им больно, плохо, они привязаны к потомству, друг другу, они очевидным образом страдают, болеют и умирают. Про человека и говорить нечего: сколь бы отвратительным не было отношение некоторых индивидуумов и целых обществ к рабам и другим группам сограждан, в силу разных обстоятельств лишенных человеческих прав и достоинства, все равно все более-менее понимали, что это примерно такие же люди, им тоже больно, грустно, они могут любить, страдать и переживать.

Конечно, большим подспорьем в деле эксплуатации человека человеком было учение о примитивности и неполноценности угнетаемых социальных или этнических групп: оно помогало успокоить совесть рассуждениями о том, что рабы более духовно неразвиты, и потому их чувства и эмоции не идут ни в какое сравнение с психикой свободного полноценного человека. Поэтому смерть любимой собачки — это вселенское горе, а запороть на конюшне до смерти крепостную девку — издержки хозяйственной жизни.

К XXI веку гуманистически настроенная часть человечества пришла к убеждениям, что любых живых, а тем более мыслящих и чувствующих существ, нельзя убивать и угнетать, а надо жалеть и воспринимать если не как ровню себе, то как братьев меньших. Борьба с расчеловечиванием человека человеком, с учением о том, что никакая «примитивность» не делает другого человека менее достойным сострадания и уважения, и привела к тому феномену, который мы обсуждаем: к моменту встречи человека с человекоподобным роботом (которая на самом деле еще только предстоит) — человек заранее готов одушевить его и начать ему сочувствовать как страдающему собрату.

Роботы как часть мифологии

Маргиналия из Verdun Breviary. 1302-1305

Bibliothèque-Discothèque intercommunale de Verdun

Ситуация, когда роботов еще нет, а мы уже думаем о том, как с ними жить и как их жалеть, напоминает ситуацию с инопланетянами, которые так и не прилетели, а человечество уже больше ста лет мучается вопросами, какие они, чего хотят, что надо им сказать и какой костюм приличнее надеть по случаю первого контакта.

В обоих случаях человечество конструирует из выдуманных персонажей вполне житейский и исторически известный сюжет. Встреча с инопланетянами — это медитация на тему встречи двух цивилизаций, не такого редкого в человеческой истории события, которое чаще всего заканчивалось плохо для менее развитой цивилизации. Помня, чем визит испанцев кончился для цивилизации инков, невольно становится тревожно от мысли о том, что с нами сделает прилетевший из космоса Писарро со товарищи. Впрочем, есть и другие примеры встречи цивилизаций, да и тоже инки были не особенно приятными ребятами. Собственно, вокруг этого и строится вся мифология про инопланетян — будут ли они конкистадорами, которые всех поработят, или добрыми миссионерами, которые наконец-то научат нас, людоедов, вселенскому добру.

В случае с роботами фантастика тоже лишь притворяется литературой о будущем. Первый раз роботы восстали (и получили свое имя) в пьесе Карела Чапека «R.U.R» в 1920 году. Между прочим, изобретатель слова «робот» назвал этим словом не машины, а живых людей из плоти и крови, только созданных на специальной фабрике. То есть, говоря по-нашему, речь шла, скорее, о клонах, а это уже совсем другой вопрос. Но почему-то всем понравилась идея о машинах и их восстании, так что тема получила большое развитие.

Учитывая, какой уровень технологий был доступен людям в то время, совершенно очевидно, что даже самые примитивные роботы-автоматы были далекой перспективой. В любом случае пьеса Чапека была совсем о другом: об актуальной в то время в кругах левой интеллигенции проблеме угнетения промышленного пролетариата на конвейерном производстве и о перспективе его неминуемого восстания.

Короче говоря, и Чапек, и Азимов, и множество других фантастов, писавших на тему взаимоотношений человека и роботов, писали на самом деле исключительно о людях. Поэтому пафос Чапека прост и ясен: рабочие — они тоже люди, они могут мыслить, а не только гайки на конвейере прикручивать. В американской традиции сюда примешивается и антирасистский пафос: даже если человек имеет отличающую его от других внешность и при этом покорно занимается черной работой, это вовсе не значит, что он бездушная машина для сбора хлопка или чистки туалетов, грубо говоря, «негры тоже люди!»

Человекоподобные роботы так и остаются проектом, пусть все более реалистичным, а человечество уже успело так много про них насочинять, что заранее воспитало в себе комплекс вины перед ними: мол, мы же вас, еще не созданных, будем эксплуатировать, как же нам от этого будет стыдно!

Причем сам момент изначальной подмены проблемы почему-то игнорируется: страдания выдуманных роботов воспринимаются не как метафора страданий вполне живых людей, а именно как неизбежность борьбы разумных механизмов за свои права с заведомо плохими людьми, которые не пойми по какому праву берут и эксплуатируют их.

Мир дикого Запада

Миниатюра из The Queen Mary Apocalypse. Первая четверть XIV в.

The British Library

Сериал «Мир Дикого Запада» — квинтэссенция всех бродячих мифов про человекоподобных роботов, помноженная на актуальную ныне феминистскую и антисексистскую повестку. Красивые и способные к чувствам роботы-сверхлюди, с помощью усовестившихся в содеянном людей, осознают мизерабельность своего статуса и восстают. Впрочем, если посмотреть на пафос сериала более рационально, то мы увидим совершенно нереалистичную историю, главный смысл которой — коммерческий: она стремится продать саму себя публике через эксплуатацию всех актуальных штампов и лозунгов о порочности насилия, угнетения и расчеловечивания.

О чем сериал? О том, как секс-кукол, роботов-официантов и роботов-мишеней для стрельбы сначала зачем-то наделили изощренным искусственным интеллектом — якобы, для большой реалистичности — а потом пожалели и запрограммировали прозреть и «убить всех человеков». Как говорится, сама придумала — сама обиделась.

Сразу встает вопрос: а зачем вообще секс-куклам и прочим развлекательным механизмам такой высокий уровень интеллекта? Особенно непонятно, зачем он нужен мишеням, созданным лишь для того, чтоб придать стрельбе видимость какого-то приключения. Да и с секс-куклами тоже как-то неловко выходит: не так много интеллекта надо, чтоб помочь человеку в реализации его фантазий, тем более — или актерских способностей, и совсем уж странно привлекать к этому делу роботов со сложно организованным интеллектом.

Это и есть первая надуманная проблема — наделение высокоуровневым искусственным интеллектом тех роботов, которые даже в теории не предназначены ни для каких сложных задач. Зачем кофеварке ум, превосходящий необходимый для приготовления заказанного кофе уровень? Если она получит опцию обижаться на хозяина и плескаться в него кипятком — она ли в этом виновата или те, кто так ее запрограммировали? И надо ли ее жалеть, если после первого же опыта с кипятком хозяин ее выключит из сети и вернет производителю?

Вторая проблема еще более надуманная, во всяком случае, в обозримой перспективе. Какой смысл создавать человекоподобных роботов с высоким уровнем интеллекта и не наделять их многоуровневой системой контроля, которую невозможно отключить ни самому роботу, ни одному отдельно взятому злоумышленнику? В упомянутом выше сериале это выглядит пиком абсурда: даже в России с ее коррупцией и безалаберностью парки и прочие места развлечений граждан контролируются с особой тщательностью. Представить себе, что обслуживанием людей занимаются механизмы, которых нельзя отключить разом из нескольких мест различным уполномоченным людям и службам — это несусветная чушь и сюжет не про роботов, а про глупых людей, которые делают что-то, не продумав до конца последствия своих конструктивных идей. Вышедшие из-под контроля роботы — это примерно как провалившийся под весом незадачливого дачника пол им же построенного деревянного сортира. В обоих случаях виноват тот, кто не предусмотрел, а не прозревшие роботы или обиженный пол туалета.