Существа второго сорта

Ломай железку, люби железку

Монологи-мнения о том, можно ли унизить робота, и как нам вообще относиться к неживым существам, наделенным искусственным интеллектом

© Meridian Library District

1

© Terry McCombs / CC BY-NC 2.0

Слушай, ну это же роботы. Пластик, металл, проводочки-лампочки. Если отечественные роботы, то еще, конечно, лен, пенька и береста. Пластик нельзя унизить. Даже бересту нельзя унизить. Бытовой антропоморфизм – неотменимая штука, вечная игра, но не стоит видеть в игре нечто большее, чем просто игру. Постановка вопроса бессмысленная. Унизить робота невозможно. Даже совершенствуясь, обучаясь, изображая привычные человеческие реакции, он остается вещью. Вещь можно грохнуть, сжечь, распотрошить, сломать, бросить, при этом вещь не крикнет: «Е…на мать!» – учит нас классик. Но даже если и крикнет, все равно не страшно. Человека, который ломает дорогого и полезного робота, решая некие свои (психологические, допустим) проблемы, можно упрекнуть в нерациональном поведении. Но нельзя обвинить в поведении неэтичном.

2

© Terry McCombs / CC BY-NC 2.0

Слушай, ну это же нам на пользу. Человек по природе – так себе. В нем бурлит зло, ему требуется самореализация за счет других, постоянное расчесывание эго, демонстрация собственного превосходства. Вся история про это, и, если подумать, вся литература. Да и бог бы с ними, к сожалению, в жизни мы тоже не так уж часто видим что-нибудь другое. Самообуздание – путь не для многих, к тому же сомнительный и небезупречный. Сидит, значит, такой аскет в позе лотоса, и, может, досидит спокойно до смерти, но может взорваться, может и острым в глаз. Нам оно надо? А так – прекрасный шанс – унижай, да хоть убивай: мастер придет, починит, еще раз убьешь. Люди не страдают. Уровень безопасности для людей растет. Робот – что-то вроде громоотвода. И чем больше он на человека похож, чем точнее на унижения реагирует, тем лучше. Тем больше шансов, что все злое выльется на железных людей, а обычные люди останутся в дивном мире взаимной вежливости. Или даже любви.

3

© Terry McCombs / CC BY-NC 2.0

Слушай, ну все же просто. Дело не в споре о том, чувствует робот или симулирует чувства. Дело не в том, кого унижают, а в том, кто унижает. Ты ведь не будешь рассуждать, ну, допустим, так: пусть Вадим мучает котят, зато люди не страдают. Нет, ты скажешь: Вадим изверг, рано или поздно он займется людьми, и лучше не ждать, пока это случится. Для этого во всех цивилизованных странах есть законы о защите животных. Дающий волю всему низменному, что в нас, конечно, есть, ищущий слабого и безответного, чтобы обидеть – опасен. Не случайно ведь по мере развития цивилизации список тех, кого обижать нельзя, постоянно расширяется. Мы становимся все более гуманными, потому что это способ защиты, это, если хочешь, элемент выживания, один из эволюционных механизмов. И, разумеется, разумные машины рано или поздно (лучше бы – рано) окажутся в списке неприкосновенных, и мы будем защищать их права, если ценим свои. Как по-другому-то?

4

© Terry McCombs / CC BY-NC 2.0

Слушай, ну я-то как раз вижу в них равных или почти равных. Просто иначе не бывает. Нормально. Через унижение мы и приобретаем самый полезный свой опыт. Меня батя порол, зато теперь я человек. Тонко чувствую, что можно, а что нельзя. Меня начальники вот реально мордой по столу возили за всякую мелочь. Зато теперь я начальник. Говорят, типа, строгий, ничего, кто в люди выбьется – еще благодарить будет. И если мы хотим, чтобы эти железяки на самом деле работали с нами на равных или лучше нас, мы и должны с ними, как с людьми. То есть жестко. То есть без жалости. Я не сублимирую. Я совершенствую. Это не мне нужно. Это им нужно. Я и так уже чего мог – достиг.