Мораль для беспилотника

«Большой Брат» и в придачу автомат

О новейшем вооружении, которое лишь предвещает создание автономных боевых роботов будущего, но уже сейчас ставит морально-этические вопросы

© AK Rockefeller / CC BY 2.0 / Flickr.com
Текст: Вадим Козюлин, к.полит.н., директор проекта ПИР-Центра по новым технологиям и международной безопасности

Войны становятся все технологичнее, люди, кажется, участвуют в них все меньше, а роботы обретают право (и даже обязанность) убивать. Но превращается ли война в более гуманное занятие, если в виде агрессоров выступают бездушные дроны и коптеры? И какие вообще стратегические и этические вопросы ставит цифровая революция, окончательное превратившая гонку вооружений в подобие борьбы за самую крутую в мире компьютерную игрушку?

В 2016 году я был в Кабуле. Из любой точки в этом городе виден висящий в небе гигантский аэростат. Blue Devil — небесный суперкомпьютер с десятками всепогодных камер и датчиков, наблюдающий за порядком на земле. Днем и ночью он способен отслеживать и записывать все, что происходит в городе, распознавать объекты и лица, сопоставлять увиденное с архивными данными и в реальном времени отвечать на запросы сотням пользователей из числа американских военных. Кабул стал тестовой площадкой для Blue Devil, «Большой кабульский брат» может заглянут в каждый двор. Но он не способен заглянуть в каждый дом.

К 2050 году 80% населения мира будет проживать в больших городах и в порядка пятидесяти мега-городах с населением более 10 млн человек. Государственные и городские органы должны учитывать эту тенденцию в своих планах. По-своему готовятся к этому моменту и военные ведущих государств. Они прекрасно знают, что вести боевые действия в условиях городской застройки значительно сложнее. Спланированные небольшие операции нередко превращаются в кровавую бойню на руинах, а действия командиров зачастую оказываются на грани, а то и за гранью военных преступлений.

Новые технологии должны превратить городскую войну в серию точечных уколов с минимальным количеством жертв и разрушений. Для этого военные планируют задействовать лазеры, микроволновое оружие и, конечно, дроны.

Казалось бы, практически все из названного имеется на вооружении армий уже сегодня. Так чем же война будущего будет отличаться от тех боевых действий, что мы наблюдаем в Афганистане, Ираке или Сирии?

Контуры будущих войн

© Ana María León / CC BY-NC-ND 2.0

Современные новейшие вооружения из этого разряда недостаточно совершенны, пока их можно считать прототипами боевых роботов будущего. Большинство из них еще не превратилось в «оружие ХХI века», храня в себе «родимые пятна» традиционного вооружения — громоздкость, ограниченную энерговооруженность и потребность в человеческом контроле.

Например, боевые лазеры. Их разрушительный потенциал известен с 1970 годов. Но только недавно их мощность и точность стали приближаться к необходимым для военных параметрам. Сегодня лазер уже может прожечь дрон, летящий на расстоянии одного километра. Это близко к тому, чего хотели бы защитники неба.

Отметим, что благодаря постоянным исследованиям мощности лазеров возрастают десятикратно примерно каждые три года. И, значит, скоро лазеры смогут сбивать не только беспилотники, но даже снаряды и ракеты. А в недалеком будущем лазеры станут достаточно компактны, чтобы их можно было устанавливать на коптер. Тогда на поле боя они откроют перспективы, от которых у военных уже захватывает дух.

Современные вооружения — только прототипы боевых роботов будущего

Например, лазер сможет временно ослеплять противника. Оружие, лишающее зрения, запрещено Протоколом IV к Женевской конвенции 1980 года. Временно ослепляющие вооружения не подпадают под запрет, и ряд стран уже производит лазерные винтовки, которые могут выжигать вражескую оптику, либо временно ослеплять противника на дальности до 25 км. Производители таких винтовок позиционируют их как гуманное оружие, якобы способное рассчитать щадящую зрение силу импульса. Один подобный лазер на квадрокоптере мог бы бескровно превратить в толпу беспомощных пленников вооруженное до зубов подразделение, обезвредить банду террористов, мгновенно освободить захваченное пиратами судно.

Тем более что уже «в шаговой доступности» технологии, которые позволят коптеру ориентироваться в пространстве не по спутниковой системе GPS или «Глонасс», а с использованием встроенных визуальных датчиков и инерциальной системы. Такой дрон будет способен летать в незнакомых закрытых помещениях со скоростью до 70 км/ч. Эта чудо-техника очень пригодится пожарным, МЧС, и конечно, военным.

Существует другая проблема, которая резко ограничивает применение дронов. Современные батареи позволяют коптерам держаться в воздухе не дольше получаса. Это основной ограничитель для командиров, он не дает запустить в дело уже созданную широкую линейку микродронов размером от мухи до орла.

Поэтому в мире разрабатываются несколько проектов, которые должны обеспечить беспилотникам достаточную продолжительность полета. Один из них — дистанционная подача энергии микродрону с помощью лазерного луча со станции, размещенной на автомобиле, либо на большом летательном аппарате. С таким источником энергии для микророботов (а в мире известны проекты даже роботов-насекомых) не останется недосягаемых мест.

Боевые роботы изменят представление о войне, они превратят боевые действия против не оснащенного ими противника в избиение младенцев.

В 2000 году, после завершения операции НАТО в Югославии, я шел по Белграду и читал граффити на стенах домов. «Соберем народное ополчение против Америки» — таким был лейтмотив большинства из них. Увы, югославской армии было нечего противопоставить новейшему вооружению НАТО. Это стало первой демонстрацией высокоточных боеприпасов и ударных дронов в действии. Она заставила генералов срочно пересматривать свои арсеналы, ведь жертвой подобного нападения не захочет оказаться никто.

Боевые роботы — это ящик Пандоры, пределы их возможностей пока не вполне понятны. Поэтому гонка робототехнических вооружений неизбежна. Например, перечень вооружений, которые в ближайшее десятилетие планируют приобрести вооруженные силы Индии, включает лазеры, электромагнитные пушки, ударные и разведывательные дроны, а также беспилотники, запускаемые с подводных лодок.

Гонка дешевых вооружений

© arbitragery / CC BY-SA 2.0 / Flickr.com

Вовсе не обязательно, что этой гонке будет сопутствовать рост военных расходов. Роботы дешевеют сами и удешевляют ведение боевых действий, замещают личный состав, а значит, сокращают траты на солдат и офицеров, их семьи, пенсии и социальную инфраструктуру. Проследить, как дешевеют компоненты, из которых состоят роботы, можно на примере видеокамеры. В конце ХХ века видеокамера стоила целое состояние, а сегодня она стала почти бесплатным приложением к смартфону. Управляемые боеприпасы по себестоимости приближаются к цене обычного снаряда. И это означает, что очень скоро умные вооружения станут массовым явлением в армиях мира.

Эту тенденцию уже заметили в США. И разработали «асимметричную стратегию», которая сводится к тому, что вместо дорогих новых самолетов, танков и подводных лодок, которые строятся долго, а к моменту полной готовности устареют, имеет смысл использовать возникающие технологии для быстрого создания недорогих воздушных, подводных и наземных роботов. Их можно применять стаей, в составе крыла под управлением пилота, и параллельно формировать командно-информационную систему, что объединит все рода войск и позволит передавать данные и указания между дронами, самолетами, танками, подводными лодками и подразделениями на поле боя в режиме онлайн. Компьютеры, или то, что принято называть искусственным интеллектом, будут участвовать в анализе потоков информации и разработке планов операций. Как раз сейчас американские программисты бьются над задачей: какой объем получаемой информации возможно обработать на борту, а что необходимо передать центральному компьютеру для более глубокой обработки. Современные вычислительные мощности пока не предлагают легких решений этой задачи.

Американский проект See Hunter — беспилотный противолодочный корабль — хорошо иллюстрирует «ассиметричную стратегию». Безэкипажный «Морской охотник» способен находиться в автономном плавании в течение 90 суток, преодолевать 19 тысяч километров и развивать скорость 27 узлов. Стаей из 10-15 кораблей See Hunter’ы будут искать подводные лодки и наводить на них ударные средства. Производство одного «Охотника» обходится в 10 раз дешевле аналогичного корабля с экипажем, а эксплуатация — в 40 раз.

Роботы дешевеют сами и удешевляют ведение боевых действий

Хотя современные технологии еще несовершенны (например, они пока не позволяют сделать приемлемый для военных прототип автономного наземного боевого робота), каждый год приближает момент совершенства. Нередко военные технологии приходят из гражданской сферы, которая зачастую развивается быстрее в конкурентной рыночной среде. До такой степени, что, например, недавно Пентагону пришлось выпустить приказ, запрещающий морпехам использовать китайские коммерческие беспилотники для служебных целей.

К военным проектам подключаются сугубо гражданские компании. Так, Google разрабатывает софт для дронов и программы для анализа разведывательной информации. Пентагон открыл представительство в Силиконовой долине и до такой степени вовлекся в стартапы, что в IT-сообществе появился термин «военно-информационный комплекс».

Из ежедневных сообщений о технологических новинках прорисовываются контуры армий будущего, где солдаты превращаются в инженеров, обслуживающих тысячи воздушных, наземных, надводных и подводных дронов, а пилоты пересаживаются из кабин самолетов в удобные офисные кресла и ведут бои с игровой консолью типа Sony PlayStation в руках. Экипажи немногочисленных пилотируемых аппаратов не принимают непосредственного участия в боевых действиях, а только дирижируют оркестром приданных дронов с безопасного от поля боя расстояния. Генералы наблюдают за театром боевых действий через приборы наземного, воздушного и космического базирования и дают «добро» на боевые сценарии, разрабатываемые искусственным интеллектом.

Мораль для дронов

© gato-gato-gato / CC BY-SA 2.0 / Flickr.com

Боевые роботы постепенно заменят человека на многих направлениях. Они уже появились там, где опасно: при разминировании, операциях в зоне радиоактивного и химического заражения; там, где требуется длительное и сосредоточенное внимание — в наблюдении и разведке; где нужно быстро рассчитать потребности и проложить оптимальные маршруты — в логистике и снабжении; где надо проанализировать большие объемы информации и дать прогноз на перспективу — в штабной работе. Робот — самый хладнокровный солдат, своего рода агент 007 с лицензией на убийство. В его программе не заложены слова «страх» и «стресс», его не заподозришь в расовой или религиозной неприязни, он не будет добивать раненых, он готов дождаться выстрела, чтобы убедиться, что противник вооружен, прежде чем открыть огонь на поражение. Военные утверждают, что ни один командир не доверит роботу выполнять боевую миссию, за которую командиру придется нести ответственность. В случае нарушений Гаагский трибунал будет знать, где искать доказательства: в памяти дрона все ходы записаны.

Это дает основания некоторым экспертам утверждать, что боевые роботы будут гуманнее живых солдат. «Errare humanum est» (человеку свойственно ошибаться), — говорят они вслед за римским ритором Марком Аннеем Сенекой. Лицензия на убийство на руках у робота — по этому поводу нешуточную тревогу высказывают многочисленные международные и общественные организации, известные ученые, предприниматели, религиозные деятели, лауреаты Нобелевской премии.

Представители общественности не верят, что роботы будут способны отличать военных от гражданских, соблюдать законы и обычаи ведения войны. Остается открытым вопрос о том, кто будет нести ответственность за военные преступления, совершенные боевым роботом: оператор, командир, разработчик или программист? Помимо международно-правовых есть проблемы этического и морального свойства: возможно ли допустить, чтобы бездушное железо с электронными мозгами получило право лишить жизни человека?

Неправительственные организации и эксперты ООН обсуждают проекты международного соглашения, которое бы сняло опасения и поставило боевых роботов под юридически обязывающий контроль со стороны человека.

Будут ли боевые роботы гуманнее живых солдат?

За вопросами морально-этического порядка вырисовываются вопросы стратегической стабильности. Не станет ли взрывоопасна планета, где океаны, воздушное пространство и орбита нашпигованы военными роботами? Как будет выглядеть война двух равно оснащенных противников? Проблема в том, что этого пока никто не знает, и в этом таятся опасности и риски. В ближайшие годы ударные беспилотники, вооруженные противоракетами, а то и боевыми лазерами, станут частью системы противоракетной обороны. Как отразится подключение искусственного интеллекта к системе принятия решений, если запуск противоракеты в системе ПРО США сегодня осуществляется на 85 секунде с момента фиксации баллистической цели? Не развяжет ли суперкомпьютер за 85 секунд ядерную войну?

Роботы способны учиться на ошибках, причем на одной ошибке — все разом, ибо это заложено в программе. Но если урок окажется ошибочным или творением злонамеренного компьютерного вируса, не превратятся ли все роботы в терминаторов?

Перед образом восстания машин человеческая природа тоже восстает. Опросы показывают: большинство граждан не согласны садиться в полностью автономный автомобиль. Однако, если задать тот же вопрос применительно к соседу, большая часть интервьюируемых отвечает положительно: усадить соседа в беспилотный автомобиль можно. Так или иначе, но автономные авто уже ездят по дорогам планеты. То есть люди уже передали роботам ответственность за людские жизни — пока только на шоссе. И пока что только чужие. Сможем ли мы довериться машинам в вопросе защиты самой большой человеческой ценности — жизни — большой вопрос.