Мораль для беспилотника

Научный контекст: кибервойны, которые есть

Что исследователи думают о военных конфликтах — виртуальных и вполне реально-кровавых — в эпоху «цифры» 

© Chris Lister / CC BY 2.0
Текст: Оксана Мороз

Мы живем в ситуации, когда каждый пользователь интернета, ставший участником какого-нибудь возникшего буквально на пустом месте холивара, готов пополнить «диванные войска» и вступить, таким образом, в настоящую информационную войну. В мире, где СМИ всерьез обсуждают вероятность кибервойны и угрозы безопасности, что исходят от государств, способных в любой момент совершить кибератаку на гражданские и военные объекты. В 2010-е годы во многих странах создаются специальные гражданские и войсковые подразделения, уполномоченные вести разного рода сетевые и «информационные операции», включающие в себя разведку, а также мероприятия по обеспечению кибербезопасности. Не пытаясь заглядывать в будущее военных конфликтов, оснащенных цифровым измерением, посмотрим, как современные ученые описывают этические проблемы «оцифрованной» войны. В центре нашего внимания окажутся не бестселлеры, написанные экспертами по национальной безопасности для массового чтения, но исследовательские статьи и книги, ставящие множество вопросов, ответы на которые человечеству еще предстоит узнать. И, увы, вероятно, на практике.

Что известно о кибервойнах? Каковы методы их ведения, оружие?

Janczewski L. (ed.). Cyber warfare and cyber terrorism. — IGI Global, 2008.

Одной из важнейших проблем кибербезопасности считается неграмотность пользователей. Когда потребители контента наивны в вопросах оценки защищенности своих персональных данных, личной независимости от атак на сервера компаний, производящих цифровые продукты или обеспечивающие разные онлайн-операции (банковские, например), они безоружны перед вредоносным программным обеспечением. Именно поэтому понятие «кибервойна», кажущееся сошедшим со страниц научно-фантастических романов, с одной стороны, видится им далеким от повседневных реалий (вообще приятно считать, что целями таких атак могут выступать только правительственные структуры или огромные корпорации), а с другой, представляется «страшилкой» в духе каких-то конспирологических теорий. 

В целях борьбы с такой неосведомленностью профессор Лех Янчевски из Университета Окланда собрал под одной обложкой базовые определения феноменов, чаще других упоминаемых в официальных отчетах и исследовательских статьях о цифровых методах и способах ведения войны. Получившаяся книга — не словарь, но набор экспертных мнений, каждое из которых представляет тот или иной подход к пониманию кибервойны и демонстрирует совокупность технических и социокультурных условий, сделавших такие конфликты вообще возможными. Как считает Янчевски, эти атаки основаны на логике террора, и конкретные эпизоды кибервойны — всегда есть кибертерроризм. А поскольку террор направлен на устрашение потенциальных и реальных жертв, то как раз знание о возможных целях, оружии и способах защиты становится решающим преимуществом в столкновении с ним. 

Наверное, объяснения и рекомендации Янчевски и его коллег можно считать устаревшими. В конце концов, за прошедшие 10 лет мы привыкли к наличию в информационном пространстве «вирусов», «червей», «троянов», вредоносных приложений, в общих чертах представляем себе, что такое «файрвол», и несколько устали от новостей о взломах баз данных. Впрочем, пока кибервойны выглядят как конфликты малой интенсивности, у нас есть время ознакомиться с другими, не слишком известными аспектами ведения киберпреступной деятельности. Например, с тем, как происходит поиск и анализ данных, наблюдение за потенциальными целями атак, и какова вероятность разработки нового типа оружия массового поражения. И, кстати, заодно убедиться, что одного только здравого смысла, «бытового» знания или даже готовности покупать программы-брандмауэры недостаточно, чтобы обеспечить персональную безопасность.

Так ли уж страшны эти кибервойны? Кажется, в них никто не гибнет…

Dipert R. R. The ethics of cyberwarfare //Journal of Military Ethics. — 2010.

Пока проигнорируем тот факт, что развитие цифровой среды приводит к изобретению новых автоматизированных типов оружия, с помощью которых уже сегодня совершаются убийства. Даже если сосредоточить внимание на атаках на информационные системы, придется признать: урон, пусть не физический, несут государственные и частные корпорации, а с ними и мы — пользователи их услуг. Как утверждает философ Рэндел Диперт, современная существующая правовая система не может справиться с подобной угрозой,  как минимум потому, что источником кибертерроризма нередко становятся страны или группировки, не приемлющие международное гуманитарное право (и, кстати, этих преступников еще надо найти, что не так-то просто). А предоставление каким-то военным и силовым ведомствам возможности проводить мероприятия по отслеживанию возможных угроз ведет к расширению их полномочий. В результате борьба с террористами оборачивается войной с компаниями, которые сопротивляются необходимости передавать властям персональные данные пользователей, и с собственными гражданами, видящими в возрастании полномочий правительственных органов наступление на гражданские свободы. 

Можно попробовать порассуждать о кибервойнах как моральном вызове: в конце концов, раз конфликты в цифровой среде достаточно сильно отличаются от тех, что регулируются, скажем, Гаагскими и Женевскими конвенциями, значит, стоит придумать другой «язык» их описания. Например, изобрести философию кибервойны, которая не свяжет нас обязательствами создавать жесткие способы реагирования на онлайн события, но позволит умножить понимание проблемы. Мы, похоже, можем себе позволить такое философствование: на первый взгляд, вред от кибератак не создает угрозы жизни (разве что кто-то взломает больничную компьютерную сеть, скажем) и вообще обратим. Когда война закончится, победители должны иметь возможность воспользоваться информационными системами проигравших. 

Проблема только в том, что существующие этические теории или концепции политической философии — утилитаризм, кантианство, теория естественных прав человека и справедливой войны — создавались до возникновения обсуждаемого феномена. Их логика, система аргументаций не может быть применена к явлению, помыслить которое Милль, Гоббс, Руссо были не в состоянии. По словам Диперта, даже теория игр как математический метод изучения стратегий интеллектуальных агентов (считающийся вполне рабочим инструментом для кибернетики и военного дела) здесь не работает. Получается, что кроме чисто технологического описания кибервойны как совокупности «взломов» и «диверсий» у нас нет никакой другой отработанной и в полной мере легитимной системы говорения о дигитальных противостояниях. А раз нет способа рассуждать о насилии в цифровой среде, значит, нет представления о масштабах катастрофы и возможных системах защиты. Вообще-то, такая перспектива должна если не пугать, то настораживать.

А не проще ли рассматривать «кибервойну» как обновленный вариант знакомого военного конфликта?

Gregory D. From a view to a kill: Drones and late modern war // Theory, Culture & Society. — 2011.

На самом деле, несмотря на то, что понятие «кибервойна» появилось в словарях не позднее 1994 г. (именно тогда слово вошло в Оксфордский словарь английского языка), серьезным вниманием это явление было обделено до 2009-2010-х годов. В первой трети 2010-х годов представители международных организаций — например, Красного креста — наконец стали вносить предложения об обновлении международного гуманитарного права. Впрочем, они же (в общем, почти как Диперт) озвучивали и сомнения в том, что какие-то дополнительные протоколы к Женевским конвенциям — в отсутствие разработанной системы цифрового права — смогут ограничить методы ведения кибервойн. 

В этой ситуации многие специалисты действительно предлагают обратить внимание на такие формы ведения конфликтов в цифровой среде, которые мы можем контролировать. И чаще всего в центре внимания оказываются принципы и техники использования нового оружия, типологически похожего на прежние инструменты убийства. Например, тех же дронов, используемых для точечного уничтожения конкретных целей. Как пишет профессор Дерек Грегори, их применение тоже вызывает массу вопросов: например, законно ли с юридической точки зрения и этично ли пускать в дело подобные машины в ситуации необъявленной войны (а именно это происходит, когда американские дроны уничтожают предполагаемых террористов на территории Пакистана)? С другой стороны, эти и похожие дилеммы все-таки можно обсуждать в контексте существующего военного права и с оглядкой на законы, регулирующие пользование гражданскими дронами. И подобный подход к обеспечению безопасности в контексте дигитализированных войн вполне реалистичен. Есть, правда, как минимум одно фундаментальное отличие этих столкновений от «классических» войн, что мешает свести ведущиеся дискуссии к разговору о прелестях и ужасах автоматизированных систем. 

Конфликты, результаты которых определяются посредством удаленных манипуляций, существуют в другом скопическом режиме, режиме видимости объектов. Оператор дрона видит противника не так, как его наблюдает солдат на реальном поле боя. Разведчик, управляющий сенсорами машины, иначе производит осмотр местности. Возможно, они получают больше фактической информации, но лишаются культурной практики участия в военных действиях. В момент «боя» они не боятся смерти, и отсутствие этого переживания выводит их за пределы опыта воющих субъектов. То же, кстати, происходит и с их жертвами, которые не имеют никакого шанса на ответные действия. В «настоящей» атаке все испытывают ужас, и его наличие выступает залогом формирования хотя бы минимального чувства ответственности за происходящее. Здесь же сражение для нападающих организовано как шутер, а для жертв — как расстрел. Можно ли в таком случае вообще говорить о том, что война как явление сохраняется в современной смешанной и опосредованной цифровыми технологиями реальности? А даже если и так, не станут ли законы, устанавливающие ее пределы, похожи на правила киберспорта?

Хорошая идея! Можно, например, выяснять все вопросы в игре в жанре файтинга и шутера. Всем будет хорошо...

Mead C. War play: Video games and the future of armed conflict. — Houghton Mifflin Harcourt, 2013.

Colbert E. J. et al. Modeling Cyber Physical War Gaming. — US Army Research Laboratory Aberdeen Proving Ground United States, 2017.

Такая идея выглядит заманчивой и даже вполне логичной. Как утверждает Кори Мид, первые проекты современной гейм-индустрии реализовывались при активной финансовой поддержке именно военных, которые видели в играх значительный потенциал для своей отрасли. В какой-то момент видеоигры даже стали одним из инструментов тренировки будущих солдат, менее затратным, нежели выезды на сборы, и даже более эффективным. Все-таки игровую симуляцию можно настроить под нужды конкретного обучающегося, а также снабдить определенным количеством заданий, для выполнения которых в «реальном мире» потребуется значительное количество ресурсов. Конечно, виртуальное участие в военных операциях не может заменить реального опыта, но оно создает основу будущих навыков. 

Впрочем, подобная подготовка все же не имеет ничего общего с воспитанием киберспортсменов, которые смогут участвовать в исключительно «цифровых» боях, представляя конфликтующие стороны. И, наверное, такие бои вообще невозможны. По своей форме они, конечно, похожи на легендарные бои «стенка на стенку», но современные практики ведения военных действий вовсе не опираются на такую форму решения конфликта. Как, впрочем, и на разного рода дуэльные кодексы и правила битв поединщиков, где защита чести, достоинства и правоты осуществляется один на один. Современные войны ведутся в нарушение международных конвенций и с участием в той или иной мере массового контингента. Значит, надо готовить войска, умеющие действовать в обстоятельствах высокой степени неопределенности. 

Как рапортуют исследователи из US Army Research Laboratory, работа в этом направлении движется со значительными успехами. Так, разрабатываются специальные кибервоенные игры, которые можно использовать не только для обучения собственно военного контингента, но и сотрудников самых разных компаний и ведомств, заинтересованных в обеспечении собственной кибербезопасности. В то время как учащиеся военно-морского колледжа США изучают специальный курс «Course-of-Action (COA) Analysis» для знакомства с технологиями принятия решений в условиях кибератаки, гражданские лица могут принять участие в особых тренингах. Специально создаваемые с учетом интересов компании, такие игры призваны научить работников обращаться с программными средствами безопасности, знакомят их с тактиками борьбы с теми или иными угрозами, в конце концов, демонстрируют организационные и локальные слабости корпоративной системы защиты и реагирования на хакинг. В результате пользователи, не имеющие привычки отвечать за безопасность сколько-нибудь значимого для больших сообществ киберпространства, приобретают способность принимать рациональные и функциональные решения относительно собственной сетевой безопасности. Каждый становится немного воином: потому что никакие особые подразделения не в состоянии справиться со всеми вызовами цифровой среды, которые ежедневно возникают перед лицом каждого человека, пользующегося интернетом. 

Так что решать военные конфликты в шутере все-таки, видимо, не получится. Зато можно заняться развитием собственной грамотности, обладание которой может сделать персональное цифровое присутствие более защищенным. Пока юристы, философы и военные разрабатывают свои методы отношения к кибер- и дигитализированным войнам, самооборона — лучший способ обеспечения собственных прав. Который, кстати, хорош еще и тем, что минимизирует необходимость введения каких-нибудь централизованных государственных мер контроля над цифровой средой.

Это вообще нормально?

Как часто бывает с цифровыми феноменами, кибервойна — явление, вполне очевидно присутствующее в нашей повседневности, но плохо поддающееся научной концептуализации. Однако в отличие от других реалий, массовые и/или точечные проявления агрессии и насилия с политическими, экономическими целями, направленные на какие-то группы, требуют повышенного внимания, поскольку могут быть расценены как угроза жизнедеятельности человечества. Пока рекомендации специалистов в вопросах обеспечения кибербезопасности располагаются на знакомых полюсах — от введения жесткой государственной регуляции интернета до стратегии «спасайся, кто может». Возможно, более внятный этический кодекс ведения кибервойн и будет создан. Хотя, как подсказывает мировая история, самые верные решения подобного рода мы принимаем, к сожалению, уже после случившихся катастроф, непоправимо изменяющих наше представление о самих себе.

Еще почитать на тему

1. Allhoff F., Henschke A., Strawser B. J. (ed.). Binary Bullets: The Ethics of Cyberwarfare. – Oxford University Press, 2016.
2. Donald I. Just War? War Games, War Crimes, and Game Design //Games and Culture, 2017.
3. Droege C. Get off my cloud: cyber warfare, international humanitarian law, and the protection of civilians //International Review of the Red Cross. – 2012. – Т. 94. – №. 886. – С. 533-578.