Ответственность программистов

Научный контекст: протоколы, машины и гении цифрового мира между волей и ответственностью

Обзор научных публикаций об основаниях этических кодексов программистов и мере ответственности IT-специалистов

Текст: Оксана Мороз

Люди, пишущие код, разрабатывающие конкретные цифровые инструменты, проектирующие само устройство кодов этих сервисов, кажутся демиургами онлайн-мира и гениями упрощения, автоматизации офлайн-реальности. А создаваемые ими продукты так вплелись в повседневность, что невольно задашься вопросом: кто в большей степени определяет наше качество жизни — политики, ответственные за регулирование общественных отношений, или программисты, вовремя предлагающие средства общения, обмена благами? Какой может быть мера ответственности программиста, хотя бы частично создающего реальность современного человека — вот вопрос, которым часто задаются исследователи.

Почему обсуждение специальной этики программирования так важно?

Golumbia D. The Cultural Logic of Computation // Harvard University Press, 2009.

Как говорит Дэвид Голамбиа, один из ведущих представителей цифровой гуманитаристики, бывший в течение многих лет разработчиком ПО, со времен Алана Тьюринга и Ноама Хомского экспертная риторика описания компьютеров серьезным образом влияла на понимание, воображение и проблематизацию современного мира. Так, стоило Хомскому провести аналогию между вычислительной системой и естественным языком, как идея феноменологического сходства процесса мышления (и связанных с ним психологических состояний) и машинного вычисления превратилась в одну из точек отсчета размышлений о самостоятельности, автономности и, в конце концов, эмансипации технологий. А человек, оказавшийся в воронке цифровой и технологической революции, в некоторых концепциях (например, у Кэтрин Хейлз) стал описываться как «posthuman».

Так что даже если наивно не вдаваться в подробности, что же имеется в виду под термином «ответственность», и кого именно из профессионалов IT-сферы мы можем назвать «программистами», придется признать: обращения к общегуманитарным ценностям — если таковые существуют — недостаточно, чтобы описать суть этики экспертов в области компьютинга. И заодно увидеть, как наличие или отсутствие подобных принципов влияет на развитие мира цифровых технологий и этикетов их пользователей. Кстати, по мнению Голамбиа, мало работать над кодификацией этики. Надо помнить, что компьютинг парадоксальным образом построен на системе допущений, которые в современном мире тотального уважения к разным миноритариям и «другим» могут казаться морально амбивалентными. Например, использование английского языка в качестве основы для языков программирования говорит о превалировании «западной» модели конструирования компьютерных логик. А уверенность в демократической, освобождающей силе цифровых технологий, позволяющих людям окказионально объединяться в группы, задает идеологический оттенок любой критике их применения.

По словам Голамбиа, наш режим коллективного существования, представления о качестве жизни и ее удобствах основаны на уверенности в нейтральности компьютерных технологий. Во всем и всегда оказываются виноваты люди, с каким-то умыслом использующие элементы компьютерной среды. Даже столь ругаемое насилие в геймдизайне является выражением намерений их разработчиков. Интернет же «сам по себе» объявляется потенциально всеблагой технологией, поэтому право на него разного рода активисты защищают столь же рьяно, как и неотъемлемые гражданские свободы. А, например, вопросы о безопасности системы, которая допускает доступ к огромному количеству персональных данных, видятся обсуждением издержек прогресса. Такой режим отношения к окружающим реалиям, названный автором неологизмом «computationalism», построен на очарованности миром алгоритмов, баз данных и стоящими за ними мировоззренческими и научными прорывами. Правда, эта завороженность постепенно уступает место критическому обсуждению, что и демонстрируют, например, разговоры о необходимости этических кодексов программистов, разработчиков и т.д.

На каких основаниях должны быть построены этические кодексы программистов?

Snapper J. W. Responsibility for computer‐based errors //Metaphilosophy. — 1985. — Т. 16. — №. 4. — С. 289-295.

Gotterbarn D. Computer ethics: Responsibility regained //National Forum. — Honor Society of Phi Kappa Phi, 1991. — Т. 71. — №. 3. — С. 26.

Все зависит от того, кто выступает источником регуляций. Эксперты-гуманитарии и представители программистского сообщества пришли к мысли, что отдавать решение вопроса об этических основаниях компьютинга на откуп политикам или другим игрокам на поле публичных коммуникаций (например, журналистам) не слишком верно. Они, скорее всего, станут основывать свои рассуждения на жутких историях о поломках, продуктовой недостаточности и будут обращать мало внимания на профессиональные интенции разработчиков. И хотя, как мы уже увидели, менее привязанные к медийному полю дебаты об этических кодексах не уберегли IT-специалистов от обвинений в создании нового тотального техноцентризма, программисты все же предлагали свое экспертное видение векторов обсуждения моральной ответственности кодеров, разработчиков и инженеров.

В первую очередь их интересовал вопрос, можно ли рассматривать саму машину в качестве субъекта ответственности. Задолго до массового распространения технологий машинного обучения они ставили вопрос так: если компьютер запрограммирован на принятие решений, стоит ли настаивать на хотя бы какой-то мере ответственности, которую он разделяет в случае ошибки? Например, представим себе робота-хирурга или социального робота, в чьи обязанности входит забота о здоровье пациента. В процессе функционирования он принимает решение, приводящее к ухудшению состояния подопечного. На случай подобной ошибки/неточности, имеющей человеческое происхождение, в некоторых странах (например, в США) проводится страхование гражданской ответственности докторов, которое очень помогает, если по суду требуется возместить ущерб пострадавшим пациентам. Почему бы не застраховать таким образом и робота? Разрешение конфликтной ситуации останется уделом людей, но именно машина будет официально объявлена субъектом ошибки.

По мере возникновения принципиального согласия о существе подобных прецедентов можно углубляться в размышления о разнице математического анализа, построенных на его применении вычислений и собственно процесса обдумывания той или иной ситуации, обычно приводящего человека к мотивированному действию. И, соответственно, провоцирующего возникновение потенциального морального или правового осуждения — и мотиваций, и поступков. Некоторые философы, например, Джон Снеппер из Иллинойского технологического института, полагают, что уже Аристотель описывал «принятие решения» и «обдумывание» как процессы рассчитывания средств, необходимых для достижения цели. В каком-то смысле, действия компьютерных систем основаны именно на таких актах, правда, программируемых, совершаемых не как выражение воли к чему-либо. С другой стороны, говорить о свободе выбора, воле в случае компьютеров бессмысленно: они не снабжены возможностью эмоционально откликнуться на совершаемые действия, не оказываются раздираемы конфликтом между собственными желаниями и давлением обстоятельств.

Так что в любом случае их ответственность за совершенные «проступки» вообще не будет снабжена аффективными переживаниями или болезненным ощущением (не)справедливого остракизма. Зато поможет отделить возмущение по поводу плохо/неправильно работающих продуктов от обсуждения нравственного измерения деятельности «программиста». В обсуждаемые экспертами проекты этикетов все-таки попадают кейсы именно второй природы.

Каковы вообще границы деятельности программистов и их ответственности?

Galloway A. Protocol, or, how control exists after decentralization //Rethinking Marxism. — 2001. — Т. 13. — №. 3-4. — С. 81-88.

Мнение профессора Нью-Йоркского университета Алекса Гэллоуэя на этот счет таково. Цифровые технологии существуют за счет наращивания эффектов стандартизации, создания тотальной системы при сохранении ценности децентрализации. Например, в основе функционирования интернета лежат сетевые протоколы, которые регулируют все онлайн-интеракции в соответствии с простыми схемами кодирования. Протоколы — абсолютны, их нельзя нарушать. Те, кто работает над созданием сетевых протоколов, предписывает объединенным в сети компьютерам определенные правила работы. Поскольку эти правила работы формируют наш опыт взаимодействия с интерфейсами программ, с другими гаджетами, менеджеры протоколов есть те, кто создает современные режимы порядка, дисциплинирования машин. И, соответственно, люди, которые на эти устройства полагаются, в прямом смысле слова впускают их в свою жизнь. Так что несмотря на социальную и демократичную природу протоколов производства как элемента реальности программирования, они существуют для конструирования нового и довольно монструозного тела контроля за людьми, их желаниями и действиями. И IT-эксперты в этом мире — сплошь Фаусты.

Эту позицию можно назвать радикальной и патовой. Без протоколов как упорядоченного языка коммуникации вычислительных систем цифровой мир не смог бы существовать. А мы — и индивиды, и большие институции — от него очень зависим, мы уже привыкли жить в обществе технического контроля, перефразируя Жиля Делеза. Тоталитарность протоколов как наборов правил, обеспечивающих возможность передачи данных между устройствами и самого общества, есть неизбежность. Однако Гэллоуэй предлагает смотреть на эту ситуацию не столь пессимистично. Напротив, не борясь с логикой стандартизации «цифры», стоит добиваться ее все большей децентрализации. И тогда у самых разных групп, акторов появится возможность выразить себя в программировании, отстоять право на свою этику кодинга.

Кстати, технически его предложение вполне реализуемо. Довольно часто исследователи рапортуют о результатах наблюдения за командами непрофессионалов (обычных конечных пользователей цифровых продуктов), которым предлагаются средства программирования для решения разных задач. Такой партиципаторный дизайн программного обеспечения, интерактивных систем, участие в работе с алгоритмами создает коллаборативный эффект. И, кстати, заставляет участников этих экспериментальных воркшопов познакомиться с логикой прототипирования конкретных решений и принципами отбора максимально эффективных, иными словами, с основами операциональной и тактической деятельности программистов. Эксперты-разработчики, вовлекаемые в подобные мероприятия в качестве наблюдателей или помощников, научаются более эффективно планировать процесс разработки, поскольку знакомятся с реальными запросами потребителей своих услуг и с их видением корректных программных решений. И, с одной стороны, это знание потенциально расширяет их круг возможностей и умножает ответственность. С другой стороны, включение любителей в сообщество профессионалов сводит на нет представление о «сакральности» и «таинственности» программирования. Превращаясь в обыденность, оно попадает в пул навыков, дебаты об этичности которых не представляют собой обидного профанирования.

Это вообще нормально?

Интересно, что дебаты вокруг этики программирования как практики и профессии чаще оборачиваются созданием в той или иной мере практически применимых кодексов, а не исследований. Возможно, дело в том, что кодификация представлений о нравственном измерении вполне конкретной совокупности дизайнерских, конструкторских и технических действий выглядит более логичным итогом подобных дискуссий, нежели споры о самой возможности моралью померять действительность большой индустрии. А, может, мы просто все еще находимся в заложниках старых представлений — о взаимодействии человека и его изобретений, о необходимости «клятв» для устойчивости мироустройства. И стоит машине, ее принципам принятия решений чуть потеснить человека как единственно создающего окружающую реальность существа, нас будет волновать не этос профессии программиста, не необходимость диверсификации этого этоса в связи с множественностью «специализаций» в IT-сфере. Но другой простой вопрос: как выработанные веками представления об ответственности, замешанные на причудливо сплетающихся нравственных императивах, соотносятся с неживой, неумолимой логикой автоматов?