Ответственность программистов

Живые инструменты технического прогресса

Специалисты из IT-сферы об утечках данных, государственной регуляции и профессиональной этике

© Farhan Perdana (Blek) / CC BY 2.0
Текст: Дмитрий Левин

Пора признаться: приватность мертва, наши данные — в чужих руках, а интернет вокруг рассыпается на куски. Люди без экспертизы наблюдают за коллапсом, а единственные, кто хоть немного ориентируется в происходящем безумии — это программисты. Они точно знают, что творится, и значит сила тоже у них. «Новая этика» поговорила с двумя техническими специалистами, чтобы выяснить: какими принципами они руководствуются в работе, нужен ли им этический кодекс, боятся ли они за свои личные данные и как смотрят на попытки государства регулировать интернет и мессенджеры.

П., 34 ГОДА, ГЛАВНЫЙ ИНЖЕНЕР

У программистов должен быть этический кодекс. Скорее всего, реальной юридической силой такой документ обладать не будет, и нарушать его смогут без серьезных последствий. Потому что если ввести регламент, за нарушение которого будут грозить настоящие санкции — вплоть до увольнения или исключения из профессии — никто его не подпишет. Ни программистов тогда не будет, ни журналистов.

Если мы будем делать кодекс, нам нужно все-таки не о программистах говорить, а об инженерах. Программа сама по себе — ничто. Она имеет смысл только вместе с устройством, для которого разрабатывалась. А устройство — довольно сложная история.

Хотя для внутреннего ориентира я бы такой документ составил. Сам я много времени трачу, чтобы нанять новых людей. Будь у меня какие-то данные о нарушении ими кодекса, это бы очень сильно упростило мне жизнь.

Ошибки программиста: вред реальный и ничтожный

Как программисты могут обеспечить людей благом — очевидно. Они это делают прямо сейчас, придумывая новые инструменты, а также упрощая и совершенствуя старые. Когда вы такси вызываете, наверняка делаете это через смартфон — согласитесь, очень удобно.

Теперь о вреде. Возможно, вы об этой истории слышали. Месяц назад случился скандал с оператором Wi-Fi московского метро «МаксимаТелеком»: утекли данные пользователей. Неприятно, правда? Однако согласитесь, что никакого существенного ущерба никто, кроме «МаксимыТелеком», не понес.

© D. Sinclair Terrasidius / CC BY 2.0

Даже если утечка была довольно значительной, кто пострадал? Теоретически — пассажиры метро. Как именно, не совсем понятно. Дело в том, что связанный с любой утечкой данных вред сильно переоценен. В современном мире много говорят о Big Data, искусственном интеллекте и машинном обучении. Только люди сами не совсем понимают ни как это работает, ни что с помощью этого можно сделать.

Утекло немного телефонов, ну и что теперь? Пришлют спам, позвонят, ничего страшного. Люди и так постоянно свои номера оставляют, регистрируются где-то и раздают их направо и налево. Я только хочу сказать, что персональные данные теряют и не в результате утечек, без «помощи» программистов.

О вреде стоит говорить, когда речь идет об угрозе для жизни. Например, беспилотные автомобили: ошибка в их программе может стоит человеку или группе людей жизни. Это вред ощутимый и гораздо более серьезный, чем сотни тысяч телефонов, которые кто-то там украл. Или медицинское оборудование — это огромный рынок, где многое зависит от качества — или самолеты и системы автопилота.

Программист — это просто инструмент технического прогресса. А прогресс никому еще не удалось остановить и, безусловно, он всегда сопровождается тем или иным вредом. Начиная от новых автоматов, которые убивают людей, и кончая роботами, отбирающими у нас рабочие места.

Почему вредоносный код может быть полезен, а программисты не имеют отношения к распространению «спорного» контента

Код, который является вредоносным в одной ситуации, может оказаться полезным в другой. Любой вредоносный код в конечном итоге приводит к совершенствованию системы безопасности. Хотя можно допустить, что есть некое понятие «вредоносного кода в вакууме», и его создание является неэтичным.

Содействовать дистрибуции «спорного» контента настолько же морально, насколько делать топоры, которыми можно рубить деревья и одновременно убивать людей. Я с трудом могу себе представить человека — программиста, если мы о них говорим — который ставит своей целью распространение детской порнографии. В большинстве случаев этим заняты другие люди, которые просто используют уже готовые инструменты.

Тот же браузер Tor — он ведь не для этого был сделан. Изначально это канал связи, созданный для закрытой коммуникации. Военными он был сделан, короче. Что-то я крайне сомневаюсь, что они хотели порно распространять. Зато хорошо известно, как изобретения из оборонки приходят в повседневную жизнь, а потом их назначение меняется не в лучшую сторону. Мы здесь должны говорить не об этических нормах людей, которые создают технологию, а о нравственности тех, кто распространяет детское порно.

О пользователях: почему не нужно защищать их от fake news и когда можно использовать их личные данные

Моя позиция насчет fake news, возможно, несколько экстремальная, но я за ответственность отдельного человека и за умение отделять зерна от плевел. Информация может быть любая, а человек пусть сам разбирается. Что касается регуляторных функций: кто решает, судьи кто? В школе надо не закон Божий преподавать, а какие-то элементарные основы информатики и экономики, но это уже другой вопрос.

Сегодня много говорят о Big Data, ИИ и машинном обучении. Только люди сами не совсем понимают как это работает, что с помощью этого можно сделать

Личные данные используются только с согласия владельца. Это регулируется законом: есть подпись — значит можно. Скажем, если в договоре с провайдером написано, что он оставляет за собой право лезть в ваше privacy, ну вы эту бумажку подписали, извините. Прошу прощения, что мы к этому возвращаемся, но дело здесь снова в образовании. К информатике и экономике в школе неплохо бы добавить минимальную юридическую грамотность — приучить бумажки читать, прежде чем подписывать.

Открытое и закрытое ПО — что лучше?

Кому что больше нравится. Есть разные типы лицензирования — для открытого и для проприетарного (закрытого) программного обеспечения.

Если оно лицензировано как открытое, его можно брать и делать с ним что угодно. При этом я не нарушаю ни этическую сторону вопроса, ни юридическую. Напротив, если украсть закрытое ПО и попытаться с ним что-то сделать, извлечь выгоду, скажем, это будет нарушением закона. Не какого-то этического, а самого настоящего, из УК — это экономическое преступление. Тут неуместно говорить об этике. Закон есть закон.

Что приоритетнее: общественное благо или право отдельного человека на пользование Telegram?

Я закончил предыдущий ответ фразой «закон есть закон». Это очень сложная и, кстати, совершенно этического плана проблема. С одной стороны, что сейчас происходит с Telegram — это ор и категорически плохо. Несмотря на то, что юридически все прикрыто и с точки зрения любого юриста выглядит, как исполнение закона РФ, происходящее крайне неэтично. Мы в кодекс должны внести категорический императив, то есть: «Твоя свобода заканчивается там, где начинается свобода другого человека».

Должны ли программисты подчиняться государственной регуляции отношений с сетевыми группами?

Сложно сказать. Это снова не про программистов, а про общечеловеческую этику. Программисты — люди, поэтому должны. Можно бороться с регуляцией, можно ходить на митинги и подписывать петиции, то есть сражаться с ней в рамках правового поля.

© Thomas Hawk / CC BY-NC 2.0

Иначе говоря, нет другого выхода: нужно соблюдать закон. Мы же требуем от всех исполнения закона. Возмущаемся, когда слышим, что полиция и коррупционеры его преступают. Нас это раздражает. Мы выражаем гражданскую позицию, требуем соблюдения закона. Поэтому я считаю, что требовать чего-то можно только в том случае, когда ты сам чист — иначе на это попросту нет морального права.

Программисты в «Роскомнадзоре» или у операторов делают плохо и приносят вред другим людям. Однако я не считаю, что они поступают неэтично. Они выполняют свою должностную инструкцию.

Работа программиста – думать

Основная обязанность и работа программиста — думать. Он в основном думает, и в том числе о последствиях своих действий. Если вы предполагаете, что перед программистами не стоит этических проблем — это не так. Я прекрасно представляю, какой вред могу принести лично я и мои сотрудники. И вот ещё ни разу не пришлось столкнуться с серьезными проблемами. Наверное, не просто так.

Мы работаем с тонкими вещами. Вред действительно возможен, при этом намного более серьезный, чем тот, который могли на себе ощутить пользователи Wi-Fi московского метро. Мне сложно себе представить программиста, который знает, что его ошибка может убить человека и не думает об этом. Тут речь не про программиста, а про какого-то морального урода в вакууме. Вне зависимости от профессии.

О хакерской этике и хактивизме

Хакерская этика существует. Она странная немного, напоминает тюремную, уголовную в каком-то смысле: не стучать, не сдавать. Я имею в виду, что наличие у преступников этики может показаться странным, но ведь и в криминальной среде тоже есть своя этика.

© iAmMrRob / Pixabay

Что касается хактивизма, есть два момента. Как техническому человеку мне любопытно. Иногда я восхищаюсь изящностью, с которой хакеры подходят к решению технических проблем. С этой стороны, хактивизм, это, наверное, хорошо. С другой, плохо, потому что взлом — это вторжение, возможно, международное, если мы говорим про другую страну. Даже если все делается ради общественного блага, кто его определяет? Все-таки нужно оставаться в рамках правового поля. Если человек вышел за рамки закона, ему предстоит столкнуться с последствиями.

АЛЕКСЕЙ, BACKEND-РАЗРАБОТЧИК МОБИЛЬНЫХ ИГР 

Этический кодекс? Знаете, я делаю игры. Лично у меня нет проблем с этикой. Моими продуктами пользуются люди, которые хотят поиграть и получить удовольствие. Поэтому ну какой этический кодекс? О чем речь?

Я понимаю, конечно, что если человек блокирует интернет, то ему, наверное, стоит задуматься об этике.

Не очень себе представляю, как можно работать в «Роскомнадзоре» сейчас. То есть совсем: это же просто какие-то парии! Кто этим занимается, вообще, не понимаю.

Программиста можно сравнить с прорабом, строителем: они сами практически ничего не решают. Важные решения принимают заказчики. В свою очередь, сложность работы программиста заключается в том, чтобы сделать хорошо и безошибочно конечный продукт, реализовать желание заказчика. Это не про этику — это про профессионализм. Естественно, я не очень понимаю, какая у программиста может быть ответственность.

Программисты могут нанести некоторый вред, хотя за ними всегда стоят тестеры. Они, как правило, ошибки находят. С другой стороны, программист умеет больше и понимает, как система устроена. И поэтому, пожалуй, может намеренными действиями что-то сломать, украсть. Ну хакер — это ведь программист и есть.

Смерть приватности

Думаю, что безопасность личных данных — это вопрос регулирования. Общество, а потом и государство, должны принуждать к тому, чтобы компании не собирали личные данные. Сейчас что-то на эту тему происходит.

Но вообще это ошибка в коде — если ты данные пользователя раскрываешь. Программист должен иметь в виду защиту данных, конечно. Это базовая задача: ты пишешь код с пониманием того, что информация одного пользователя не должна быть доступна любому другому. Но мы живем в таком мире. Дело же не только в телефонных номерах, которые могут украсть, дело в том, что крупные города покрыты сетью камер, которые могут распознать тебя в толпе. Приватности, можно сказать, и нет уже.

Да и что такого в моих контактах? У меня есть номер кредитки, который я не хочу никому показывать. Только это ничем не отличается, скажем, от кражи кошелька. Неприятно, ведь платежная информация — это ценно. Все остальное — чего там особенного? Если мы говорим про знаменитостей и политиков, конечно, они должны свои данные и переписку беречь. Но если ты простой человек, в чем, в общем, разница?

О грани между профессионализмом, моралью и этикой

Возьмем торговлю на Forex. Мы все понимаем — это казино. Люди всегда теряют там деньги. Стал бы я заниматься созданием систем для игры на Forex? Это интересная техническая задача. Не думаю, что передо мной встанет этическая дилемма. Я сделаю приложение для игры на Forex, если у меня будет такая задача. Да и на игры чем-то это все похоже: там тоже платят деньги, там тоже азарт. Вот я делаю какую-то игру, туда приходят и, может быть, последние деньги оставляют. Зато получают удовольствие. Я играл в свои проекты и платил свои же деньги. Игры — это развлечение, досуг. Не вижу проблем в том, что люди деньги и нервы там оставляют.

Понимаете, здесь неверно будет проводить параллель с другими этическими кодексами. Материи совершенно другие: у меня есть детерминированный компьютер, для которого я делаю программу. При этом я не заказчик. Иными словами, я решаю, как делать, а не что.

© Tina Leggio / CC BY-NC-ND 2.0

Процесс создания игры похож на съемку кино. Продюсеры, художники — все эти люди работают вместе, такой же бардак. Свою роль в этой «съемке кино» я вижу как режиссер монтажа или звукорежиссер. Или какой-нибудь осветитель. Какой может быть этический кодекс у осветителя в кино. Серьезно: какой? Да никакой.

Как человек, как отдельная личность я вряд ли буду нарушать закон или пойду в компанию, которая занимается чем-то противозаконным. И вовсе не потому, что я программист, а потому что я человек. Я не буду нарушать законы или правила, и для этого мне кодекс не нужен.

О пользователях: нужно ли защищать их от fake news?

Не нужно: они же ничем не отличается от слухов. Кто-то кому-то нашептал. Просто они в интернете распространяются быстрее. Конечно, свобода слова первична, она важнее. Тем более что сама задача — защитить от таких новостей — нерешаема. У всех есть смартфоны, мессенджеры и социальные сети.

Что приоритетнее: общественное благо или право отдельного человека на пользование Telegram?

Telegram ничего не нарушал. Он блокирует каналы террористов по запросам. Этой проблемы нет. Противоречия между общественным благом и правом отдельного человека — нет.

Блокировка Telegram спровоцировала массовую установку VPN. Теперь даже при большом желании прочесть переписку стало сложнее. Люди пользуются VPN не только для того, чтобы зайти в мессенджер, но вообще всегда. Мой провайдер теперь не знает, на какие сайты я хожу, а раньше знал. Короче, от блокировки стало хуже всем.

Я склоняюсь к тому, что личные права важнее, чем общественное благо, которое неизвестно кто защищает и как им злоупотребляет. При этом я не хочу сказать, что общественное благо вообще не важно. Думаю, если государство добросовестно свои обязанности исполняет, то можно какими-то свободами поступиться. Вот только государство и законы у нас — так себе.