Ответственность программистов

Случаи: мир во власти разработчиков

Новости из мира науки, образования, роботехники и урбанистики о программистах

© geralt / Pixabay
Текст: Дмитрий Левин

Утечка данных в метро

Оператор Wi-Fi-сети в московском метро «МаксимаТелеком» допустил утечку пользовательских данных в публичный доступ. О проблеме стало известно в марте, а в апреле об этом написали СМИ. Предполагается, что «дыра» просуществовала почти год. Сейчас она устранена. Делом занялся авангард сил кибербезопасности — «Роскомнадзор».

Компания собирала телефонные номера, информацию о возрасте и занятости пользователей. Более того, оператор знал, на каких станциях человек живет и работает. Массив данных формировал индивидуальный «цифровой портрет». С его помощью работал рекламный таргетинг.

После обнаружения уязвимости сотрудники «МаксимаТелеком» дали интервью. Они не снимают с себя ответственности, однако призывают не сгущать краски. По их словам, даже если утечка была, то незначительная — такая, что едва ли могла серьезно навредить пассажирам. Напоследок они посоветовали обеспокоенным «отпустить паранойю» и смириться. Данные собирают обо всех и постоянно, а отказываться от этого — поздно.

Комфорт как ответственность программиста

На фоне массовых утечек личных данных разработчики пытаются иными способами защитить своих пользователей от негатива. Когда троллинг и унижение в интернете превратились в серьезную проблему, это стало сферой их ответственности.

В Tinder, который только недавно закрыл очередную уязвимость, собираются добавить новую возможность. Не для всех, а только для женщин. Они смогут решать, будут мужчины писать им первыми или нет. Представитель Match Group, владельца Tinder, Мэнди Гинсберг (Mandy Ginsberg) заявила, что так в компании стараются оградить женщин «неуместной коммуникации».

Дэйтинг-приложение Bumble запретило пользователям позировать с оружием на фото. Это решение напрямую связано с массовыми убийствами в Америке. «Время недвусмысленно заявить, что насилие не соответствует нашим ценностям. В Bumble не должно быть оружия», — сказано в официальном заявлении компании. Модерировать онлайн-сообщество будут 5000 человек.

Социальная сеть Mastodon взяла на себя амбициозную задачу искоренить язык вражды, дискриминацию и троллинг. База пользователей растет, и разработчики ищут новые пути достижения своей цели. «Мы стремимся постоянно улучшать инструменты модерации и блокировки», — рассказал создатель проекта Юджин Рочко (Eugen Rochko). Сейчас в Mastodon зарегистрировано более 60 тысяч человек.

Небо вышло из-под контроля

В программе контроля воздушного трафика над Европой 3 апреля произошел системный сбой. Диспетчерам пришлось задержать или направить на посадку 15 тысяч рейсов.

Ошибка в Enhanced Tactical Flow Management System (ETFMS) не повлияла на системы контроля европейских аэропортов. Большинство из них, тем не менее, были вынуждены снизить «пропускную мощность». Это нужно было для того, чтобы риск воздушных происшествий оставался минимальным. По данным Eurocontrol, некоторые аэропорты отправляли на взлет всего 10 самолетов в час.

Изнасилует робот, но сядет программист

В 2018 году в продаже появятся первые секс-роботы-мужчины. Если такой робот гипотетически изнасилует женщину, ответственность может лечь на его разработчика.

«[Роботы] — это неодушевленные устройства, подчиняющиеся предустановленным алгоритмам. Поэтому, если такой робот изнасилует женщину, полиция должна будет выследить программиста», — предполагает Ноэль Шарки (Noel Sharkey), эксперт организации Foundation of Responsible Robotics.

Мир нуждается в сознательных разработчиках

Технологические гиганты который год не вылезают из скандалов с утечками и личных данных, и fake news. Искусственный интеллект внедрен всюду: в смартфонах, автомобилях и военных роботах. Ответственность за сбои и «дыры» в безопасности — и случившиеся в результате аварии, утечки и смерти людей — несут в том числе программисты.

Вот только сами разработчики об ответственности, бывает, не думают. И этому есть причина. «Создатели ПО сталкиваются с насилием, смертью и болью реже и в меньшей степени, чем представители других профессий», — напоминает Джой Ито (Joi Ito), возглавляющий MIT Media Lab. Они могут ошибочно полагать, что автора кода все это не касается.

Поэтому в 2018 году Гарвардский, Массачусетский и Техасский университеты открыли курсы этики для программистов. Они уверены, что студентам необходимо размышлять не только о технических, но и об этических последствиях собственных разработок. На занятиях с ними обсудят проблемы искусственного интеллекта, автономных устройств, приватность и гражданские права в эпоху Facebook.

Кого винить за расизм искусственного интеллекта?

Когда дело касается машинного обучения и его ошибок, не так просто разобраться: идет ли речь об ошибке программиста или некоторой закономерности.

Технология распознавания в Google Photos неплохо справляется со своей задачей. Она способна понять, где сделана фотография или что на ней запечатлено. Это хороший инструмент, но не идеальный. В 2015 году он опознал двух черных людей как горилл. Компания оперативно исправила ошибку и попросила прощения. Кого винить за этот нечаянный расизм и надо ли?

Не забыта история бота Тэй (Tay) от Microsoft. Тэй должна была обучаться в процессе общения с живыми людьми в Twitter. Интернет — прекрасное место, поэтому он заставил бота говорить нацистскими лозунгами, сыпать оскорблениями и любить Гитлера. В драматической перемене умонастроений Тэй виноваты тролли. С другой стороны, могли ли ее разработчики угадать, что такое произойдет? Вероятно. Могли ли они что-то предпринять? Кто знает.

Как китайцы себе гомосексуализм возвращали

Китайская компания Weibo 13 апреля заявила, что в течение трех месяцев очистит свою социальную сеть от порнографии, насилия и ЛГБТ-контента. Под ударом оказалось все: картинки, видео, текстовые посты и даже мультики с подтекстом. Делать нечего — местный закон о кибербезопасности требует, надо исполнять.

В ответ ущемленные пользователи запустили онлайн-акцию протеста. Они выкладывали фотографии со своими партнерами и подписывали их хэштегом #ягей. За сутки его использовали 300 миллионов раз.

Пользователи заставили социальную сеть пойти на уступки. Уже 16 апреля компания принесла извинения и пояснила: гей-контент останется, но не весь — только безобидный. С порнографией, в частности, гомосексуальной, бороться будут все равно. Тут руководство Weibo надо понять. Они, может, и хотели бы во всем пойти навстречу людям, но никак не могут. Гомоэротика — жутко опасная вещь (мы-то в России знаем), а ответственности перед государством никто не отменял.