Фейк всемогущий

Цифровой уроборос: как мы согласились на самообман?

Исследовательское эссе о том, как машины сегодня производят фейки и подменяют ими реальность, которая, в общем-то, тоже подделка

©
Текст: Екатерина Арье

Практики создания художественной, а значит, фиктивной реальности с появлением цифровых технологий пережили только одно фундаментальное обновление — человек, как ответственный за образы субъект, практически исчез. И сделал это добровольно. Постепенно машины занимают положение демиургов, способных как создавать новый окружающий мир, составленный будто бы из объективно несуществующих предметов, так и фиксировать недоступные восприятию человека «слои» реальности. При более внимательном взгляде на проблему становится ясно: «фейковые» предметы (голограммы, например) обретают для взаимодействующего с ними пользователя всю полноту чувственного присутствия. А зафиксированные датчиками невидимые объемы действительности выглядят новаторским довеском к реальности, только если забыть о роли более знакомых измерительных приборов (барометров, компасов и т.д.) в конструировании понимаемой человеком своей среды обитания. Получается, что машины дополняют объективно ощущаемый мир своим «восприятием», встраиваясь в традицию созависимых отношений между человеком и изобретенными им техническими системами.

Проиллюстрируем тезис. «In the Robot Skies» — фильм режиссера Лиама Янга, снятый целиком и полностью с помощью автономных дронов. Сюжет картины разворачивается вокруг пары влюбленных, за которыми «наблюдают» принадлежащие государству дроны. Этот фильм может считать экспериментом на поприще компьютерных технологий, но с точки зрения содержания он — результат перелицовки известного жанра эпистолярного романа. Так, главной героине приходится взломать один из дронов, чтобы иметь возможность отправлять письма своему возлюбленному, запертому в соседнем небоскребе. В результате «глазами» дронов зритель наблюдает за отыгрыванием классической истории любви, известной еще со времен Шекспира, если не раньше. Нам, впрочем, интересна не повесть, прекрасней которой на свете ничего нет, а механизмы и инструменты производства ее обновленной версии.

Кадр из фильма In the Robot Skies. Реж. Лиама Янг. 2016

© Fear and Wonder

МАШИНЫ ВИДЯТ

Классический кинематограф традиционно работает как фиксация коллективного взгляда на предмет или ситуацию, и взгляд этот представлен съемочной командой во главе с режиссером. Кадр — технически создаваемый элемент визуализации этих переживаний, остается таковым даже с развитием мобильного кинематографа и визуальных социальных сетей вроде Instagram и Snapchat. Кадры, снятые при помощи управляемых дронов, ставших в последнее время неотъемлемой частью кинематографии и видеографии, тоже фиксируют взгляд. Только машинный, практически невозможный для человека. Дроны позволяют размещать «камеру» на высоты, прежде доступные только с помощью вертолетов, и снимают высококачественный материал за сравнительно меньшие деньги.

При этом съемки с помощью дронов в меньшей степени задействуют творческий потенциал субъекта. Человек исключается из процесса конструирования кадра, соответствующие решения становятся вотчиной машин. То, что зритель увидит в кадре, целиком и полностью является результатом «видения» и продуктом «зрения» автономного устройства, способного принимать «творческие» решения с определенной степенью самостоятельности (зависимой от программных решений разработчиков, разумеется).

Остается лишь признать, что машины способны «видеть», то есть фиксировать реальность относительно субъектно, опираясь на собственные технические возможности. И дроны в этой ситуации — лишь малая часть того спектра устройств, претендующих на своеобразную «имперсонализацию». В 2016 году Янг также срежиссировал еще один фильм «Where the City Can’t See», снятый при помощи лазерного сканера, познакомившего зрителя со следующей версией невысказываемого машинного желания «смотреть» и фиксировать увиденное. Если видение дронов еще привычно человеческому глазу, хотя и построено на применении неочевидных точек обзора, то глаз сканера как будто превращает в явь фантастические киберпанк-прогнозы.

Кадр из фильма Where the City Can’t See, реж. Лиама Янг. 2016

© Fear and Wonder; Abandon Normal Devices

Интересно, что исследователи предсказали появление подобной сенситивности машин. В 1988 году в свет вышел философский труд Поля Вирильо «Машина зрения». В этой работе он развивал идею, согласно которой с появлением «оптических протезов» вроде фотокамер, расширяющих зрительные способности человека, начинается кризис репрезентации и своеобразная дислексия взгляда. Вирильо пишет:

«Логистика восприятия позволяет взгляду неизвестным ранее образом перемещаться, сталкивает близкое и далекое, порождает ускорение, опрокидывающее наше знание о расстояниях и измерениях»

Фактически автор утверждает: человеческий взгляд как инструмент считывания реальности уступает место «машине зрения», погружая нас в «сознательное ослепление». Вся эта ситуация обусловлена изначально людской жаждой цифровой власти: машины помогают обнаруживать то, что глаз увидеть неспособен. Проблема в том, что зрение машин — дронов, сканеров, камер — едва ли оказывается эффективно, если не способно взять на себя еще и функцию распознавания наблюдаемых объектов. Тут на помощь приходит машинное обучение, с его помощью увиденное подвергается программной интерпретации. Она полезна с точки зрения безопасности (с помощью камер наблюдения можно обнаружить преступника), помогает анализировать большие объемы данных, упрощает быт (например, холодильник начинает распознавать испортившиеся продукты) и уже стоит на вооружении индустрии развлечений. Строго говоря, именно благодаря машинному обучению и нейросетям окружающий мир оказывается доступным для машинного «понимания» и последующего управляемого человеком прогнозирования.

Пример с машинным зрением демонстрирует: техника дополняет человеческие способы восприятия мира. И при этом, будучи программируемой и зависимой от людей, обретает известную автономию. Машины не ограничены нашим чувственным опытом, его возможностями, и способны как воспринимать гораздо больше информации, чем человек, так и создавать ее в больших масштабах.

МАШИНЫ СОЗДАЮТ

Это чем-то напоминает развитие детей: они не без помощи взрослых, подсказывающих им, что и чем является, познают окружающий мир и затем научаются интерпретировать его самостоятельно. Примерно то же самое происходит с машинами.

Как и в «реальной» жизни, результаты применения той или иной технологии зависят от того, в чьих руках технология находится. Потому, например, обученные нейросети могут как улучшать жизнь (в частности, их используют при анализе городских пространств), так и ухудшать. Нейросеть способна синтезировать выступление президента Обамы и потенциально вызвать немало социальных и политических коллапсов. А Deepfake, разработанная пользователем Reddit, способна заменить лицо порноактрисы на лицо Галь Гадот и превратить потенциально любой визуальный артефакт в конструкт, производство которого едва ли будет определяться моральными или правовыми рамками современности. Инструмент — доступен, практики пользования им — не оговорены. Делегировав машинам право зрения, мы передали им право интерпретации и сборки мира за нас.

В результате визуальные образы, некогда бытовавшие как неоспоримый факт, доказательство и свидетельство, превратились в неподвластные человеку объекты. Чем дальше, тем сложнее будет отличить правду от иллюзии. И, несмотря на то, что исследователи озаботились попытками вернуть себе хотя бы в какой-то степени потерянное право зрения, в том числе разрабатывая механизмы различения фейков, фактически благое намерение «загнать джинна в бутылку» выглядит как открытое признание в том, что ни профессионалы, ни уж тем более рядовые пользователи — домохозяйки, министры, программисты — не готовы к новой реальности, производимой технологиями.

МАШИНЫ ВЫБИРАЮТ

Марк Цукерберг недавно признал, что Facebook оказался совершенно не готов к «вмешательству» в выборный процесс и последствиям не слишком закрытого доступа к данным (вспомним скандал с Cambridge Analytica). Он также заметил, что пока компания боролась с хакерскими атаками, вирусами и кражей данных, произошло то, что профессионалы не представляли — воцарилась матрица.

Как так случилось? Чем больше информации пользователь предоставляет «машинам» («скармливает» им данные), тем более несамостоятельным он становится. Вы наверняка замечали, что поиск какой-то информации о товаре или услуге приводит к появлению соответствующей контекстной рекламы. Вы искали фотоаппарат? Буквально через час во всех социальных сетях, не говоря уже о коммерческих сайтах, вы увидите десятки (навязчивых и не слишком) тематически близких рекламных объявлений. Похожая ситуация наблюдается и в случае с медиапотреблением: вы недавно заходили на новостной сайт с явной политической окраской? Алгоритмы услужливы и впредь будут предлагать вам информацию, соотносимую с вашим новым интересом.

Потому сейчас стали активно говорить не только о необходимости проверки любой информации (фактчекинг), но и об опасностях пузырей фильтров, сформированных посредством алгоритмов. Последние, опираясь на посещенные пользователем сайты, подписки и прочие цифровые следы, предлагают интересную для конкретного человека информацию и, таким образом, превращают его в заложника сформированной системы смыслов. Подписавшись на конкретный новостной портал, вы впоследствии будете преимущественно читать о том, что подразумевает повестка конкретного медиа, формируемая конкретной же редакцией. Неужели мы также передали машинам право совершать за нас выбор? Не совсем так. Мы добровольно предоставили им шанс обманывать нас без нашего участия. И доказательством тому являются споры вокруг феномена постправды как системы информационных фильтров (буквальных и нет) и неготовности к новым вызовам постцифровой эпохи.

МАШИНЫ ДОПОЛНЯЮТ

Итак, верить нельзя ничему: новости — фейковые, визуальность — матрица. Но остается же физическая «реальность», не подверженная власти монструозной «цифры» со всеми алгоритмами, нейросетями, биткоинами, машинным зрением... или нет? В принципе, постепенное превращение физического мира в цифровой конструкт можно было наблюдать с появлением (провалившегося) проекта Google Glass — очков, которые, по задумке, должны были расширить физический мир и наше о нем знание.

Однако окружающий нас физический мир также, иногда незаметным образом, насыщается цифрой. Например, за счет технологий дополненной реальности. Сегодня на рынке приложений можно обнаружить множество проектов с использованием движков с таким функционалом, позволяющих взаимодействовать с внешней средой и как будто немного менять ее. Ikea помогает сделать расстановку новой мебели в реальной комнате, Google Translate переводит для вас надписи на стенах, Measure Kit измеряет размеры любой вещи без помощи линейки. Так происходит становление смешанной реальности. Конечно, пока эти технологии выглядят скорее полезными, чем опасными. Но если и физическая реальность оказывается пространством бытования цифровых конструктов, то как будет выглядеть наша среда обитания в ближайшем будущем? И будет ли она в достаточной мере «нашей»?

Один из возможных сценариев развития технологий дополненной реальности представил режиссер Кейчи Мацуда в ролике «Hyper-reality». Будущее, в котором офлайн и онлайн слились в экстазе настолько, что повседневные действия человек может совершать, только будучи снабженным фоном виртуальной реальности, выглядит болезненным преувеличением. Однако можно увидеть в этм образе аллюзию на насыщенность современной информационной среды. В конце концов, уже сейчас физический мир переполнен конструктами, а выбор той или иной идеологической позиции в нем производится по клику.

Кадр из фильма Hyper-reality. Реж. Кейчи Масуда. 2016

© Keiichi Matsuda Ltd

ВМЕСТО ДИСТОПИЧЕСКОЙ ИСТЕРИКИ

Мы пережили появление фейковых новостей, смирились с фейковой наукой (компания Theranos, обещавшая новую эру в методах анализа крови, закрылась). Можно в принципе согласиться, что в мире иллюзий даже технологии, производящие фальшивки, поддельны. Так, нашумевший проект Magic Leap сводим к опыту производства спецэффектов.

Бодрийяр был прав — Матрица все-таки сняла фильм о матрице с матрицей в главной роли. Но не стоит забывать: вообще культура, ее конвенции и нормы — конструкты, созданные людьми. И любой фейк — производное культуры. Осталось только понять, не успели ли мы, играя с технологиями, передать им еще и право на культуртрегерскую деятельность.