Расцвет тоталитарных технологий

Несёт ли технический прогресс угрозу свободе человека? Этот вопрос был поставлен, например, Шошаной Зубофф в книге «Эпоха надзорного капитализма», где подробно рассказывается о том, каким образом корпорации и правительства используют технологии для влияния на поведение людей. Зубофф стала очередным участником дискуссии о «тоталитарных технологиях». Этим термином описываются устройства и алгоритмы, применение которых приводит к тому, что люди утрачивают свободу и неприкосновенность частной жизни либо в собственных интересах, либо в интересах какой-либо третьей стороны.

В Соединённых Штатах тоталитарные технологии можно разделить на три категории, которые используются в сфере услуг потребительского характера, на рабочих местах и в аппарате государственного управления.

Тоталитарные технологии широко распространены в мире розничной торговли, где циркулируют всё большие объёмы данных. Многие приложения для совершения покупок подключаются к встроенной в телефон GPS, чтобы определить его местоположение. Это даёт ритейлерам возможность отправлять рекламу хозяину устройства в тот момент, когда он проходит мимо их магазина. Индивидуальное ценообразование позволяет получить от покупателя максимальную сумму, которую тот готов заплатить за данный продукт. Даже дома личные данные не находятся в безопасности: цифровые помощники, такие как Amazon Alexa, сохраняют историю пользовательских запросов, то есть им известно всё: от уникальной истории покупок пользователя до его маршрутов путешествий и музыкальных предпочтений.

Работодатели также прибегают к тоталитарным технологиям для слежки за своими работниками и контроля над ними. Всё большее количество компаний используют биометрические системы учёта рабочего времени, которые сканируют отпечатки пальцев, форму руки, сетчатку или радужную оболочку глаза сотрудника. Компания по экспресс-доставке UPS оснащает свои грузовики датчиками, которые фиксируют открывание и закрывание дверей, работу двигателя и пристёгивание ремней безопасности. Amazon патентует электронный браслет, который будет отслеживать движения рук – например, позволит контролировать, чтобы работник склада занимался перемещением ящиков. Глобальная биржа фриланса Upwork запускает цифровую программу «Рабочий дневник», которая подсчитывает количество нажатий клавиш и делает скриншоты мониторов работников.

Внедрение тоталитарных технологий особенно ярко выражено в сфере государственного управления. В отделении полиции Нового Орлеана запускают программу «предсказательного контроля», которая использует большие объёмы данных для составления списка потенциальных преступников. Управление транспортной безопасности применяет собственную тоталитарную технологию «Мирное небо», которая наблюдает за путешественниками и отмечает тех, чьи действия соответствуют модели «подозрительного» поведения. В этот список могут угодить люди, которые переодевались в туалете, последними взошли на борт самолёта или просто посмотрели на своё отражение в окне терминала. Ещё более одиозным представляется разработанное в Стэнфордском университете программное обеспечение, которое позволяет манипулировать материалами видеосъёмки в режиме реального времени. Теперь любой несогласный может изменить мимику произносящего речь политика и наложить на видео новый звук, что полностью изменит содержание происходящего в кадре.

Если говорить о других странах, то безусловным «примером для подражания» в области внедрения экстремальных тоталитарных технологий выступает Китай. К 2020 году китайская «система социального рейтинга» будет контролировать поведение каждого гражданина, отслеживая всё, от штрафов за превышение скорости до публикаций в социальных сетях, содержащих критику государства. Затем каждый получит свой уникальный «балл лояльности». Высокий рейтинг будет необходим для всех, кто надеется получить хорошее жильё и высокоскоростной интернет, устроить своих детей в престижные школы и получить перспективную работу.

Но почему именно сейчас происходит столь бурный рост тоталитарных технологий? Потому что таков запрос общества. На протяжении всей истории применение тоталитарных технологий определялось именно пожеланиями и потребностями общества.

В 1980-х и 1990-х годах мир широкими шагами шёл к индивидуализму, свободному волеизъявлению, снижению роли государства и глобализму. Технологические прорывы той эпохи, в основном, рассматривались как поддержка подобных либертарианских тенденций. Так, после расправы на площади Тяньаньмэнь Рональд Рейган заявил, что «Голиаф тоталитаризма будет повергнут Давидом микрочипа». Но в последние годы мир двинулся в совершенно ином направлении – к общинности, популизму, централизованному контролю и национализму. Совершенно не случайно развитие сегодняшних технологий идёт тем же путём, к расширению прав и возможностей группы, а не отдельного человека (который теперь понимает, что он является продуктом, а не потребителем).

Смена воззрений поколений усиливает этот сдвиг в сторону систем тоталитарных технологий, основанных на групповом сознании. В то время как старшее поколение считает, что жертвовать своей частной жизнью рискованно в принципе, «поколение двухтысячных» видит плюсы в повышении безопасности, которое предлагают тоталитарные технологии. Кроме того, потенциал технологий вызывает оптимистичную оценку молодых людей. Согласно опросу 2015 года, 25 процентов респондентов в возрасте от 18 до 24 лет считают, что технологии оказывают «в основном положительное» влияние на их частную жизнь, что является самой высокой долей среди всех возрастных групп. Для опрошенных в возрасте от 60 до 64 лет этот показатель составляет всего 12 процентов. Более того, «миллениалы» безоговорочно доверяют крупным учреждениям касательно защиты личных данных; некоторые из них даже рассматривают личную свободу как некую нагрузку, которую желательно облегчить, а не как преимущество, которое нужно отстаивать.

Большинство возражений против тоталитарных технологий сегодня звучат со стороны старшего поколения. Как показывают результаты отчёта Pew Research Center за 2017 год, 60 процентов опрошенных в возрасте от 50 до 64 лет и 56 процентов в возрасте старше 65 лет отметили, что их данные сегодня находятся в меньшей безопасности, чем пять лет назад. Для сравнения, среди респондентов в возрасте моложе 50 лет всего 41 процент разделяет подобную точку зрения. Как выяснилось, старшее поколение гораздо чаще использует различные пароли для разных сайтов и сохраняет их в тайне от друзей и семьи, чтобы не подвергать свои данные риску.

В будущем тоталитарные технологии в Америке (и на Западе в целом) ожидает битва между стремлением к эффективности и сохранением неприкосновенности частной жизни.

Чем обернётся эта борьба?

За ответом можно обратиться к истории. Последний раз изменение настроений в сторону национального единства, которому способствовали новые технологии, наблюдалось в 1930-х годах. Тогда, в разгар Великой депрессии, загнанные в угол граждане уполномочили Франклина Рузвельта провести широкие изменения в обществе в рамках его «Нового курса». Правительство Рузвельта использовало огромные технологические прорывы своего времени, чтобы вооружить нацию и победить врага (в том случае, фашизм) – от массовых радиопередач до массовых сборочных линий, от радаров и дешифровочных машин до неконтактных взрывателей и деления атомного ядра.

Национальные лидеры, поддерживаемые решительно настроенным обществом, использовали новые технологии для построения демократического мира, в котором опасно авторитарные режимы находились под контролем. Даже если сегодняшние игроки другие, история может закончиться аналогично.

Источник