Саммари книги Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти: краткое содержание

Введение

Вы привыкли воспринимать цифровые технологии как инструменты связи, поиска информации и развлечений. Вы доверяете смартфонам и поисковым системам, полагая, что платите за удобство своими данными в рамках честного обмена. Но за этим фасадом скрывается беспрецедентный экономический порядок, который превращает вашу частную жизнь в сырье для извлечения прибыли. Этот новый режим приватизирует саму человеческую природу, подчиняя ее логике тотального прогнозирования и контроля.

Столкнувшись с подобными инновациями, общество, правовая система и академическая наука используют устаревшие концепции. Вы продолжаете рассуждать о праве на неприкосновенность частной жизни, свободе контрактов и защите персональных данных в терминах индустриальной эпохи. Такая слепота маскирует масштабы угрозы. Технологические гиганты действуют на неизведанной территории, где традиционные законы рынка и демократические институты оказываются бессильны перед лицом скрытой экспроприации опыта.

Книга исследует механизмы возникновения этого режима, получившего название надзорного капитализма. Вы узнаете, как побочные продукты цифровой активности превратились в ценнейшие поведенческие фьючерсы, а инструменты мягкого убеждения уступили место прямой модификации поведения. Издание отвечает на самые острые вопросы современного цифрового мира:

• Каким образом частная жизнь стала бесплатным ресурсом для транснациональных корпораций?
• Почему традиционные юридические механизмы защиты не справляются с цифровыми монополиями?
• Чем инструментарная власть отличается от классического тоталитаризма и рыночного контроля?
• Как алгоритмическое предсказание разрушает автономию, волю и право на будущее?
• Способно ли общество преодолеть идеологию цифровой неизбежности и восстановить демократический контроль?

1. Определение и сущность надзорного капитализма

Надзорный капитализм — это новый экономический порядок, который превращает человеческий опыт в бесплатное сырье для извлечения данных, прогнозирования и продажи.

Сущность нового экономического режима

Автор определяет этот режим как злокачественную мутацию капитализма. Она создает беспрецедентную концентрацию богатства, знаний и власти.

Вы сталкиваетесь с системой, которая напрямую угрожает суверенитету народа и самой человеческой природе.

• Поведенческий излишек
• Прогнозные продукты
• Рынки поведенческих фьючерсов

Инструментаризм и Большой Другой

Надзорный капитализм эволюционирует от простого сбора информации к автоматическому формированию человеческого поведения с помощью новой формы власти — инструментаризма.

Вместо того чтобы просто прогнозировать действия людей, компании используют все более сложные средства изменения поведения через сетевые пространства. Вы подчиняете свою волю цифровым гигантам ради мнимого удобства.

Использование компанией Google элементов искусственного интеллекта и интеграция термостата Nest служат для сбора личных данных. Игра Pokémon Go наглядно управляет перемещением пользователей в нужные коммерческие точки.

Асимметрия знаний и власти

Главным инструментом господства надзорного капитализма является беспрецедентная асимметрия знаний и власти.

Корпорации знают о вас абсолютно все. При этом их собственные алгоритмические процессы остаются скрытыми и непонятными для общества.

Знания о людях собираются не для вашего блага. Они используются исключительно для предсказания будущего ради чужой прибыли.

2. Проблема восприятия нового цифрового режима

Феномен надзорного капитализма беспрецедентен, из-за чего люди склонны ошибочно интерпретировать его через привычные понятия вроде монополии или конфиденциальности.

Столкнувшись с совершенно новым явлением, общество использует устаревшую оптику. Инновации уподобляют безлошадным экипажам, тем самым скрывая истинные масштабы угрозы и легитимизируя аномальные практики.

Автор описывает ночной пожар в собственном доме, когда она пыталась спасти привычный уклад и закрывала двери комнат, которых уже не существовало.

Технологии как экономические средства

Технологии не являются автономной силой. Они всегда служат средством реализации экономических целей капитала.

Фокус смещается с кукловода на марионетку. Цифровые инструменты и платформы приводятся в движение конкретной экономической ориентацией на получение прибыли и специфическими императивами надзорных капиталистов.

Бывший гендиректор Google Эрик Шмидт заявлял, что поисковые системы якобы просто сохраняют информацию.

Фаустовская сделка цифровой жизни

Надзорный капитализм навязывает пользователям фаустовскую сделку. Отказ от цифровых сервисов равен социальному изгнанию.

Поскольку современная жизнь и коммерция полностью оцифрованы, вы не можете просто отказаться от участия в сети. Этот конфликт между потребностью в эффективности и сопротивлением слежке приводит к психическому онемению, цинизму и беспомощности.

Исследователи из Лондона подсчитали, что объем документов для пользователя экосистемы умных термостатов Nest составляет почти тысяча соглашений. Отказ от принятия таких условий влечет за собой отключение обновлений безопасности и сбой систем дома.

3. Социальный контекст и неолиберальные истоки

Переход к второму модерну и запросы на индивидуализацию наложились на неолиберальный вакуум, подготовив почву для цифровой эксплуатации.

Запросы второго модерна

Успех цифровых гигантов и самой модели надзорного капитализма стал возможен благодаря запросам людей второго модерна на индивидуальное самоопределение.

Многовековой исторический переход от коллективных масс к автономному индивиду создал острую потребность в свободе выбора и личном достоинстве. Суровая неолиберальная среда и экономическое насилие заставили вас искать спасение в интернете, где вы попали в ловушку надзорной эксплуатации.

Семья автора иммигрировала в Америку в поисках новой жизни в эпоху первого модерна, что резко контрастирует с вызовами второго модерна.

Неолиберальная среда и права акционеров

Экономический кризис 1970-х годов и социальные волнения создали вакуум идей, который заполнили неолиберальные экономисты во главе с Фридрихом Хайеком и Милтоном Фридманом.

Хайек выступал за саморегулирующийся свободный рынок как идеальный процесс обработки информации. Этот расширенный порядок требовал свободы от государственного надзора и заменял легитимную политическую власть.

Фридрих Хайек получил Нобелевскую премию по экономике в 1974 году, а Милтон Фридман — двумя годами позже.

В 1976 году экономисты Майкл Дженсен и Уильям Меклинг заложили основы движения за права акционеров, переосмыслив менеджеров как помеху обогащению собственников. Они предложили использовать цену акций как структуру стимулов для жесткого согласования поведения управленцев с интересами владельцев капитала, что привело к роспуску классической корпорации открытого типа.

Нестабильность и социальное неравенство

Августовские беспорядки 2011 года в Лондоне стали насильственным прорывом накопившегося социального гнева против жестокого экономического неравенства.

Исследования показали, что бунты были спровоцированы тотальной безработицей, бедностью, отсутствием перспектив и ощущением маргинализации среди значительной части населения.

9 августа 2011 года 16 000 полицейских наводнили улицы Лондона, чтобы подавлять беспорядки. В ходе столкновений тысячи демонстрантов нанесли материальный ущерб более чем на 50 миллионов долларов США, а 3000 человек были арестованы.

4. Пионеры надзорного капитализма и открытие излишка

Компания Google стала пионером надзорного капитализма, превратив случайные побочные продукты взаимодействия пользователей с поиском в ключевой актив для генерации прибыли.

Первопоходец Google

То, что изначально считалось отходами производства или выхлопом данных, было переосмыслено как сырье для машинного интеллекта и прогнозирования поведения.

В 1998 году компания Google была зарегистрирована, а в 1999 году обрабатывала по семь миллионов поисковых запросов в день благодаря инвестициям венчурных фондов Sequoia Capital и Kleiner Perkins, которые выкупили акции на 25 миллионов долларов.

Открытие поведенческого излишка

Google обнаружил новый экономический ресурс — поведенческий излишек, который первоначально использовался для улучшения поиска, а затем был перенаправлен на таргетирование рекламы.

Поисковые запросы и побочные следы поведения пользователей стали сырьем для алгоритмического анализа, позволяющего точно предсказывать действия людей.

В апреле 2002 года команда Google заметила резкий всплеск запросов по запросу «девичья фамилия Кэрол Брейди» во время телетрансляции шоу, что доказало высокую прогнозную силу данных. В период кризиса почта в офис компании в Mountain View приносила по 1000 резюме в день.

Рынки поведенческих фьючерсов

Конечным продуктом надзорных платформ являются не личные данные пользователей, а прогнозные продукты, которые продаются на рынках поведенческих фьючерсов.

Прогнозные продукты снижают риски для рекламодателей и других клиентов, предсказывая будущие поступки, мысли и чувства людей на основе анализа больших массивов данных.

Менеджеры Google использовали показатель кликабельности в сочетании с показателем качества для автоматических аукционов рекламных объявлений. К 2014 году рыночная капитализация Google составляла 400 миллиардов долларов, а в 2017 году система обрабатывала 3,5 миллиарда поисковых запросов в день и 1,2 триллиона в год.

5. Императив извлечения и четвертый фиктивный товар

Движком нового капитализма стал императив извлечения, превративший человеческий опыт в четвертый фиктивный товар.

Императив постоянного сбора сырья

Надзорный капитализм работает на основе извлечения человеческого опыта и превращения его в поведенческие данные для создания прогнозных продуктов на новых рынках. В отличие от промышленного капитализма, который опирался на материальное производство, надзорный капитализм экспроприирует человеческую природу как сырье без вашего ведома и согласия.

Главным мотором нового экономического порядка стал императив извлечения, требующий постоянного наращивания масштабов сбора поведенческого сырья. Чтобы машины машинного интеллекта работали эффективно, объемы поступающих данных должны непрерывно расти, что ставит во главу угла масштабный онлайн-надзор.

Четвертый фиктивный товар

Надзорный капитализм ввел четвертый фиктивный товар, экспроприировав человеческий опыт и превратив его в поведение, готовое для рыночного обмена. По аналогии с концепциями Карла Поланьи и Карла Маркса о превращении земли и труда в товары, современный капитализм захватывает ваш внутренний мир и опыт через цифровое изъятие.

Внедрение рекламных продуктов вроде Beacon от Facebook и AdWords от Google продемонстрировало практику отчуждения пользовательского опыта в пользу коммерческой выгоды. Меньше чем за четыре года с момента внедрения поведенческого излишка выручка компании выросла на 3590 %.

Переход к масштабным платформам

Google создал систему самообслуживания AdWords и контекстно-ориентированную рекламу AdSense, превратив весь интернет в доску объявлений таргетированной рекламы. Патент Google 2003 года закрепил практику создания профилей пользователей в обход ваших явных намерений.

• 89 % доходов компании Alphabet в 2016 году были получены от программ таргетированной рекламы.
• Более 40 000 поисковых запросов в секунду обрабатывал Google по состоянию на 2017 год.

6. Защита бизнеса и правовые привилегии гигантов

Многоуровневая структура акций, саморегулирование и юридические щиты защитили технологические монополии от демократического контроля.

Акции суперкласса и контроль основателей

Двух- и трехклассная структура акций дает основателям технологических гигантов абсолютный контроль над компаниями и защищает их от влияния инвесторов и рынка.

Ларри Пейдж и Сергей Брин при выходе Google на биржу в 2004 году внедрили структуру с акциями класса B, а Марк Цукерберг применил аналогичный подход в Facebook. Основатели Google ввели акции суперкласса B с десятью голосами на акцию, а позже добавили кастрированные акции класса С с нулевым правом голоса, что сделало их неуязвимыми к давлению акционеров и позволило проводить агрессивные поглощения.

• 2004 год стал временем первичного размещения акций Google.
• 83 % акций класса B находилось под контролем Брина и Пейджа к 2017 году.
• 51 % голосов обеспечивали те же акции класса B к 2017 году.
• 15 % IPO предусматривали двухклассную структуру акций в 2015 году по сравнению с 1 % в 2005 году.

Раздел 230 и правовой иммунитет

Раздел 230 Закона о благопристойности в сфере коммуникаций освободил интернет-посредников от ответственности за контент, создав правовой щит для извлечения поведенческого излишка. Этот закон 1996 года задумывался для защиты платформ от исков и поощрения фильтрации, но в новую эпоху он стал укрывать компании, которые монетизируют любой контент.

Судебные дела компаний CompuServe в 1991 году и Prodigy в 1995 году заложили дилемму статуса платформ как распространителей или издателей.

Линии укреплений и лоббизм

Google возвел четыре линии укреплений для защиты своего бизнеса: демонстрацию политической пользы, обмен кадрами с властью, массированный лоббизм и финансирование академических кругов. Компания внедряет прогностические технологии в избирательные кампании, нанимает бывших чиновников и тратит рекордные суммы на законы.

Эрик Шмидт участвовал в организации кампаний Барака Обамы в 2008 и 2012 годах, где накапливались данные 250 миллионов американцев. К апрелю 2016 года 197 человек перешли из правительства в Гуглосферу, а 61 человек — обратно. Расходы Google на лоббирование выросли с более чем 17 миллионов долларов в 2014 году до более чем 18 миллионов долларов в 2018 году.

7. Инфраструктура сбора данных и цикл изъятия

Скрытые цепочки поставок, мобильные платформы и четырехэтапный цикл изъятия обеспечивают повсеместную экспроприацию опыта.

Поиск и Android как маршруты поставок

Поисковые системы и интернет-сервисы перепрофилируются в скрытые маршруты поставок для непрерывного сбора поведенческого излишка. Поиск Google стал первой ступенью создания цепочки поставок сырья. Используя скрытые плагины вроде Панели инструментов Google и постоянные файлы cookie, компания незаметно отслеживает ваши действия, искажает результаты поиска в пользу собственного контента и создает огромную экономию от масштаба.

Бенджамин Эдельман из Гарвардской школы бизнеса выяснил в 2010 году, что Панель инструментов Google продолжала отслеживать пользователей даже после ее формального отключения. Тим Ву и Майкл Лука в 2015 году доказали систематическое искажение поисковой выдачи.

Бесплатные мобильные платформы с открытым исходным кодом используются для создания повсеместного аппаратного слоя сбора данных в реальном мире. Google распространяет ОС Android бесплатно среди производителей устройств, чтобы занять все пространство между вами и сетью. Обязательная установка фирменных сервисов и магазинов приложений позволяет беспрепятственно собирать ваши геолокационные и поведенческие данные.

Один из инвесторов Кремниевой долины в 2011 году охарактеризовал стратегию Android как выжженную землю на 250 миль вокруг замка. Антимонопольные расследования ЕС в 2016 году подтвердили монопольное давление компании.

Четыре этапа цикла изъятия

Корпоративное изъятие данных подчиняется четкому четырехэтапному циклу, который превращает незаконный захват в социальную норму.

Процесс легитимизации спорных практик включает следующие фазы:

• одностороннее вторжение в незащищенные пространства;
• приучение публики к вторжению через затягивание судебных процессов;
• поверхностная адаптация под требования регуляторов;
• стратегическое перенаправление проектов на новые цели.

Этот цикл прослеживается на истории сервиса Gmail, запущенного 1 апреля 2004 года, а также на масштабных проектах картирования и носимых устройств.

Скандалы с картированием и Spy-Fi

Проекты масштабного картирования физического мира служат прикрытием для тайного сбора частных данных из беспроводных сетей. Проект Просмотр улиц изначально подавался как безобидная инициатива по оцифровке общественных мест, но расследования показали, что автомобили компании массово перехватывали незашифрованный трафик частных сетей Wi-Fi, включая пароли, личные сообщения и финансовую информацию.

Жители английской деревни Бротон в 2009 году заблокировали машину Просмотра улиц, а в 2010 году немецкие эксперты доказали факт сбора личных данных. Это привело к многомиллионным расследованиям в двенадцати странах. Всего в период 2008–2010 годов по всему миру было нелегитимно собрано 600 миллиардов байтов личной информации, из них 200 миллиардов байтов — в США. Федеральная комиссия по связи наложила на компанию штраф в 25 000 долларов в 2012 году.

8. Реалити-бизнес и экспансия в физический мир

Надзорный капитализм выходит за пределы интернета в физический мир, превращаясь в реалити-бизнес с целью управления реальной жизнью.

Императив прогнозирования и реалити-бизнес

Поскольку онлайн-излишка становится недостаточно для точных прогнозов, в действие вступает императив прогнозирования. Компании расширяют архитектуру извлечения на реальный мир через экономию от охвата и экономию от действия.

Создание аппарата повсеместной компьютеризации компаниями вроде Google, IBM и Microsoft нацелено на ликвидацию физического мира в его прежнем виде.

Оцифровка представляет собой двусторонний процесс превращения человеческого опыта в сырье для данных и одновременного принуждения пользователей сдавать этот ресурс корпорациям. Термин восходит к глаголу render, означающему добровольную или принудительную уплату дани.

Компания iRobot планировала продавать карты жилищ клиентов, собранные пылесосом Roomba, а отказ делиться данными приводил к потере умных функций устройства. В июне 2017 года цена акций iRobot составляла 102 доллара по сравнению с 35 долларами годом ранее, а рыночная капитализация достигла 2,5 миллиардов долларов при доходе в 660 миллионов.

Оцифровка тела и здоровья

Смартфоны и мобильные приложения непрерывно отслеживают геопозицию и физиологическое состояние пользователей, превращая человеческое тело в объект сбора данных. Сбор информации о местоположении и биометрии осуществляется скрытно через фоновые процессы приложений, геозонирование и триангуляцию.

В 2015 году 90% владельцев смартфонов в США, или 153 миллиона человек, пользовались геолокационными приложениями.

Исследование ученых Университета Карнеги—Меллона показало, что к телефонам участников за двухнедельный период обращались за геоданными тысячи раз. После этого большинство пользователей ограничили разрешения приложений, столкнувшись с масштабами вторжения в личную жизнь.

Умные города и коммерческие полигоны

Концепция умных городов используется технологическими корпорациями для превращения городской среды и публичных пространств в коммерческий полигон по извлечению поведенческих данных. Корпорации внедряют транспортные платформы под предлогом решения городских проблем и преодоления цифрового неравенства.

На практике эти системы объединяют государственные и частные активы для создания динамических рынков и извлечения максимальной прибыли. Проект Sidewalk Labs компании Alphabet в Торонто и партнерство с Министерством транспорта США были направлены на интеграцию систем управления трафиком Flow и сбор данных о перемещениях горожан. Объем грантов Министерства транспорта США для привлечения городов в орбиту Google составил 40 миллионов долларов, а компания Cisco со своей платформой Cisco Kinetic охватила уже 120 умных городов по всему миру.

9. Психологический таргетинг и оцифровка личности

Анализ цифровых следов и психометрические профили позволяют корпорациям предсказывать черты характера и манипулировать поведением.

Персонализация как завоевание

Концепция персонализации используется технологическими гигантами как прикрытие для эксплуатации человеческих потребностей и извлечения глубокого поведенческого излишка. Под видом заботы и помощи цифровые помощники оцифровывают намерения, мотивы, настроения и желания пользователей, превращая внутреннюю жизнь в сырье для прогнозных продуктов.

Генеральный директор Microsoft Сатья Наделла представил персонального цифрового помощника Кортану на конференции Ignite в 2016 году.

Модели прогнозирования личности

Социальные сети и цифровые платформы превратили внутренний мир и психологические особенности человека в сырье для создания высокодоходных прогнозных продуктов. С помощью сложных алгоритмов машинного интеллекта компании научились извлекать из метаданных и профилей пользователей информацию о чертах личности, эмоциональном состоянии и ценностях.

Михал Косински и Дэвид Стилвел разработали приложение myPersonality, содержавшее миллионы профилей личности и использовавшееся для проверки прогнозных моделей. К 2016 году объем базы данных myPersonality достиг 6 миллионов профилей, из которых 4 миллиона составляли индивидуальные профили пользователей Facebook при общей аудитории платформы в 2 миллиарда человек. Исследования 2010 и 2012 годов доказали, что метаданные, лайки и особенности текстовых сообщений точнее отражают реальные черты характера, чем прямые ответы пользователей в тестах.

Психографический таргетинг и выборы

Психографическое микротаргетирование избирателей продемонстрировало способность надзорного капитализма переносить коммерческие методы изменения поведения в политическую сферу. Компания Cambridge Analytica использовала незаконно собранные через сторонние приложения психологические профили миллионов пользователей для манипулирования электоральным поведением.

Александр Коган привлек 270 000 человек для прохождения личностного теста, что позволило передать компании Cambridge Analytica от 50 до 87 миллионов профилей Facebook. Александр Никс из компании Cambridge Analytica применял микроповеденческий таргетинг во время голосования за брексит и президентской кампании Дональда Трампа в США в 2016 году.

10. Аффективные вычисления и оцифровка эмоций

Системы распознавания лиц и эмоций превращают мимолетные чувства пользователей в сырье для коммерческого прогнозирования.

Аффективные вычисления и анализ микровыражений

Аффективные вычисления превращают человеческое бессознательное и мимолетные эмоции в сырье для коммерческого прогнозирования. Специализированное программное обеспечение и датчики сканируют микровыражения лица, интонации и жесты, улавливая эмоциональные реакции человека раньше, чем они осознаются. Это позволяет маркетологам предсказывать моменты наибольшей уязвимости потребителей для увеличения продаж.

Стартап Realeyes получил от Европейской комиссии грант в размере 3,6 миллиона евро в 2015 году за технологию чтения эмоций по веб-камере. Компания заявила о создании базы данных, которая включает 7000 человек и 5,5 миллиона аннотированных видеозаписей реакций. Объем рынка аффективных вычислений вырос с 9,35 миллиарда долларов в 2015 году до прогнозируемых 53,98 миллиарда долларов к 2021 году.

Коммерческий сдвиг эмоционального ИИ

Коммерческий спрос на надзорные доходы заставил разработчиков систем распознавания эмоций отказаться от терапевтических целей в пользу маркетинга. Компания Affectiva, созданная изначально для помощи людям с трудностями восприятия эмоций, включая детей с аутизмом, под давлением корпоративных заказчиков переориентировала свой бизнес на рекламу и анализ потребительских реакций.

Основательницы компании Розалинд Пикард и Рана эль Калиуби столкнулись с непреодолимым интересом рекламных гигантов к их разработкам. После этого фокус компании сместился на эмоциональный искусственный интеллект для корпоративных клиентов. Венчурный капитал Affectiva составил 34 миллиона долларов, а ее решениями пользуются 32 компании из списка Fortune 100 и 1400 брендов по всему миру, накопившие 4,8 миллиона видеозаписей лиц.

Таргетинг моментов уязвимости

Корпоративные документы подтверждают использование данных о настроениях молодежи для таргетинга рекламы в моменты наибольшей уязвимости. Системы сбора психологической информации позволяют алгоритмам вычислять, когда молодые люди испытывают стресс или тревогу, чтобы подбирать рекламные сообщения для достижения гарантированных результатов.

Австралийская пресса в 2017 году опубликовала конфиденциальный документ Facebook объемом 23 страницы. В нем раскрывались схемы сбора психологической информации о 6,4 миллиона старшеклассников и студентов в Австралии и Новой Зеландии.

11. Экономия за счет действия и модификация поведения

Новым этапом надзорного капитализма становится экономия за счет действий, направленная на автоматическое изменение поведения в реальном времени.

От прогноза к активации действий

С развитием интернета вещей сбор данных перерос в активацию — способность систем не просто фиксировать поведение, но и вмешиваться в него для получения гарантированных коммерческих результатов.

Инженеры и разработчики программного обеспечения для интернета вещей открыто заявляют о целях повсеместного вмешательства, когда датчики выступают активаторами, управляющими действиями людей через подстройку, понуждение и обусловливание.

Методы изменения поведения

Надзорный капитализм использует три главных подхода к модификации поведения:

• Подстройка с помощью цифровых подталкиваний для незаметного направления выбора.
• Понуждение, сужающее контекст и исключающее альтернативы.
• Оперантное обусловливание, формирующее нужные действия в массовом масштабе через системы подкреплений и вознаграждений.

Поведенческие экономисты Ричард Талер и Касс Санстейн описали архитектуру выбора, которую надзорный капитал приспособил для извлечения собственной выгоды в обход интересов индивида.

Pokémon Go как прецедент управления толпой

Игра Pokémon Go создала первый массовый прецедент того, как цифровая корпорация направляет поведение людей в реальном физическом пространстве ради извлечения коммерческой выгоды.

Джон Ханке использовал наработки картографии Google и игры Ingress для создания приложения с дополненной реальностью, заставляющего миллионы людей перемещаться по улицам и посещать определенные коммерческие точки.

Житель Нью-Джерси Дэвид обнаружил толпы незнакомцев на своей лужайке, пытающихся поймать виртуального покемона, а пиццерия в Квинсе с помощью виртуальных приманок подняла продажи еды на 30–70%.

12. Инструментарная власть и Большая утопия определенности

Инструментарная власть заменяет старые формы господства и использует средства изменения поведения для точного прогнозирования и контроля без насилия.

Природа инструментарной власти

Инструментаризм опирается на соединенную в сеть материальную архитектуру компьютеризации. Она превращает людей в средства для достижения рыночных целей и полностью игнорирует ваши смыслы и мотивы.

Экономическая логика надзорного капитализма использует гигантские мощности цифрового аппарата для непрерывного сбора поведенческого излишка. Этот процесс не требует вашего согласия и переводит свободную волю в автоматические условные рефлексы. Эрик Шмидт из Alphabet и Google еще в 2015 году заявлял, что интернет исчезнет, имея в виду его полное растворение в структуре Большого Другого.

Сравнение с тоталитаризмом

Приравнивание инструментарной власти к классическому тоталитаризму является серьезной ошибкой. Тоталитарные режимы прошлого требовали внутреннего подчинения и уничтожали инакомыслящих во имя абстрактной расы или класса.

Инструментарная власть абсолютно безразлична к вашим внутренним мотивам. Она направлена исключительно на оцифровку, вычисление и модификацию внешних действий.

Уолтер Дюранти в журнале Look от 15 августа 1939 года описывал сталинский СССР как демократическое общество. В этот момент продолжался Большой террор, включавший 7 миллионов арестов за двухлетний период, 1 миллион официальных казней и 2 миллиона погибших в трудовых лагерях. Сюда же входило уничтожение 15 000 польских националистов в 1940 году. Эта слепота современников иллюстрирует неспособность общества вовремя распознать масштаб зла.

Утопия определенности и улей

В отличие от государственного тоталитаризма, инструментаризм представляет собой рыночный проект тотальной определенности. Он создает гарантированные исходы через управление вашим поведением.

Проект реализует предвидения Б. Ф. Скиннера о технологиях прогнозирования и контроля. Власть отказывается от прямого насилия и использует аппарат цифровых стимулов, который устраняет силы трения и подавляет вашу автономию.

13. Социальный кредит и инструментарный коллектив

Китайская система социального кредита является апофеозом инструментарной власти, где государство использует частные и государственные данные для автоматического формирования поведения граждан.

Китайский синдром социального кредита

Проект интегрирует финансовые, социальные и биометрические данные в единую базу, награждая лояльных граждан и наказывая нарушителей через систему ограничений на поездки, кредиты и карьеру. Автоматическое управление поведением через цифровые рейтинги стирает границы между государственным принуждением и рыночным контролем.

Платформа Sesame Credit от Ant Financial (Alibaba Group) за два года привлекла более 400 миллионов пользователей, используя алгоритмы для оценки характера, связей и покупок.

Система активно применяет жесткие санкции. В рамках таких мер было зафиксировано 2,22 миллиона отказов в билетах на скоростные поезда и 6,97 миллиарда юаней (1,01 миллиарда долларов) в виде отказов в кредитах должникам, попавшим в официальные списки нарушителей.

Социальная физика Алекса Пентленда

Алекс Пентленд из MIT переносит методы наблюдения за популяциями животных на все человечество, формируя концепцию социальной физики.

Основываясь на опыте оценки популяций бобров из космоса, Пентленд сформулировал подход взгляда с высоты Бога, который позволяет собирать массивы непрерывных поведенческих данных для математического прогнозирования и контроля социальной динамики.

Лаборатория динамики человека в MIT Media Lab под руководством Алекса Пентленда консультирует глобальные корпорации и правительства, внедряя методы тотального сбора данных.

Принципы инструментарного общества

Инструментарное общество строится на ключевых принципах, которые заменяют свободу, политику и индивидуальность на математическое планирование и социальное давление.

Автор выделяет следующие элементы новой системы:

• ориентация на большее благо через алгоритмическую гармонию;
• вытеснение политики математическим планированием;
• использование социального давления для настройки сети и управления Homo imitans;
• прикладной утопизм по аналогии с идеями Б. Ф. Скиннера;
• окончательное упразднение индивидуальности ради создания единого суперорганизма.

14. Жизнь в улье и кризис человеческой идентичности

Постоянное пребывание в сетях и взгляд извне разрушают автономию подростков, порождая зависимость и страх упущенной выгоды.

Цифровая абстиненция у молодежи

Жизнь улья держится на тотальной зависимости пользователей от платформ. Кратковременный отказ от цифровых средств связи вызывает у современной молодежи тяжелую психологическую дезориентацию.

Тысяча студентов из пяти континентов пытались воздержаться от цифровой связи в течение двадцати четырех часов, что вызвало всеобщий коллективный кризис и жалобы на пустоту и панику.

Международное исследование в десяти странах показало, что суточный отрыв от сети порождает у студентов панику, депрессию, изоляцию и невозможность координировать свою жизнь без платформ вроде Facebook.

Взгляд извне и самообъективация

Поколение цифровых аборигенов оценивает собственную личность и счастье через постоянный взгляд извне со стороны виртуальной аудитории. Вы привыкаете сверять каждый шаг с реакцией сети.

Опрос британских девушек 11-21 лет показал, что 35% из них больше всего беспокоят сравнение собственной жизни с идеализированными версиями чужих жизней в сети.

Социальные сети заменяют внутренние ориентиры внешним одобрением, привязывая самооценку молодых людей к количеству лайков и постоянному сравнению. В 2018 году 40% молодых людей в возрасте 18–29 лет заявили, что находятся в сети почти постоянно.

Кнопка Нравится как зеркальный лабиринт

Кнопка «Нравится» превратила социальные сети в мощный инструмент сбора поведенческого излишка и планетарный зеркальный лабиринт. Этот механизм усиливает процессы автоматического социального сравнения.

Германские исследователи выяснили, что более 20% всех недавних эпизодов зависти у студентов были спровоцированы просмотром ленты Facebook.

После внедрения кнопки «Нравится» в 2009 году платформа получила непрерывный поток данных о предпочтениях пользователей. Эндрю Босуорт и Марк Цукерберг долго откладывали запуск этой функции, но внедрили ее, когда данные показали ее колоссальный потенциал для генерации поведенческого излишка и создания эффекта FOMO.

15. Уничтожение святилища и радикальное безразличие

Большой Другой уничтожает право на святилище и пространство уединения, стирая физические и цифровые границы дома ради извлечения данных.

Разрушение святилища и приватности

Архитекторы Большого Другого рассматривают стены дома как простые наборы координат для датчиков и камер, которые оцифровывают опыт. Историческое право на святилище, существовавшее даже при тирании, заменяется всепроникающим надзором, разрушающим необходимую для психологического здоровья приватность. Вы лишаетесь последнего безопасного убежища, где можете скрыться от посторонних глаз.

Дом автора был уничтожен ударом молнии, и позже, изучая работы Гастона Башляра «Поэтика пространства», она осознала значение дома как первомира и школы уединения, защищающей внутреннее «я».

Радикальное безразличие платформ

Принцип радикального безразличия заменяет моральные оценки погоней за ростом метрик, допуская распространение дезинформации и экстремизма ради сбора данных.

Управляющие структуры платформ оценивают любой контент исключительно по объему генерируемого излишка и кликов. Деградация публичного дискурса и появление фейк-новостей не считаются проблемой, пока они не угрожают потоку сырья для теневого текста.

Менеджер Facebook Эндрю Босуорт в служебной записке 2016 года открыто заявил, что любые сомнительные тактики роста и соединения людей оправданы, так как выигрывают не лучшие продукты, а те, которыми все пользуются. Перед теми же выборами в США было зафиксировано 760 миллионов случаев прочтения скоординированной лжи. Министерство юстиции США оштрафовало Google на 500 миллионов долларов в 2011 году за рекламу незаконных онлайн-аптек.

Гипермасштабные надзорные корпорации отказываются от органической взаимности с обществом, нанимая минимум сотрудников при гигантской капитализации.

В отличие от промышленных гигантов прошлого, современные технологические платформы используют гипермасштабирование, управляя огромной инфраструктурой силами небольших коллективов. В General Motors работало до 735 000 человек при меньшей капитализации, в то время как Google никогда не превышал 75 000 сотрудников, а Facebook — 18 000 при значительно более высокой рыночной стоимости. К концу 2016 года рыночная капитализация Google достигла 532 миллиардов долларов, а Facebook — 332 миллиардов долларов. Всего 24 гипермасштабные фирмы эксплуатировали 320 центров обработки данных в 2017 году.

16. Сопротивление, право на будущее и силы трения

Шестнадцать различных факторов объясняют, почему надзорный капитализм смог успешно укорениться, несмотря на то что в подавляющем большинстве опросов люди выступают против нарушения конфиденциальности.

Почему это сошло им с рук

Комплекс корпоративных уловок и идеологических мифов позволил технологическим монополиям закрепить свою власть в обход воли общества.

Автор выделяет целый ряд причин: беспрецедентность новых практик, использование корпоративных деклараций как средства захвата прав, благоприятный неолиберальный контекст и чрезвычайщина борьбы с террором. К этому добавляются агрессивный лоббизм, зависимость пользователей от бесплатных сервисов, корыстный интерес попутчиков, риторика неизбежности и эксплуатация идеологии человеческой слабости.

Исследования общественного мнения показывают масштаб этого противоречия.

• 46 из 48 крупных опросов, проведенных в период с 2008 по 2017 год, показали значительную поддержку мер по улучшению конфиденциальности.
• 73–86% американцев отвергают целевую интернет-рекламу, когда узнают о методах сбора данных.
• 91% респондентов в 2015 году не согласились с тем, что сбор личной информации без ведома является справедливой уступкой ради снижения цены.
• 55% не согласились с справедливостью обмена данных на более качественные услуги.
• 9% респондентов в 2016 году вполне уверены в надежности сайтов социальных сетей.
• 14% считают, что следует доверять личные данные компаниям.

Ограничения регуляторных мер и GDPR

Новые законы вроде GDPR и судебные иски одиночек не справляются с асимметрией знаний надзорных гигантов, требуя создания коллективных действий и новых институтов. Потенциальные штрафы за нарушения GDPR достигают 4% глобальных доходов компании, но бюрократические преграды остаются непреодолимыми для одного человека.

Бельгийский математик Пол-Оливье Дайе потратил пятнадцать месяцев на получение своих данных от Facebook и выяснил, что запрашиваемая информация хранится в специальной области Hive и скрыта от пользователей в виде теневого текста. Ни один человек не может в одиночку выдержать борьбу с корпорациями, поэтому необходимы массовые движения и новые формы коллективного сопротивления.

Возвращение права на святилище и силу трения

Надзорный капитализм представляет собой верхушечный переворот против народа, учреждающий цифровую тиранию Большого Другого. Марк Цукерберг предлагает Facebook как глобальную инфраструктуру и церковь, которая с помощью искусственного интеллекта решает цивилизационные проблемы и осуществляет тотальный контроль в рамках инструментального улея.

Граждане должны отказаться от идеологии неизбежности и стать силой трения против принудительного слияния с цифровыми системами.

Автор обращается к идеям Джорджа Оруэлла, который в 1946 году в рецензии на книгу Джеймса Бёрнема критиковал преклонение перед победителем и признание тоталитарных тенденций неизбежными. Вам необходимо сделать моральное усилие, не сдаваться цифровым монополиям, восстановить ориентиры и отстоять суверенитет над собственной жизнью.

Заключение

Все идеи книги складываются в единую картину беспрецедентного кризиса, в котором человечество рискует потерять суверенитет над собственной жизнью. Надзорный капитализм под видом удобства и прогресса лишает вас права на неведение, частную жизнь и самостоятельный выбор. Инструментарная власть незаметно подменяет свободную волю запрограммированным поведением ради финансовой выгоды корпораций.

Смириться с этим порядком означает согласиться на статус сырья в глобальной машине прогнозирования. Вы не обязаны принимать цифровую экспансию как неизбежность. Противостояние новому экономическому порядку требует осознанных действий и отказа от иллюзии беспомощности.

Чтобы вернуть контроль над своим будущим, используйте следующие принципы:

1. Перестаньте воспринимать цифровые технологии и тотальную слежку как неизбежную плату за современный комфорт.
2. Откажитесь от внутренних установок цифрового фатализма и признайте законность своих прав на информационное самоопределение.
3. Поддерживайте инициативы по запрету поведенческих рынков, торговли персональными данными и скрытого профилирования.
4. Создавайте силы трения в повседневной жизни, ограничивая сбор данных и используя инструменты защиты приватности.
5. Объединяйтесь с другими гражданами для давления на регуляторов и законодателей ради демонтажа инфраструктуры надзора.
6. Требуйте радикальной прозрачности алгоритмов и пересмотра юридических привилегий технологических монополий.
7. Защищайте право будущих поколений на непредсказуемое человеческое развитие и жизнь вне прицела Большого Другого.

10 лучших мыслей

1. Надзорный капитализм представляет собой новый экономический порядок, который превращает человеческий опыт в бесплатное сырье для извлечения данных, прогнозирования и продажи.
2. Технологии не являются автономной силой и всегда служат средством реализации экономических целей капитала.
3. Конечным продуктом надзорных платформ являются не личные данные пользователей, а прогнозные продукты, которые продаются на рынках поведенческих фьючерсов.
4. Внедрение рекламных продуктов продемонстрировало практику отчуждения пользовательского опыта в пользу коммерческой выгоды.
5. Инфраструктура сбора данных и четырехэтапный цикл изъятия обеспечивают повсеместную экспроприацию опыта, превращая незаконный захват в социальную норму.
6. Новым этапом надзорного капитализма становится экономия за счет действий, направленная на автоматическое изменение поведения в реальном времени.
7. Инструментарная власть заменяет старые формы господства и использует средства изменения поведения для точного прогнозирования и контроля без насилия.
8. Китайская система социального кредита является апофеозом инструментарной власти, где государство и бизнес используют данные для автоматического формирования поведения граждан.
9. Принцип радикального безразличия заменяет моральные оценки погоней за ростом метрик, допуская распространение дезинформации и экстремизма ради сбора данных.
10. Граждане должны отказаться от идеологии неизбежности и стать силой трения против принудительного слияния с цифровыми системами.