Как разрушить следящий капитализм

Следящий капитализм повсюду, но он не естественное следствие некой исключительности интеллектуальных технологий как отрасли, а результат упадка антимонопольной деятельности государств и их собственной заинтересованности в слежке, по большей части — бессмысленной. Об этом, а также о монополизме, о чрезмерном сборе данных, о праве на информацию и на конфиденциальность, о том, как и кому врут крупные игроки IT-отрасли, и о том, как разрушить следящий капитализм, рассуждает писатель и публицист Кори Доктороу. На сайте OneZero, опубликовавшем англоязычный оригинал, этот текст назвали книгой. По нашим меркам, 85 страниц — ещё не книга, но материал внушительный. И интересный (особенно, наверное, для тех, кто заклеивает камеру ноутбука кусочком изоленты). С удовольствием представляем вам его русский перевод. Приготовьтесь к тому, что чтение займёт больше часа вашего времени. Но оно того стоит.

Паутина многоликой лжи

Возрождение в XXI веке теории, согласно которой Земля плоская, больше всего удивляет тем, что фактов, говорящих о ложности этой теории, более чем достаточно и они широко известны. Можно понять, как много веков назад люди, не имея высокой точки обзора, позволяющей увидеть кривизну Земли, пришли к опиравшемуся на здравый смысл представлению, будто казавшаяся плоской Земля действительно плоская.

Однако сегодня, когда уже в начальной школе обычная практика — запускать в небо воздушный шар и снимать на экшен-камеру GoPro кривизну Земли, — не говоря уже о возможности непосредственно наблюдать эту кривизну из иллюминатора самолёта, — требуются героические усилия, чтобы сохранить веру в то, что мир плоский.

Похожая ситуация с белым национализмом и евгеникой: в эпоху, когда любой из нас может предоставить специалистам по вычислительной геномике данные о своём организме, протерев тампоном щёку и отправив его в компанию по секвенированию генома вместе со скромной суммой денег, опровергнуть «расовую науку» как никогда просто.

Мы вступили в золотой век одинаково лёгкого доступа к фактам и отрицания этих фактов. Ужасные идеи, которые в течение десятилетий или даже столетий прозябали на задворках общества, чуть ли не в мгновение ока стали мейнстримом.

Когда массы подхватывают неясную теорию, её огромное влияние можно объяснить лишь двумя обстоятельствами: либо тот, кто её пропагандирует, стал делать это гораздо лучше, чем раньше, либо отрицать её стало труднее из-за растущего числа фактов, подтверждающих её истинность. Другими словами, если мы хотим, чтобы люди обратили серьёзное внимание на изменение климата, нам нужно выставить могучую кучку Грет Тунберг, которые, красноречиво и страстно выступая с трибун, завоюют сердца и умы, или ждать наводнений, пожаров, засух и пандемий, чтобы они убедили людей в том, что климат действительно меняется. Как свидетельствует практика, нам, вероятно, понадобятся оба фактора: чем больше люди страдают от засух, пожаров, наводнений и истощения ресурсов, тем легче Гретам Тунберг всего мира их убеждать.

Аргументация в пользу нелепых конспирологических теорий, которые пропагандируют антипрививочники, отрицатели изменения климата, плоскоземельщики и сторонники евгеники, не лучше той, что использовалась для запудривания мозгов предыдущего поколения. Фактически, она стала хуже, поскольку её впаривают тем, кому известны факты, опровергающие её истинность.

Антивакцинное движение появилось вместе с первыми вакцинами, но первые антипрививочники пудрили мозги людям, которые не знали даже основ микробиологии, и более того — которые не были свидетелями искоренения таких обычных для того времени смертельно опасных болезней, как полиомиелит, оспа и корь. Сегодняшние антипрививочники не более красноречивы, чем их предки, и им гораздо труднее впаривать свой «товар».

Так могут ли эти люди с их надуманными конспирологическими теориями преуспевать за счёт превосходной аргументации?

Кое-кто считает, что могут. Согласно широко распространённому в наши дни мнению, машинное обучение и коммерческая слежка позволяют превратить даже самого косноязычного конспиролога в мошенника-виртуоза, способного исказить восприятие и завоевать доверие, выявляя податливых людей и затем впаривая им аргументы, усовершенствованные искусственным интеллектом таким образом, что ускользают от критического анализа и превращают обычных людей в плоскоземельщиков, антипрививочников или даже нацистов. Когда корпорация RAND обвиняет Facebook в «радикализации» и когда фейсбучный алгоритм ругают за содействие в распространении дезинформации о коронавирусе, подразумевается, что машинное обучение и слежка вызывают изменения в наших представлениях о том, что есть истина.

В конце концов, в мире, где расползающиеся и бессвязные теории заговора, такие как «Пиццагейт» и «QAnon», имеют множество последователей, что-то должно назревать.

Но что, если есть другое объяснение? Что, если пропаганда конспирологов опирается не на аргументы, а на некие материальные обстоятельства? Что, если душевная травма, связанная с окружающими нас реальными заговорами, которые плетут богачи, их лоббисты и законодатели с целью похоронить неудобные факты и свидетельства правонарушений (эти заговоры широко известны как «коррупция»), делает многих людей восприимчивыми к теориям заговора?

Если травма, а не инфекция (материальные условия, а не идеология) играет сегодня ведущую роль и способствует распространению отвратительной дезинформации на фоне опровергающих её легко наблюдаемых фактов, это не означает, что наши компьютерные сети невиновны. Они всё ещё усердно выявляют восприимчивых людей и ведут их через галерею всё более экстремальных идей и сообществ.

Вера в заговор — это бушующее пламя, которое, начиная с эпидемий, возникающих вследствие отказа от вакцинации, и геноцида, возникающего из-за расистских заговоров, и кончая катастрофой планетарного масштаба, вызываемой пассивным отношением к изменению климата из-за отрицания этого изменения, причиняет реальный ущерб и представляет реальную опасность для нашей планеты и нашего вида. Наш мир в огне, и значит, мы должны потушить пожар. Для этого необходимо выяснить, как помочь людям разглядеть правду через пелену сбивающих с толку заговоров.

Но пожаротушение — это реакция на пожар. Нам нужна ещё и система предотвращения пожара. Нам необходимо нанести удар по травматическим материальным условиям, которые делают людей восприимчивыми к заражению заговором. Здесь тоже существенную роль играют информационные технологии.

Предложений о том, какой должна быть наша борьба, полно — от Положения ЕС о террористическом контенте, требующего от ИТ-платформ отслеживать и удалять «экстремистский» контент, до предложений США, согласно которым эти платформы обязаны шпионить за своими пользователями и отвечать за их плохие высказывания. В общем, недостатка в мерах по принуждению ИТ-компаний решать созданные ими проблемы нет.

Однако в дискуссиях на данную тему упускается один очень важный момент. Авторы всех предлагаемых решений исходят из того, что ИТ-компании необходимы, что их доминирование в интернете непреложный факт. Предложений заменить интернет Большой ИТ-индустрии (Big Tech) более разнородным, плюралистическим интернетом нигде не видно. Хуже того: предлагаемые сегодня законодательные «решения» предписывают, чтобы Большая ИТ-индустрия оставалась большой, потому что только самые крупные компании могут позволить себе внедрять системы, которых требуют эти законы.

Чтобы упорядочить интернет, мы должны разобраться с тем, каким нам хочется видеть это пространство. Сегодня мы стоим на перепутье, пытаясь понять, хотим ли мы исправить доминирующие в нашем интернете ИТ-компании или же сам интернет, избавив его от оков Большой ИТ-индустрии. Делать и то и другое мы не можем, поэтому нужно выбрать что-то одно.

Я хочу, чтобы наш выбор оказался мудрым. Исправление интернета неразрывно связано с укрощением Большой ИТ-индустрии, требующим активных действий в сфере цифровых прав.

Активизм в сфере цифровых прав спустя четверть века

Активной борьбе за цифровые права уже больше тридцати лет. В этом году некоммерческая организация Electronic Frontier Foundation отмечает тридцатилетие, а её соратница Free Software Foundation появилась на пять лет раньше — в 1985 году. На протяжении всей своей истории движение борцов за цифровые права подвергалось критике, и поначалу в основном за неадекватность: дескать, представители этого движения склонны видеть в своих потребностях потребности реального мира (вспомните, какую скептическую реакцию вызвало в 2010 году известие о том, что Финляндия объявила широкополосную связь одним из прав человека), а методы их борьбы в реальном мире архаичны (вспомните презрительное отношение Малкольма Гладуэлла (Malcolm Gladwell) к «кликтивизму»). Однако по мере того, как информационные технологии стали играть всё большую роль в нашей повседневной жизни, эти обвинения в неадекватности уступили место обвинениям в неискренности («Вас интересуют только информационные технологии, потому что вы рекламируете ИТ-компании»), а после — в халатности («Почему вы не предупредили о том, что информационные технологии могут быть деструктивными?»). Но суть активизма в сфере цифровых прав была и осталась неизменной: забота о людях в мире, где неумолимо растёт власть информационных технологий.

Последняя версия критики движения за цифровые права представлена в форме «следящего капитализма». Данный термин ввела в употребление профессор бизнеса Шошана Зубофф (Shoshana Zuboff), опубликовавшая в 2019 году объёмную и быстро ставшую известной книгу «Эпоха следящего капитализма: борьба за будущее человечества на новых рубежах власти» («The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power»). Зубофф утверждает, что «следящий капитализм» является уникальным порождением ИТ-индустрии, не похожим ни на какой другой вид порочной коммерческой деятельности. Он «сформировался на основе неожиданных и часто неясных механизмов извлечения, коммодификации и контроля, которые эффективно заставляют людей менять свойственное им поведение, попутно создавая новые рынки прогнозирования и модификации поведенческих свойств. Следящий капитализм бросает вызов демократическим нормам и по ряду ключевых параметров отклоняется от линии многовековой эволюции рыночного капитализма». Это новый и смертоносный вид капитализма, «мошеннический капитализм», и наше непонимание его уникальных возможностей и создаваемых им опасностей представляет собой экзистенциальную угрозу для человечества. Зубофф правильно утверждает, что сегодняшний капитализм угрожает нашему виду и что информационные технологии создают для нас и нашей цивилизации уникальные проблемы, но специфику этих технологий и характер исходящих от них угроз она излагает неправильно.

Более того, я считаю, что, опираясь на её неверный диагноз, мы придём к тому, что Большая ИТ-индустрия станет не слабее, а сильнее. Нам необходимо разрушить эту индустрию, а начать нужно с правильной постановки проблемы.

Вера в исключительность информационных технологий в прошлом и сейчас

Ранние критики движения за цифровые права — возможно, лучше всего представленного такими организациями, агитирующими за сохранение и расширение основных прав человека в цифровой сфере, как Electronic Frontier Foundation, Free Software Foundation, Public Knowledge и рядом других, — проклинали этих активистов за их веру в «исключительность информационных технологий». На рубеже тысячелетий серьёзные люди высмеивали любое заявление о том, что политика в области технологий имеет значение в «реальном мире». Утверждения о существенном влиянии ИТ-политики на дискурс, сообщество, неприкосновенность частной жизни, обыски и аресты, а также на основные права и равенство, считались смешными, чрезмерно возвышающими заботы унылых нердов, болтающих на бибиэсках о «Стар Треке», движении «Freedom Riders», Нельсоне Манделе или восстании в Варшавском гетто.

За прошедшие с тех пор десятилетия гонения за веру в «исключительность информационных технологий» только усилились, поскольку роль этих технологий в повседневной жизни расширилась: теперь, когда они проникли во все уголки нашей жизни, а наша онлайн-жизнь монополизирована горсткой ИТ-гигантов, защитников цифровых свобод обвиняют в том, что они льют воду на мельницу «Биг Теха», прикрывая его корыстную небрежность (или, что ещё хуже, гнусные заговоры).

С моей точки зрения, движение за цифровые права осталось таким же, как и прежде, в то время как в остальном мире произошёл существенный сдвиг. С самого начала это движение стремилось выражать интересы пользователей и ИТ-специалистов, создающих для них программы, необходимые для реализации их фундаментальных прав. Об ИТ-компаниях активисты движения за цифровые права проявляют заботу лишь в той мере, в какой те защищают права пользователей (или, — что бывает не реже, — действуют настолько глупо, что это угрожает введением новых правил, мешающих «хорошим» участникам процесса действовать для блага юзеров).

Критика «следящего капитализма» в очередной раз представляет активистов движения за цифровые права в новом свете: теперь не как паникёров, которые переоценивают важность своих ярких игрушек, не как зазывал в лапы Большой ИТ-индустрии, а как людей, безмятежно переставляющих шезлонги на палубе идущего ко дну «Титаника», чья давняя активность вредна, поскольку, продолжая сражаться в технологических битвах прошлого века, они не способны воспринимать новые угрозы.

Но вера в технологическую исключительность независимо от того, кто её исповедует, — это грех.

Не верьте хайпу

Вам, наверное, знакомо такое изречение: «Если вы не платите за товар, вы товар». Как мы увидим ниже, это правда, хотя, возможно, лишь отчасти. Но что абсолютно верно, так это то, что в той мере, в какой Большая ИТ-индустрия зависит от рекламы, её клиенты — рекламодатели, и товар, продаваемый такими компаниями, как «Гугл» (Google) и «Фейсбук», — это способность рекламодателей убедить нас что-либо купить. Продукт Большой ИТ-индустрии — это убеждение. Сервисы — социальные сети, поисковики, карты, мессенджеры и многое другое — это системы, которые обеспечивают возможность убеждать.

Страх перед следящим капитализмом исходит из (правильного) предположения о лживости всего, что говорит о себе Большая ИТ-индустрия. Но критики следящего капитализма делают исключение для продающих текстов «Биг Теха», этого завирального хайпа вокруг подачи эффективности его продуктов на семинарах по рекламным технологиям и в презентациях для потенциальных рекламодателей. Критики допускают, что Большая ИТ-индустрия действительно способна оказывать на пользователей интернета то потрясающее влияние, о котором говорят рекламные тексты, предназначенные для впаривания доверчивым клиентам продуктов, якобы обеспечивающих такое влияние. Это ошибка, потому что на коммерческое описание эффективности продукта полагаться нельзя.

Следящий капитализм предполагает, что, поскольку рекламодатели покупают многое из того, что продаёт Большая ИТ-индустрия, она, по-видимому, продаёт что-то действительно стоящее. Но её рыночные успехи можно объяснить и по-другому: они могут быть результатом популярного заблуждения или, что гораздо хуже, монополистического контроля над коммуникациями и коммерческой деятельностью.

Слежка меняет наше поведение, причём не в лучшую сторону. Она создаёт риски для нашего социального развития. В книге Зубофф есть блестяще представленные объяснения этих явлений. Но вдобавок Зубофф утверждает, будто слежка буквально лишает нас свободы воли — будто введение наших личных данных в процесс машинного обучения позволяет создать столь мощную систему убеждения, что сопротивляться ей невозможно. То есть, к примеру, «Фейсбук», используя алгоритм анализа данных, втихую извлекаемых из вашей повседневной жизни, будто бы настраивает ленту на вашей странице таким образом, что вы не можете не покупать те или иные товары. Это луч контроля над разумом из комиксов 50-х годов прошлого века, которым владеют безумные учёные, создавшие суперкомпьютеры, чтобы обеспечить себе вечное и полное мировое господство.

Что такое убеждение?

Чтобы понять, почему нам не следует бояться лучей контроля над разумом, но следует бояться слежки и Большой ИТ-индустрии, нужно начать с анализа того смысла, который несёт в себе слово «убеждение».

«Гугл», «Фейсбук» и другие следящие ИТ-компании обещают своим клиентам-рекламодателям, что, используя ИИ, обученный на невообразимо больших массивах втихую собранной личной информации, они смогут найти способы так воздействовать на рассудок людей и управлять их поведением, чтобы шёл поток покупок, голосов и других желаемых результатов.

Однако свидетельств того, что всё это у них получается, очень мало. Напротив, прогнозы, которые следящий капитализм даёт своим клиентам-рекламодателям, не впечатляют. Вместо того чтобы искать способы подавления нашей способности рационально мыслить, следящие капиталисты, такие как Марк Цукерберг (Mark Zuckerberg), в основном используют три простые формы воздействия:

1. Сегментирование

Если вы продаёте подгузники и хотите, чтобы дело пошло веселее, предлагайте их в родильных домах. Не все, кто входит в родильный дом или выходит из него, только что завели ребёнка, и не все, у кого родился ребёнок, покупают подгузники. Но наличие ребёнка — действительно надёжный коррелят интереса к рынку подгузников, а пребывание в роддоме скорее всего связано с рождением ребёнка. Вот почему в родильных домах много рекламы подгузников (и даже рекламирующих детские товары агентов, которые шастают по родильным домам с корзинами, полными подарков).

Следящий капитализм проводит сегментирование многократно, миллионы раз. Рекламируя подгузники, можно гоняться не только за теми, кто посещает родильные дома (впрочем, гоняться вживую не обязательно — можно делать это с помощью локализованной мобильной рекламы). Рекламодатели широко используют таргетирование, и таргетировать можно по-разному. Можно таргетировать вас на основе того, о чём вы читаете, а затем, используя анализ полученных данных, ввести в рекламу нетривиальные ключевые слова. Можно таргетировать вас на основе недавно прочитанных вами текстов или недавно сделанных вами покупок, а также на основе того, приходят ли вам электронные письма или личные сообщения о том, что вы прочитали или купили, — или даже на основе того, что вы говорите об этом вслух (впрочем, «Фейсбук» и подобные ему ИТ-гиганты уверяют, что до этого не дошло — пока).

Это довольно жутко.

Но это не контроль над разумом.

Это не лишает нас свободы воли. Нас не надувают.

Вспомним о том, как следящий капитализм работает в политике. Следящие ИТ-компании продают политическим деятелям право находить людей, которые могут быть восприимчивы к их лозунгам. Кандидаты, проводящие кампанию против коррупции в финансовой сфере, ищут людей, опутанных долгами; кандидаты, разыгрывающие карту ксенофобии, ищут расистов. Политические деятели всегда таргетируют своё послание, независимо от того, каковы их намерения — благородны они или нет: профсоюзные активисты агитируют у заводских ворот, а белые супремасисты раздают листовки на митингах Общества Джона Бёрча.

Но это неточная и потому расточительная деятельность. Профсоюзный активист не знает, с каким рабочим, выходящим из заводских ворот, стоит поговорить, и может потратить время на беседу с членом Общества Джона Бёрча; белый супремасист не знает, кто из бёрчистов чокнутый лишь настолько, что для него прийти на митинг — это всё, на что он способен, а кого можно убедить пересечь всю страну, чтобы пройти с факелом тики по улицам Шарлоттсвилла (Charlottesville), штат Вирджиния.

Поскольку таргетирование повышает эффективность политической агитации, оно способно ускорять темпы политических потрясений, предоставляя каждому, кто тайком мечтал о крахе диктатора — или просто политика, занимающего должность 11 сроков подряд, — возможность найти по очень низкой цене всех своих единомышленников. Эта возможность оказалась критически важной для быстрой кристаллизации недавно возникших политических движений, включая Black Lives Matter и Occupy Wall Street, а также менее привлекательные организации — такие как ультраправые белые националистические движения, устроившие марш в Шарлоттсвилле.

Важно отличать политическое таргетирование от кампаний влияния; находить тех, кто тайно согласен с вами, — не то же самое, что убеждать согласиться с вами. Возникновение таких феноменов, как небинарная или какая-то ещё нетрадиционная гендерная идентичность, часто объясняется реакционерами как результат онлайн-кампаний по «промыванию мозгов», в ходе которых впечатлительных людей убеждают в том, что они всю свою сознательную жизнь тайно были квирами.

Однако на личных страницах в социальных сетях рассказывают другую историю, в которой люди, долгое время хранившие секреты своего гендера, воспряли духом благодаря другим, похожим на них людям, открыто высказавшимся на данную тему, а люди, знавшие о своей необычной гендерной ориентации, но не умевшие подобрать правильные слова, нашли эти слова благодаря таргетингу — дешёвому средству поиска людей и изучения их идей.

2. Обман

Ложь и мошенничество вредны, а таргетирование, осуществляемое следящим капитализмом, усиливает этот вред. Если вы хотите всучить мошенническую ссуду до зарплаты или субстандартную ипотеку, следящий капитализм поможет вам найти отчаянных и бесхитростных людей, восприимчивых к вашему предложению. Этим объясняется широкое распространение таких форм обмана, как многоуровневые маркетинговые схемы, в которых лживые заявления о потенциальных доходах и эффективности методов продаж способствуют таргетированию отчаявшихся людей путём рекламы по поисковым запросам, указывающим, например, на то, что кто-то борется с опрометчиво взятыми кредитами.

Кроме того, следящий капитализм способствует обману, облегчая обнаружение других людей, обманутых аналогичным образом, и формируя сообщества людей, усиливающих заблуждения друг друга. Вспомним о форумах, где люди, ставшие жертвами пирамидального сетевого маркетингового мошенничества, собираются, чтобы поделиться соображениями о том, как лучше продавать продукт.

Иногда онлайн-обман включает в себя замену чьих-либо правильных представлений неправильными. Яркий пример — движение против вакцинации. Его жертвами часто становятся люди, поначалу верившие в полезность вакцин, но потом под воздействием правдоподобных доказательств пришедшие к ложному убеждению, что вакцины вредны.

Однако гораздо чаще обман бывает успешным, если ему не нужно заменять правильное представление неправильным. Моя дочь посещала детский сад, и, когда в её голове завелись вши, одна из воспитательниц посоветовала мне избавиться от них, обрабатывая волосы и кожу ребёнка оливковым маслом. Ничего не зная о вшах, я предположил, что у воспитательницы такие знания есть, поэтому последовал её совету (не работало и не работает). Легко прийти к ложным представлениям, когда у вас просто нет знаний и когда эти представления подбрасывает вам человек, который кажется вам знающим.

Обман приносит вред и трудности, и интернет помогает нам защититься, делая доступной правдивую информацию, особенно в форме анализа взглядов противоположных сторон, как это часто делается в Википедии. Однако обман — это не «промывание мозгов». В большинстве случаев жертвами обманщиков становятся люди, в головах которых есть информационные пустоты. Чтобы заполнить эти пустоты, как правило, используют внушающие доверие источники. Если, заинтересовавшись длиной Бруклинского моста, я узнаю из какого-то источника, что она составляет 5800 футов, а потом выяснится, что, на самом деле, — 5989 футов, то имевший место обман — проблема, но проблема с простым решением. Это проблема совсем иного рода, чем та, которую создают антипрививочники, стремясь посредством изощрённого убеждения заменить истинную веру людей ложной.

3. Доминирование

Следящий капитализм — результат монополизма. Монополизм — причина, а следящий капитализм и то негативное, что он порождает, — следствия монополизма. Подробнее рассмотрим это ниже, а пока лишь отметим, что росту ИТ-индустрии помогло радикальное переосмысление антимонопольного законодательства, позволившее компаниям расти за счёт слияния со своими конкурентами, покупки потенциальных конкурентов и экспансии, ведущей к установлению контроля над целыми рыночными вертикалями.

Вот пример того, как монополизм способствует убеждению, используя доминирование: «Гугл», редактируя работу своих алгоритмов, определяет порядок сортировки ответов на наши запросы. Если клика обманщиков вздумает внушить миру, будто Бруклинский мост имеет длину 5800 футов, и если «Гугл» предоставит этой клике высокий рейтинг при поиске ответа на вопросы о длине Бруклинского моста, тогда результаты, которые выдаст поисковик «Гугл» на первых восьми или десяти страницах, могут оказаться ложными. А поскольку большинство людей ограничивается просмотром даже не первой страницы, а всего лишь первых двух результатов, выбор «Гугла» сделает многих людей жертвами обмана.

Гугловское доминирование в сфере поиска (более 86% поисков в интернете выполняется через «Гугл») означает, что гугловский алгоритм упорядочивания результатов поиска оказывает огромное влияние на общественное мнение. Вот почему, утверждает руководство «Гугла», — и, слыша это утверждение, трудно удержаться от иронических восклицаний, — оно не делает дизайн своего алгоритма прозрачным: дескать, в силу доминирования «Гугла» результаты сортировки, которую он осуществляет в сфере поиска, настолько важны, что было бы непозволительным риском рассказывать миру, как это делается, ибо какой-нибудь злоумышленник, обнаружив недостатки в системе ранжирования, может воспользоваться ими, чтобы поместить свою преступную точку зрения в топ результатов поиска. Такого рода компании, слишком большие для аудита, лечат от непомерных амбиций, дробя их на части.

За то, что следящий капитализм использует методы накопления данных и машинного обучения, лишающие людей свободы воли, Зубофф называет его «мошенническим». Но организуемые мошенниками кампании влияния с целью заменить правильные убеждения ложными оказывают очень скромный и краткосрочный эффект, в то время как эффект монополистического доминирования над информационными системами огромен и устойчив. Контроль результатов поисковых запросов всего мира означает контроль доступа и к доказательствам, и к их опровержениям и, таким образом, контроль над большей частью бытующих в мире представлений. Если нас беспокоит то, что корпорации лишают нас права пользования нашей способностью самостоятельно принимать решения и определять своё будущее, центральное место в нашем анализе и в поиске средств исправления ситуации должно занять влияние доминирования, ибо оно намного превосходит влияние манипулирования.

4. Подавление нашей способности рационально мыслить

Вот горячая тема: использование машинного обучения, «тёмных паттернов», взлома вовлечённости и других методов, заставляющих нас делать то, что противоречит здравому смыслу. Это контроль над разумом.

Некоторые из этих методов оказались невероятно эффективными (пусть и, по-видимому, в краткосрочной перспективе). Использование таймера обратного отсчёта на странице завершения покупки может создать ощущение срочности, которое заставит вас игнорировать недовольный внутренний голос, предлагающий вам получше прицениться или сначала поспать, а потом принять решение. Использование в рекламе людей из вашего социального графа может предоставить «социальное доказательство» того, что покупка стоящая. Даже система аукционов, придуманная eBay, рассчитана на то, чтобы играть на наших когнитивных слепых пятнах, вызывая у нас чувство, будто делая ставку на какую-то вещь, мы «владеем» ею, и тем самым побуждая нас, когда нашу ставку перебили, делать её снова, чтобы «наша» вещь осталась нашей.

В этом плане чрезвычайно хороши игры. «Бесплатные игры» манипулируют людьми, используя множество разнообразных приёмов, например, ставя перед игроками серию плавно нарастающих проблем, преодоление которых создаёт ощущение мастерства и выполненного долга, а потом резко предлагая другую серию проблем, которые нельзя преодолеть без платных обновлений. Добавьте к этому социальное стимулирование перехода к платной игре — поток уведомлений о том, как хорошо идут дела у ваших друзей, — и вот уже вы, не успев осознать, что произошло, покупаете виртуальные бонусы, чтобы перейти на следующий уровень.

Используя эти методы, компании взлетают и падают, и на те, что «упали», стоит взглянуть повнимательней. Как правило, живые существа адаптируются к стимулу: то, что сначала выглядит очень привлекательным или заслуживающим внимания, со временем теряет эти качества, и в конце концов становится совершенно незаметным. Взять хотя бы шум, производимый работающим холодильником: сначала он раздражает вас, но потом вы забываете про него и вспоминаете только тогда, когда он прекращается.

Вот почему для управления поведением применяются «прерывистые графики подкрепления». Вместо того чтобы постоянно подбрасывать вам что-то привлекательное или отталкивающее, игры и геймифицированные сервисы вознаграждают вас по случайному графику — так часто, чтобы у вас не пропадал интерес, и так случайно, чтобы вы никогда не могли выявить наводящий скуку паттерн.

Периодическое подкрепление — мощный бихевиористский инструмент, но его использование вынуждает следящий капитализм решать проблему коллективных действий. «Методы вовлечения», изобретаемые бихевиористами следящих ИТ-компаний, быстро копируются всеми, кто оперирует в данном секторе, и то, что поначалу представляло собой загадочно привлекательный штрих в дизайне сервиса — например, указание «потяните, чтобы обновить», сигналы о том, что кому-то нравятся ваши посты, или предложение вашему персонажу побочных квестов во время выполнения основных, — быстро становится утомительно вездесущим. Неуловимый паттерн рандомизированных капель информации, попадающих на ваш телефон, превращаются в стену серого шума, поскольку каждое приложение и каждый сайт спешат использовать всё, что кажется работающим в данный момент.

С точки зрения следящего капиталиста, наша способность адаптироваться подобна вредоносной бактерии, лишающей его источника пищи — нашего внимания, — а новые методы привлечения внимания подобны новым антибиотикам, позволяющим преодолеть наши оборонительные рубежи и лишить нас самостоятельности. И такие методы есть. Разве можно забыть Великую эпидемию, вызванную игрой FarmVille компании Zynga, — эпидемию, во время которой масса опутанных дофаминовыми петлями этой игры людей, включая всех наших друзей, бесконечно и бездумно убивала своё время?! Однако любой новый метод привлечения внимания спешит внедрить вся индустрия и использует его так беспорядочно, что возникает устойчивость к этому антибиотику. Многократное применение даже самых действенным методов создаёт почти у всех людей иммунитет — и к 2013 году, через два года после того, как компания Zynga достигла пика популярности, её пользовательская база сократилась вдвое.

Конечно, иммунитет возникает не у всех. Некоторые люди не могут приспосабливаться к раздражителям — например, никогда не перестают слышать шум холодильника. Вот почему, хотя большинство людей, привлечённых игровыми автоматами, поиграв какое-то время, уходит, небольшое и трагическое меньшинство тратит деньги, отложенные на учёбу детей, на подгузники для взрослых и продолжает игру, пока эти подгузники не сползут, переполненные, до колен.

Но маржа следящего капитализма на модифицировании поведения людей — отстой. Утроение доли продаж какого-то виджета — это великолепно, если только исходная доля не была меньше 1% и не осталась меньше 1% после утроения. Даже игровой автомат с прорезью для пенни выуживает у игроков по нескольку пенсов за игру, в то время как следящий капитализм — бесконечно малые доли пенни.

Высокая доходность игровых автоматов означает, что они могут быть прибыльными и тогда, когда опустошают карманы небольшого количества людей, патологически зависящих от этих автоматов и неспособных адаптироваться к их уловкам. Но следящий капитализм не может жить на мелочь такого рода контингента — вот почему после того, как Великая эпидемия Zynga в конце концов резко пошла на спад, кучка оставшихся под её влиянием игроков не смогла поддержать её как феномен глобального масштаба. А новое мощное средство привлечения внимания найти нелегко, свидетельством чего является тот факт, что уже несколько лет компания Zynga не может вернуться в число лидеров. Несмотря на сотни миллионов долларов, которые Zynga вынуждена тратить на разработку новых инструментов взлома нашей способности адаптироваться, ей так и не удалось повторить счастливую случайность, которая в 2009 году позволила ей на короткое время привлечь к массу нашего внимания. Таким мощным компаниям, как Supercell, везёт чуть больше, но их мало и каждый успех даётся им ценой множества неудач.

Неспособность малочисленных слоёв населения противостоять драматическим и эффективным корпоративным манипуляциям — это реальная проблема, решение которой заслуживает нашего внимания и наших усилий. Но это не угроза существованию общества.

Если информация — это новая нефть, то двигатель следящего капитализма протекает

Проблема разрушения адаптации даёт объяснение одной из самых тревожных черт следящего капитализма: его неутолимой информационной жажды и бесконечного развития им своей способности собирать данные с помощью установки датчиков, онлайн-слежки и получения потоков данных от третьих лиц.

В результате анализа этого явления Зубофф пришла к выводу, что, поскольку следящий капитализм так неутомимо охотится за данными, цена информации очень высока. (Вот что она пишет: «Точно так же, как индустриальный капитализм стремился непрерывно интенсифицировать средства производства, нынешние следящие капиталисты и их рыночные агенты одержимы идеей непрерывной интенсификации средств модификации поведения и способности инструментальной власти собирать информацию»). Но что, если этот зверский аппетит вызван тем, что у данных очень короткий период полураспада, — тем, что люди так быстро привыкают к новым методам убеждения, основанным на собранных данных, что ИТ-компании оказались втянутыми в гонку вооружений с нашей лимбической системой? Что, если всё это — гонка Чёрной Королевы, участвуя в которой нужно бежать всё быстрее и быстрее — собирать всё больше и больше данных — только для того, чтобы оставаться на месте?

Все методы убеждения Большой ИТ-индустрии, разумеется, работают в комплексе, и сбор данных полезен не только для бихевиористских трюков.

Если кому-то нужно подвигнуть кого-то на покупку холодильника или участие в погроме, можно использовать профилирование и таргетинг, позволяющие отправлять сообщения подходящим для избранной цели людям. Сами по себе сообщения могут быть сомнительными и уверяющими в том, в чём люди не очень разбираются (безопасность пищевых продуктов и энергоэффективность или евгеника и цитаты о расовом превосходстве из сочинений исторических деятелей). При этом, используя поисковую оптимизацию, армии липовых рецензентов и комментаторов и/или платное размещение, заинтересованные в вас капиталисты могут создать такое доминирование в дискурсе, что любой поиск дополнительной информации обязательно будет возвращать вас к их сообщениям. И, наконец, с помощью машинного обучения и других методов можно совершенствовать различные питчи, чтобы выяснить, какой вид питчей лучше всего воздействует на таких, как вы.

На каждом этапе этого процесса полезно использовать результаты слежки: чем больше данных, тем точнее профилирование и таргетирование конкретных сообщений. Подумайте, как бы вы продали холодильник, если бы знали, что срок гарантийного обслуживания холодильника вашего потенциального покупателя только что истёк и что в апреле он ожидает налоговой скидки.

Кроме того, чем больше у продавца данных, тем лучше он может создавать обманчиво привлекательные сообщения. Например, если я знаю, что вы занимаетесь генетикой, я не буду пытаться потчевать вас псевдонаукой о генетических различиях между «расами», а вместо этого поведаю вам конспирологические истории о «демографическом замещении» и тому подобное.

«Фейсбук» тоже помогает сторонникам одиозных или антиобщественных взглядов искать единомышленников. Он позволяет найти тех, кто обожает конфедератский косплей и хочет пройти с факелом тики по улицам Шарлоттсвилла. Он помогает отыскать желающих отправиться в составе ополчения на границу, чтобы терроризировать нелегальных мигрантов. Он помогает найти людей, верящих, что вакцины — яд и что Земля плоская.

У таргетированной рекламы есть уникальная особенность, за которую её очень ценят сторонники социально неприемлемых видов деятельности: она невидима. Расизм рассеян по огромным территориям, и очень мало мест, где собираются расисты и только расисты. Тут есть сходство с проблемой, возникающей при продаже холодильников: их потенциальные покупатели тоже рассеяны по огромным территориям, и в очень немногих местах можно разместить рекламу, которую в первую очередь будут просматривать покупатели холодильников. Но покупать холодильник социально приемлемо, в то время как быть нацистом — нет, поэтому, занимаясь холодильным бизнесом, вы можете оплатить щитовую рекламу или разместить рекламное объявление в спортивном разделе какой-нибудь газеты, и единственным потенциальным недостатком будет то, что вашу рекламу увидит масса людей, которым не нужны холодильники, а это — всё равно, что бросать деньги на ветер.

Но даже если вы захотите рекламировать своё нацистское движение на рекламном щите, на телевидении в прайм-тайм или в спортивной секции, вам будет сложно найти человека, готового предоставить место для вашей рекламы, — отчасти из-за несогласия с вашими взглядами самого этого человека, отчасти из-за его боязни понести ущерб в результате бойкота и т. д. со стороны других несогласных с вами людей.

Таргетированная реклама решает эту проблему: в интернете любой рекламный блок может быть персональным для каждого человека, а это означает, что вы можете разместить онлайн-рекламу, которую видят только нацисты и не видят люди, ненавидящие нацистов. Когда случается заскок — например, кому-то, кто ненавидит расизм, показывают расистское объявление о том, что требуются добровольцы, — возникают соответствующие последствия; на платформу или публикацию может обрушиться гнев со стороны общества или частных лиц. Но природа риска, принимаемого на себя заказчиком онлайн-рекламы, отличается от рисков, возникающих для традиционного издателя или владельца рекламного щита, захотевшего разместить нацистскую рекламу.

Интернет-реклама размещается с помощью алгоритмов, выступающих в роли посредников между разными элементами экосистемы рекламных платформ самообслуживания. С помощью этих платформ рекламу может заказать кто угодно, поэтому нацистская реклама, проскользнувшая в вашу любимую онлайн-публикацию, рассматривается не как моральная оплошность со стороны публикатора, а как оплошность со стороны какого-то удалённого поставщика рекламы. Когда публикатор получает жалобу на оскорбительную рекламу в одном из блоков, он может предпринять меры для удаления этой рекламы, но нацисты могут заказать у другого посредника, обслуживающего этот же блок, немного изменённое объявление. И при любых перипетиях интернет-пользователи всё больше понимают, что, когда они видят рекламу, очень может быть, что публикацию, в которой она демонстрируется, выбрал не рекламодатель и что публикатор не знает своих рекламодателей.

Уровни косвенного взаимодействия между рекламодателями и публикаторами служат моральными буферами: нынешний моральный консенсус в значительной степени сводится к тому, что публикаторы не обязаны нести ответственность за рекламу, которая появляется на страницах их публикаций, ибо не они решают вопрос о размещении там этой рекламы. Благодаря такому положению вещей нацисты могут преодолевать значительные препятствия на пути развития их организаций.

Информация и доминирование тесно взаимодействуют. Имея возможность шпионить за своими клиентами, вы можете узнать, что им нравится у ваших соперников и принять меры для изменения ситуации в вашу пользу.

Но важнее другое: если вы доминируете в информационном пространстве, собирая при этом новые данные, применяемые вами приёмы охмурения обретают бóльшую силу, поскольку вырваться из сети обмана, которую вы плетёте, становится сложнее. Доминирование, то есть движение в сторону монополизма, а не сами данные — вот усилитель, делающий любую тактику достойной применения, потому что монополистическое доминирование — та цель, которая лишает вас пути к отступлению.

Если вы нацист, желающий, чтобы ваши потенциальные клиенты увидели в топе лживую информацию, подтверждающую вашу точку зрения, когда после просмотра ваших сообщений они займутся поиском дополнительных сведений, вы можете повысить свои шансы на успех, подсунув этим людям критерии поиска, выводящие их на ваши исходные сообщения. Вам не нужно, чтобы топ-10 результатов поиска по запросу «подавление избирателей» был вашим, если вы сможете убедить своих потенциальных клиентов ограничиться запросом «обман избирателей», приводящим к совершенно иной поисковой выдаче.

Следящие капиталисты похожи на эстрадных менталистов, которые утверждают, будто их экстраординарное проникновение в суть человеческого поведения позволяет им угадывать слово, записанное другим человеком на листке бумаги и спрятанное им в кармане, но которые, на самом деле, чтобы изумить публику, используют подставных лиц, скрытые камеры, ловкость рук и запоминание методом полного перебора.

Или, пожалуй, эти капиталисты больше похожи на пикаперов — искусных соблазнителей, служителей женоненавистнического культа, предлагающих неуклюжим мужчинам посредничество в половых отношениях с женщинами. Пикаперы обучают «нейролингвистическому программированию», языку тела и приёмам психологического манипулирования, таким как «неггинг» — способ поддержания контакта с женщиной за счёт колких фраз, снижающих её самооценку и подстёгивающих её интерес.

Некоторым пикаперам в конце концов удаётся заманивать женщин к себе домой, но умение подавлять женскую способность критически мыслить тут ни при чём. В историях «успеха» пикаперов фигурируют женщины, неспособные дать осознанное согласие, женщины, подвергавшиеся принуждению, женщины в состоянии опьянения, женщины, склонные к самоуничижению и горстка женщин, которые, будучи трезвыми и контролируя своё поведение, не сразу поняли, что связались с ужасными мужчинами, однако, как только представилась возможность, исправили ошибку.

Пикаперы верят, что нашли секретное средство подавлять способность женщин критически мыслить, но нет у них такого средства. Множество применяемых ими приёмов, таких как неггинг, стало предметом шуток (точно так же, как плохое таргетирование рекламы), и очень велика вероятность, что при попытке применить эти приёмы мужчина будет немедленно разоблачён и отвергнут как безнадёжный лузер.

Пикаперы — свидетельство того, что вы можете верить в наличие у вас системы контроля над разумом даже тогда, когда она не работает. Что поддерживает веру пикапера? То, что из миллиона предпринятых им попыток одна оказалась успешной. 999 999 неудач он списывает на неправильное применение своих чудесных приёмов и клянётся в будущем не оплошать. Не сомневаются в абсолютной эффективности пикаперских приёмов только потенциальные пикаперы, чьи тревожность и незащищённость делают их уязвимыми для мошенников и шизофреников, которые убеждают их, что если они заплатят за обучение и будут следовать инструкциям, то когда-нибудь добьются успеха. Пикаперы считают, что им не удаётся соблазнять женщин, потому что они плохие пикаперы, а не потому, что искусство соблазнения — форменная чушь. Пикаперы плохо продают себя женщинам, но довольно хорошо продают себя мужчинам, которые платят за то, чтобы познать секреты искусства соблазнения.

Говорят, что пионер универмагов Джон Уонамейкер (John Wanamaker) сокрушался:

«Половина денег, которые я трачу на рекламу, тратится впустую; проблема в том, что я не знаю, какая половина».

Тот факт, что, по мнению Уонамейкера, только половина его рекламных расходов тратилась впустую, — дань уважения умению рекламных агентов убеждать. Они гораздо лучше убеждают потенциальных клиентов покупать их услуги, чем широкую публику покупать товары своих клиентов.

Что представляет собой «Фейсбук»?

«Фейсбук» считается источником всех наших современных бедствий, и нетрудно понять, почему. Часть ИТ-компаний (например, Apple) желает намертво прикрепить к себе своих пользователей, но при этом делает деньги, хотя и не шпионя, зато завышая цены на свои девайсы и монополизируя доступ к рынку приложений для них. Другая часть ИТ-компаний (например, «Гугл») не заботится о прикреплении пользователей, потому что научилась шпионить за ними, где бы они ни были и чем бы они ни занимались, и превращать эту слежку в деньги. И только «Фейсбук» — один среди всех западных ИТ-гигантов — построил бизнес на основе прикрепления к себе своих пользователей и постоянной слежки за ними.

Фейсбуковскому режиму слежки действительно нет аналогов в западном мире. «Фейсбук» старается не показывать себя в общедоступной сети, скрывая большую часть того, что в нём происходит, от людей, не авторизованных в «Фейсбуке», но при этом заминировал весь интернет с помощью инструментов слежки в виде фейсбуковских кнопок «Like» («Мне нравится»), которые веб-публикаторы помещают на свои сайты, чтобы повысить рейтинг своих профилей в «Фейсбуке». Кроме того, «Фейсбук» предоставляет доступные любому веб-публикатору библиотеки и другие полезные фрагменты кода. Они действуют на сайтах, где их используют, как щупальца слежки, перенаправляя информацию о посетителях сайтов — электронных газет, сайтов знакомств, форумов — в компанию «Фейсбук».

«Фейсбук» предлагает аналогичные инструменты разработчикам приложений, поэтому применяемые вами приложения — игрушки, свистелки и перделки, сервисы бизнес-обзоров, приложения, позволяющие следить за учёбой ребёнка, — отправляют информацию о ваших действиях в «Фейсбук», даже если у вас нет фейсбуковского аккаунта и вы не загружаете и не используете фейсбуковские приложения. Вдобавок ко всему, «Фейсбук» покупает у сторонних брокеров данные о покупательских привычках, физическом местонахождении, использовании программ «лояльности», финансовых транзакциях и т. д. и сопоставляет эту информацию со своими данными о действиях в «Фейсбуке», общедоступной сети и приложениях.

Интегрировать интернет-продукты в «Фейсбук» легко — используя ссылки на новости и тому подобное, — но обратная интеграция фейсбуковских продуктов в интернет, как правило, недоступна. Вы можете встроить твит в фейсбуковский пост, но, вставив фейсбуковский пост в твит, вы просто получите обратную ссылку на «Фейсбук» и должны будете войти в него, чтобы увидеть вставленный пост. «Фейсбук» задействовал крайние меры технологического и юридического противодействия, чтобы конкуренты не позволили своим пользователям встраивать фейсбуковские фрагменты кода в конкурирующие сервисы или создавать альтернативные по отношению к  «Фейсбуку» интерфейсы, которые объединяли бы ваш фейсбуковский инбокс с другими сервисами, которые вы используете.

Между тем «Фейсбук» невероятно популярен: заявлено 2,3 миллиарда пользователей (хотя многие считают эту цифру завышенной). «Фейсбук» использовался для организации погромов, расистских бунтов, движений против вакцинации, пропаганды культов плоской Земли и политической деятельности некоторых автократов из числа наиболее мерзких и жестоких. В мире происходят поистине тревожные события, и «Фейсбук» замешан во многих из них, поэтому легко сделать вывод, что плохие события являются результатом фейсбуковской системы управления разумом, которую «Фейсбук» сдаёт в аренду любому, кто готов заплатить хотя бы несколько долларов.

Чтобы выяснить роль «Фейсбука» в формировании и мобилизации антиобщественных движений, нам необходимо понять его двойственную природу.

Имея много пользователей и много данных о них, «Фейсбук» представляет собой очень эффективный инструмент для поиска людей, обладающих каким-либо специфическим свойством. Речь о таком свойстве, которое может быть у многих, но при этом рекламодатели могут столкнуться с огромными трудностями, пытаясь найти рентабельный способ выйти на людей с данным свойством. Вспомним про холодильники. Большинство из нас меняет основные бытовые приборы лишь несколько раз за всю жизнь. Если вы производитель или продавец холодильников, вам нужно как-то вычислять те короткие и редкие промежутки времени, в течение которых ваши потенциальные покупатели обдумывают покупку, и вам нужно как-то связаться с ними именно в это время. Любой, кто когда-либо регистрировал покупку жилья, может засвидетельствовать, что производители бытовой техники с невероятным рвением пытаются выйти на тех, у кого есть хотя бы малейшие шансы оказаться в роли покупателя нового холодильника.

«Фейсбук» значительно упрощает поиск людей, желающих приобрести холодильник. Он может нацеливать рекламу на людей, зарегистрировавших покупку нового дома, искавших советы насчёт покупки холодильника, жаловавшихся на безвременную кончину своего холодильника, или на любую комбинацию этих факторов. Он даже может вдобавок нацеливать на людей, недавно купивших другую кухонную технику, исходя из соображения, что тот, кто только что заменил плиту и посудомоечную машину, может задуматься о покупке холодильника. Подавляющее большинство людей, попадающих в зону действия рекламы, таргетированной указанным образом, не купит новый холодильник, но очень важно, что при таком маркетинге доля ищущих холодильники людей, охваченных рекламодателями, намного больше той доли этого контингента, какая получается оффлайн — при традиционном целевом маркетинге холодильников.

С помощью «Фейсбука» значительно проще найти людей, страдающих тем же редким заболеванием, что и вы (поскольку ближайший такой больной может оказаться за сотни миль от вас, в прежние времена такой поиск мог закончиться безрезультатно), людей, учившихся в той же средней школе, что и вы, даже если минули десятилетия и ваших бывших одноклассников раскидало по разным уголкам Земли.

Кроме того, «Фейсбук» значительно упрощает поиск людей, придерживающихся тех же редких политических убеждений, что и вы. Если вы всегда втайне мечтали о социализме, но никогда не осмеливались говорить про это вслух, чтобы не выглядеть монстром в глазах соседей, «Фейсбук» поможет вам найти других людей — с теми же взглядами, что у вас (и он может просто продемонстрировать вам, что ваши взгляды имеют гораздо большее распространение, чем вы думали). Он может облегчить поиск людей, разделяющих вашу сексуальную идентичность, и, опять же, облегчить вам осознание того, что ваша особенность, которую вы считали позорной аномалией и потому скрывали, на самом деле, имеет широкое распространение. Осознание этого вселит в вашу душу покой и смелость поведать о себе найденным людям.

Все эти возможности, предоставляемые «Фейсбуком», создают для него дилемму: таргетинг делает его рекламу эффективнее традиционной, но, кроме того, позволяет рекламодателям выяснить степень эффективности их рекламы. Рекламодателям, конечно, приятно узнать, что реклама в «Фейсбуке» более эффективна, чем реклама в системах с менее сложным таргетингом, но вдобавок они могут увидеть, что чуть ли ни во всех случаях люди, встречая их рекламу, игнорируют её. Или, в лучшем случае, реклама работает на подсознательном уровне, создавая для рекламодателей туманные неизмеримые преимущества — такие, как «узнаваемость бренда». Это означает, что почти во всех случаях цена за рекламу должна быть очень низкой.

Ещё хуже другое: во многих фейсбук-группах вспыхивает крайне мало дискуссий. Члены футбольной команды из младшей лиги, больные с одним и тем же редким заболеванием и люди с одинаковыми политическими взглядами могут иногда, в какие-то критические моменты интенсивно обмениваться сообщениями, но не каждый же день сообщать что-то тем, кто учился в той же школе, что и вы, или другим коллекционерам хоккейных карточек.

Не имея ничего, кроме «органических» обсуждений, «Фейсбук» не смог бы генерировать огромное количество трафика, которое требуется ему для того, чтобы за счёт продажи рекламы зарабатывать деньги, необходимые для постоянного расширения путём скупки конкурентов и возвращения кругленьких сумм инвесторам.

В этих условиях «Фейсбуку» приходится наращивать трафик, поставляя на свои форумы жареные факты: каждый раз, когда «Фейсбук» алгоритмически подбрасывает какой-то группе пользователей дискуссионные материалы — подстрекательские политические статьи, теории заговора, рассказы о бунтах, — он может переключить внимание группы с её номинальной темы на эти пёстрые, не связанные друг с другом материалы и вызвать их интенсивное обсуждение, превращая общение членов группы в горький, непродуктивный обмен мнениями, который тянется до бесконечности. «Фейсбук» оптимизирован для вовлечения в споры, а не для счастья, и оказалось, что автоматизированные системы прекрасно находят темы, заставляющие людей сердиться.

«Фейсбук» может менять наше поведение, но только двумя тривиальными способами. Во-первых, он может привязать к вам всех ваших друзей и членов семьи, чтобы вы имели возможность проверять, проверять и проверять с помощью «Фейсбука», чем они занимаются; во-вторых, он может вынуждать вас сердиться и беспокоиться. Это заставляет делать выбор между постоянной взвинченностью из-за обновлений ленты — состояния, нарушающего вашу концентрацию и усложняющего самоанализ, — и поддержанием связи с друзьями. Это форма контроля сознания, помещающая нас в очень тесные рамки, и она реально может сделать нас несчастными, злыми и беспокойными.

Вот почему системы таргетинга «Фейсбука» — как те, которые он показывает рекламодателям, так и те, благодаря которым пользователи находят людей со сходными интересами, — ультрасовременны, удобны и просты в использовании, в то время как набор инструментов для формирования ленты, кажется, не претерпел никаких изменений с середины двухтысячных. Если бы «Фейсбук» предоставил своим пользователям такую же гибкую и изощрённую систему чтения сообщений, как та, что задействована в его таргетинге, эти пользователи смогли бы защитить себя от того, чтобы им без всякого их согласия пихали в глаза заголовки про Дональда Трампа.

Чем больше времени вы проводите в «Фейсбуке», тем больше рекламы он успеет вам показать. Если фейсбучная реклама срабатывает один раз из тысячи, компании нужно добиться, чтобы вы посещали её социальную сеть много тысяч раз. Вместо того чтобы думать о «Фейсбуке» как о компании, которая придумала, как показать вам именно ту рекламу, которая вам нужна, и именно так, чтобы вынудить вас сделать то, чего хотят рекламодатели, подумайте о нём как о компании, которая придумала, как заставить вас идти через бесконечный поток мнений — даже тех, что производят на вас гнетущее впечатление, — проводя в этой социальной сети так много времени, что в конце концов «Фейсбук» успевает показать вам хотя бы одно рекламное объявление, на которое вы захотите откликнуться.

Монополия и право на будущее время

Шошану Зубофф и её соратников особенно беспокоит огромное давление на принятие нами решений, которое появилось у корпораций благодаря слежке. У нас, как образно выражается Зубофф, отнимают «право на будущее время», то есть право самостоятельно решать, что делать в будущем.

Нельзя сомневаться в том, что реклама обладает способностью склонять чашу весов в ту или иную сторону: когда вы думаете о покупке холодильника, своевременно подвернувшееся рекламное объявление может сразу же положить конец вашим раздумьям на эту тему. Однако Зубофф явно преувеличивает силу основанных на слежке методов убеждения. Многие из них неэффективны, а те, что эффективны, не могут работать в течение долгого времени. Создатели этих инструментов влияния уверяют, что однажды превратят их в системы тотального контроля, но этот прогноз не является беспристрастным, и риски, связанные с его осуществлением, носят умозрительный характер.

Напротив, Зубофф чрезмерно оптимистично оценивает результаты вялой антимонопольной деятельности, осуществлявшейся в течение последних сорока лет, — деятельности, которая позволила горстке компаний доминировать в интернете и тем самым положила начало информационной эре с её, как отметил один из пользователей «Твиттера», пятью гигантскими веб-сайтами, каждый из которых заполнен скриншотами остальных четырёх.

Но если нам следует рассматривать как реальную угрозу возможность лишиться права выбирать будущее, то в центре наших дебатов о политике в сфере информационных технологий должен быть вред, который не умозрительно, а реально, здесь и сейчас, несут с собой ИТ-монополии.

Начнём с «управления цифровыми правами». В 1998 году Билл Клинтон подписал Закон об авторском праве в цифровую эпоху (DMCA). Это сложный законодательный акт со множеством противоречивых разделов, но самым противоречивым является параграф 1201, в котором говорится о «запрете обхода».

Под «запретом обхода» имеется в виду полный запрет на вмешательство в работу систем, ограничивающих доступ к продуктам, защищённым авторским правом. Запрет настолько радикальный, что препятствует снятию блокировки доступа к продуктам даже при отсутствии нарушения авторских прав. Это сделано намеренно: действия, запрещённые параграфом 1201 DMCA, не являются нарушением авторских прав; скорее, это законные действия, которые срывают коммерческие планы производителей.

Вспомним первое крупномасштабное применение на практике параграфа 1201: он выступил как средство принуждения к продаже DVD-плееров с региональной блокировкой. DVD-CCA (организация, стандартизирующая DVD и DVD-плееры) разделила мир на шесть регионов и потребовала, чтобы DVD-плеер выяснял для каждого диска, в каких регионах его можно воспроизводить. При этом DVD-плеер тоже должен быть прикреплён к какому-то региону (DVD-плеер, купленный в США, относится к региону 1, а купленный в Индии — к региону 5). Если регион плеера и диска совпадают, диск будет воспроизводиться, в противном случае — нет.

Однако просмотр законно произведённого диска не в той стране, в которой его купили, не является нарушением авторских прав — как раз наоборот. Закон об авторском праве налагает на покупателя диска с фильмом следующую обязанность: нужно пойти в магазин, найти лицензионный диск и заплатить установленную цену. Делайте это — и ничего больше — и у вас не будет никакого конфликта с авторскими правами.

Тот факт, что киностудия хочет брать с индийцев меньше, чем с американцев, или разрешать просмотр своей продукции в Австралии позже, чем в Великобритании, не имеет отношения к законодательству об авторском праве. Если вы законно приобрели DVD, его просмотр не является нарушением авторских прав независимо от того, в какой стране вы находитесь.

Если бы в законе об авторском праве не появился параграф 1201, у производителей DVD и DVD-плееров не было бы оснований требовать наказания по статье «подстрекательство к нарушению авторских прав» производителей плееров, воспроизводящих диски из любого региона, или ремонтные мастерские, модифицирующие плееры так, чтобы вы могли смотреть фильмы с дисков из других регионов, или программистов, создающих программы, позволяющие это делать.

Вот где вступает в действие параграф 1201 DMCA: запретив вмешательство в «контроль доступа», это правило дало производителям и правообладателям возможность подавать в суд на конкурентов, выпускающих пользующиеся широким спросом превосходные продукты с законными функциями (в данном случае, плееры без региональных ограничений).

Это не что иное, как одиозная афёра против потребителей, но с течением времени сфера действия параграфа 1201 расширилась. В его власти оказалось быстро растущее созвездие девайсов и сервисов, ибо хитрые производители осознали следующее:

• Любой девайс с программным обеспечением содержит «произведение, защищённое авторским правом», то есть программное обеспечение.
• Девайс может быть спроектирован таким образом, чтобы для перенастройки программного обеспечения требовался обход «контроля доступа к произведениям, защищённым авторским правом», что в соответствии с параграфом 1201 потенциально является уголовным преступлением.
• В данных условиях компании могут контролировать поведение своих клиентов после того, как они заберут домой свои покупки, проектируя продукты с таким расчётом, чтобы все неразрешённые виды использования требовали модификаций, противоречащих параграфу 1201.

Параграф 1201 стал для производителей девайсов средством заставлять своих клиентов вести дела так, чтобы приносить пользу акционерам производителей, а не себе.

Это проявляется по-разному: от применения в струйных принтерах нового поколения защиты от заправки чужими чернилами, которую нельзя преодолеть без юридических рисков, до использования сходных систем в тракторах с целью не позволить сторонним техническим специалистам заменять детали производителя на детали, которые не распознаются системой управления трактора без наличия заводского кода разблокировки.

В США и по соседству компания Apple использует эти меры для айфонов, стремясь предотвратить установку как сторонних сервисов, так и стороннего программного обеспечения. Это позволяет Apple решать, когда айфон не подлежит ремонту и его следует раскрошить и отправить на свалку, а не его покупателю. (Apple печально известна своей катастрофической для окружающей среды политикой, запрещающей разбирать старую электронику на части и требующей её уничтожения). Иметь такую власть весьма полезно, особенно в свете того, о чём в январе 2019 года поведал инвесторам генеральный директор Apple Тим Кук (Tim Cook): прибыль компании, заявил он, может упасть из-за того, что клиенты предпочитают не заменять свои айфоны на новые, а подольше использовать старые.

Вдобавок использование блокировки доступа к продуктам, защищённым авторскими правами, позволило компании Apple установить монополию на способы приобретения её клиентами софта для своих мобильных устройств. Коммерческие правила App Store гарантируют Apple долю всех доходов от продаваемых там приложений. Это означает, что вы платите компании Apple деньги, когда покупаете в её магазине какое-то приложение, а потом продолжаете платить ей всякий раз, когда вы что-то покупаете с помощью этого приложения. Дело в том, что разработчики софта должны либо взвинчивать цену, либо соглашаться на меньшую прибыль, продавая свои продукты.

Важно отметить, что использование компанией Apple блокировки доступа к защищённым авторскими правами продуктам даёт ей возможность принимать редакторские решения о том, какие приложения вы можете, а какие не можете устанавливать на свой собственный девайс. Используя эту власть, Apple не признаёт словари, содержащие нецензурные слова, ограничивает политические высказывания, особенно в приложениях с политическими комментариями деликатного свойства (например, в приложении, которое уведомляет о всех случаях, когда американский дрон кого-то где-то убил), и считает недопустимой игру, в которой комментируется израильско-палестинский конфликт.

Компания Apple то и дело оправдывает свою монопольную власть над установкой софта заботой о безопасности, утверждая, что проверка приложений для её магазина позволяет ей защитить своих пользователей от приложений, содержащих код слежки. Но это палка о двух концах. Китайское правительство потребовало от Apple запретить продажу таких инструментов обеспечения конфиденциальности, как VPN, за исключением тех VPN, которые специально разработаны с прорехой, позволяющей китайским властям подслушивать пользователей. Поскольку Apple технологически и юридически препятствует установке неавторизованных приложений, китайские владельцы айфонов не могут легко (или законно) приобретать VPN, способные защищать их от слежки со стороны китайского правительства.

Зубофф называет следящий капитализм «мошенническим». Теоретики капитализма считают его важным достоинством то, что он агрегирует информацию в форме потребительских решений, создавая тем самым эффективные рынки. Предполагаемая способность следящего капитализма лишать своих жертв свободной воли с помощью обладающих огромной вычислительной мощью кампаний влияния означает, что наши рынки больше не агрегируют решения потребителей, потому что мы, потребители, больше не принимаем решения — нами управляют лучи контролирующего разум следящего капитализма.

Если нас тревожит, что рынки перестают функционировать, когда потребители теряют способность выбирать, то блокировка доступа к защищённым авторскими правами продуктам должна беспокоить нас, как минимум, не меньше, чем любая кампания влияния. Кампания влияния может всего лишь подтолкнуть вас купить телефон определённой марки, а вот установленная на этом телефоне блокировка доступа к защищённым авторскими правами продуктам абсолютно определяет, какие сервисы вам следует использовать, какие приложения можно на нём запускать и когда вы должны выбросить его вместо того, чтобы отремонтировать.

Порядок поиска и право на будущее время

Рынок обладает свойством, напоминающим волшебство: обнаруживая скрытую информацию, которую несёт с собой свободный выбор потребителей, их частные знания интегрируются в самонастраивающуюся систему, осуществляющую эффективное распределение — более эффективное, чем вычисляемое на компьютере любой мощности. Но монополии несовместимы с этим волшебством. Когда есть лишь один магазин приложений, владелец магазина, а не потребитель, принимает решение о диапазоне выбора. Босс Твид (Boss Tweed) однажды сказал так: «Меня не волнует, кто избирает, пока я сам выдвигаю кандидатов». Монополизированный рынок — это выборы, кандидатуры для которых подбирает монополист.

Эта фальсификация бюллетеней усугубляется существованием монополии на порядок поиска. Доля поискового рынка «Гугла» составляет около 90%. Если гугловский алгоритм ранжирования поместил какой-то результат поиска по популярному запросу в первую десятку, этот результат может серьёзно повлиять на поведение миллионов людей. Если на первой странице гугловских ответов на запрос «Опасны ли вакцины?» окажутся лишь те ответы, которые опровергают теории заговора, созданные антипрививочниками, тогда значительная часть общественности узнает, что вакцины безопасны. Если, напротив, «Гугл» даст ссылки на сайты, подтверждающие теории антипрививочников, миллионы людей будут считать, что вакцины опасны.

Нередко гугловский алгоритм вводит в заблуждение, подсовывая в топе результатов поиска дезинформацию. Но это не означает, что «Гугл» стремится побудить людей изменить мнение; он просто преподносит как истину такую ложь, истинность которой не вызывает у пользователей сомнений.

Это случается независимо от того, какой был запрос — «Опасны ли вакцины?» или «лучшие рестораны рядом со мной». Обычно пользователи не пропускают первую страницу результатов поиска, и когда подавляющее большинство людей использует один и тот же поисковик, задействованный в нём алгоритм ранжирования в такой степени определяет несметное число принимаемых людьми решений (усыновлять ли ребенка, соглашаться ли на хирургическую операцию при раковой опухоли, где пообедать, куда переехать, куда устроиться на работу), что куда там любым результатам использования методов алгоритмического убеждения!

Многие вопросы, задаваемые поисковикам, носят субъективный характер, поэтому научный, объективный ответ здесь не годится. «Где мне пообедать?» — это не объективный вопрос, поэтому на него нет правильного научного ответа. Даже для вопросов, имеющих такие ответы («Опасны ли вакцины?»), порой не представляется возможным отыскать какой-то один источник, полностью устраняющий неопределённость. Многие тексты подтверждают безопасность вакцин, так на какие из них следует давать ссылки в первую очередь? В условиях конкуренции потребители могут выбирать из множества поисковиков и использовать тот из них, алгоритмические оценки которого им больше всего подходят, однако в условиях монополизма мы все получаем ответы, обращаясь к одной и той же системе поиска.

Поисковое доминирование «Гугла» не является результатом честной конкурентной борьбы. К этому результату привело множество тактических приёмов, которые, с точки зрения классических стандартов антимонопольной деятельности, применявшихся в дорейгановские времена, незаконны. По большому счёту, «Гугл» — это компания, разработавшая два основных продукта: добротный поисковик и неплохой клон Hotmail. Все остальные крупные успехи — Android, YouTube, Google Maps и т. д. — достигнуты «Гуглом» путём покупки появляющегося конкурента. Многие ключевые подразделения компании, такие как рекламная платформа DoubleClick, нарушают правило структурного разделения — классический антимонопольный принцип, запрещающий фирме владеть дочерними компаниями, конкурирующими с её клиентами. Железным дорогам, например, запрещено владеть компаниями грузоперевозчиков, конкурирующими с грузоотправителями, чьи грузы перевозят эти железные дороги.

Если нас тревожит, что компании-гиганты подрывают рынки, лишая потребителей возможности делать свободный выбор, то, по всей видимости, энергичное применение антимонопольного законодательства — отличное средство для исправления ситуации. Если бы мы отказали «Гуглу» в праве осуществлять многочисленные слияния, мы, вероятно, лишили бы его и полного доминирования в сфере поиска. Без этого доминирования любимые идеи, предубеждения, ошибки (а также здравый смысл) гугловских разработчиков поисковых систем и гугловских менеджеров по продуктам не имели бы чрезмерного влияния на выбор потребителей.

Это касается и многих других компаний. Поисковая система компании «Амазон» (Amazon), классической фирмы следящего капитализма, очевидно, представляет собой доминирующий инструмент для поиска товаров на ИТ-платформе компании «Амазон» — хотя многие люди заходят на эту платформу с помощью поисковика «Гугла» и публикаций в «Фейсбуке», — и, очевидно, компания «Амазон» контролирует амазоновский поисковик. Это означает, что эгоистичный выбор редакции платформы «Амазон» — например, продвижение амазоновских брендов в ущерб конкурирующим товарам других продавцов, а также собственных идей, предубеждений и ошибок — существенно влияет на то, что мы покупаем. А поскольку компания «Амазон» — доминирующий онлайн-ритейлер за пределами Китая и достигла этого доминирования, скупая, вопреки классическим антитрестовским законам, как крупных конкурентов, так и тех, что едва успели появиться, мы можем предъявить этой монополии обвинение в том, что она лишает потребителей их права на будущее время и возможности формировать рынки посредством самостоятельного и грамотного выбора.

Монополия может влиять на выбор потребителей самыми разнообразными способами даже тогда, когда она не является следящей капиталистической компанией. Зубофф хвалит компанию Apple за её App Store и iTunes Store, утверждая при этом, что рост платы за использование функций на её платформах — секретное орудие противодействия слежке и формирования тем самым конкурентного рынка. Но Apple — единственный ритейлер, которому вольготно торговать на его платформах, и второй по величине поставщик мобильных устройств в мире. Независимые поставщики программного обеспечения, продающие софт с торговой площадки Apple, обвиняют компанию в тех же грехах, связанных со слежкой, что и «Амазон» и других крупных ритейлеров: Apple шпионит за своими клиентами в поисках прибыльных новых продуктов, которые можно запустить в производство, энергично использует независимых поставщиков софта в качестве исследователей рыночного пространства, чтобы затем вытеснить их с любых открытых ими рынков.

Используя блокировку доступа к защищённым авторскими правами продуктам, компания Apple не разрешает владельцам айфонов переходить к какому-то ритейлеру-конкуренту, продающему приложения для мобильных устройств. Apple, очевидно, единственная инстанция, решающая, как оценивать результаты поисковых запросов в её магазинах. Благодаря этим решениям одни приложения используются часто (потому что появляются на первой странице), а другие вообще не используются (потому что появляются на миллионной странице). Дизайнерские решения Apple в области ранжирования поисковой выдачи оказывают гораздо более мощное влияние на поведение потребителей, чем кампании, проводимые рекламными ботами следящего капитализма.

Монополисты могут себе позволить успокоительное для регуляторов

Только рыночники-радикалы считают, что рынок способен регулировать себя без государственного контроля. Рынок нуждается в сторожевых псах — регулирующих конторах, законодательных органах и других элементах демократического контроля, следящих за тем, чтобы рыночная деятельность была честной. Когда эти сторожевые псы, находясь при исполнении, спят, рынок перестаёт агрегировать потребительский выбор, потому что этот выбор ограничивает незаконная и вводящая в заблуждение деятельность компаний, которая может сходить им с рук, если некому привлечь их к ответственности.

Однако приручение контролирующих органов обходится недёшево. В конкурентных секторах, где соперники постоянно сбивают маржу друг друга, у отдельных фирм нет столько прибавочного капитала, сколько требуется для служащего их целям эффективного лоббирования законов и нормативных актов.

Многие вредные свойства следящего капитализма являются результатом слабого регулирования или его отсутствия. Регуляторный вакуум проистекает из способности монополистов сопротивляться более строгому регулированию и перекраивать существующее законодательство так, чтобы их бизнес оказался законным.

Вот пример — когда компания чрезмерно собирает и чрезмерно долго хранит наши данные, возрастает вероятность их утечки: нельзя потерять данные, которые никогда не собирал, а удалив все экземпляры этих данных, сразу же теряешь и возможность невзначай слить их. За последние несколько лет мы стали свидетелями нескончаемого парада всё более вопиющих утечек данных, каждая из которых уникально ужасна, с точки зрения масштабов и секретности этих данных.

Почему компании продолжают чрезмерно собирать и хранить наши данные? Они делают это по трём причинам:

1. Они вовлечены в вышеупомянутую лимбическую гонку вооружений с нашей способностью усиливать системы защиты внимания для противодействия новым методам убеждения. Вдобавок они вовлечены в гонку вооружений со своими конкурентами, в ходе которой создаются всё новые и новые способы выцеливания людей, восприимчивых к коммерческим предложениям. Как только компании находят слабое место в нашей защите внимания (например, оригинальный, неочевидный способ привлечь потенциальных покупателей холодильников), мы начинаем осмысливать их новый тактический приём, а их конкуренты, подхватив этот приём, помогают нам осмыслить его быстрее — и вот уже все потенциальные покупатели холодильников знают про эту коммерческую уловку.

2. Они верят в нарратив следящего капитализма. Сбор и хранение данных обходятся дёшево, и, кроме того, как сторонники, так и противники следящего капитализма убедили менеджеров и разработчиков продуктов, что стоит им собрать достаточно данных — и они обретут чудесную власть над разумом покупателей, наращивая тем самым свои продажи. Даже если вам не удастся придумать, как, пользуясь собранными данными, получить прибыль, рано или поздно найдётся кто-то другой, кто захочет купить их у вас, чтобы в свою очередь поискать способ их выгодного использования. Это характерная черта всех экономических пузырей: приобретать активы в надежде на то, что кто-то другой купит их у вас за бóльшую цену, причём нередко лишь для того, чтобы перепродать кому-то ещё по ещё большей цене.

3. Штрафы за утечку данных незначительны. В большинстве стран размер этих штрафов ограничен фактическим ущербом, а это означает, что потребители, чьи данные утекли, должны продемонстрировать реальный денежный ущерб, чтобы получить за него компенсацию. В 2014 году компания Home Depot сообщила, что потеряла данные кредитных карт 53 миллионов своих клиентов, но уладила это дело, заплатив каждому пострадавшему клиенту около 0,34 доллара, причём треть этой суммы даже не была выплачена наличными. Она приобрела форму займа для обеспечения весьма неэффективного сервиса мониторинга банковских счетов покупателей.

Но вред от утечек гораздо значительней, чем фактический ущерб, возмещение которого предусматривают правила. Похитители личных данных и мошенники коварны и бесконечно изобретательны. В наше время все огромные утечки данных непрерывно тасуются, образуя всё новые и новые комбинации, похищенная информация сводится воедино и пополняется для поиска новых способов превращения пострадавших от утечек людей в жертв преступной деятельности. Любая разумная, солидно обоснованная система устрашения преступников и предоставления компенсации за утечку информации, не ограничиваясь фактическим ущербом, позволила бы пользователям требовать возмещения ещё и будущего ущерба.

Однако даже самые амбициозные правила обеспечения конфиденциальности, такие как Общий регламент ЕС по защите данных (EU General Data Protection Regulation), далеко не полностью учитывают негативные последствия чрезмерного сбора и хранения информации ИТ-платформами, и, применяя введённые таки санкции, регуляторные органы не проявляют должного рвения.

Эту терпимость — или безразличие — к чрезмерному сбору и чрезмерному хранению данных отчасти можно объяснить наличием у ИТ-платформ рельефной лоббистской мускулатуры. Эти компании настолько прибыльны, что легко могут позволить себе отстёгивать гигантские суммы на борьбу с любыми серьёзными изменениями в законодательстве, то есть с изменениями, которые вынудили бы их оплачивать все последствия их следящей деятельности.

А есть и государственная слежка, которую нарратив следящего капитализма осуждает как пережиток того ушедшего времени, когда страшную тревогу вызывала перспектива угодить в тюрьму за диссидентскую речь, а перспектива лишиться свободы воли под воздействием методов убеждения, создаваемых на основе машинного обучения, совсем не страшила.

Но государственная и частная слежка тесно связаны друг с другом. Вспомним ещё раз о сотрудничестве китайского правительства и компании Apple. На этом примере видно, что единственный реальный и удобный способ проводить массовую слежку в масштабах, практикуемых современными государствами — как «свободными», так и автократическими, — это подкупать коммерческие сервисы.

Если жёстко ограничить деятельность следящего капитализма, возможности государства шпионить за собственными гражданами тоже резко уменьшатся — будь то повсеместное использование правоохранительными органами США гугловских инструментов отслеживания местоположения или использование Министерством внутренней безопасности мониторинга социальных сетей для создания досье на участников протестов против практики разделения семей, которую применяют иммиграционные и таможенные органы. Без контрактов с крупными ИТ-компаниями (а это — «Palantir», «Амазон», «Гугл» и другие) полицейские штатов не смогли бы шпионить за чернокожими, сотрудники ICE — помещать детей нелегальных мигрантов в изоляторы на границе США, а государственные системы социального обеспечения — сокращать свои списки, выдавая жестокость за практицизм и заявляя, что бедные и уязвимые люди не имеют права на помощь. Именно этими симбиотическими отношениями — по меньшей мере, в некоторых случаях — объясняется тот факт, что власти штатов не горят желанием предпринимать серьёзные действия, направленные на пресечение слежки. Массовая государственная слежка и массовая коммерческая слежка неразрывно связаны друг с другом.

Монополизм — вот основа проекта массовой государственной слежки. Это правда, что небольшие ИТ-компании не имеют такой защиты от злоумышленников, какую имеют ИТ-гиганты, набирающие специалистов по безопасности из числа лучших и предоставляющие в их распоряжение огромные средства. Зато у менее крупных фирм и нужда в защите значительно меньше: меньше пользователей, а их данные разбросаны по большему количеству систем, в силу чего государству нужно собирать их по одному.

Сотрудничающий с властями монополизированный ИТ-сектор является гораздо более сильным союзником в деле реализации проекта массовой государственной слежки, чем ИТ-сектор, состоящий из более мелких субъектов. ИТ-сектор США такой компактный, что в 2017 году все его руководители, собравшись вскоре после инаугурации Трампа в его Башне, спокойно поместились за одним столом в зале заседаний. Крупнейшие игроки из этого сектора претендуют на заключение с Пентагоном контракта на сумму 10 миллиардов долларов. Такова цена программы JEDI, в рамках которой должна быть создана облачная инфраструктура в интересах Министерства обороны США. Как и в других монополизированных сферах американской экономики, в Большой ИТ-индустрии идёт ротация, в ходе которой ведущие сотрудники переходят из частного бизнеса в государственные органы (в Министерство обороны и Белый дом), а потом возвращаются назад, занимая должности в отделах по связям с правительством.

У ИТ-монополий есть даже веские доводы в пользу такой практики: в конце концов, когда в отрасли всего четыре или пять компаний-гигантов, чтобы обрести квалификацию, необходимую для регулирования деятельности этих компаний, нужно поработать руководителем по крайней мере в паре из них — потому что, аналогично, когда в отрасли всего пять компаний, каждый, кто способен квалифицированно руководить в какой-то из них, по определению, работает в одной из других.

Конкурентые отрасли фрагментированы — они состоят из компаний, которые всё время атакуют друг друга и, борясь за лучших клиентов, сбивают друг другу маржу, снижая цены. В результате у этих компаний, по сравнению с монополистами, гораздо меньше капитала, который можно использовать для лоббирования выгодных для них законопроектов, и гораздо меньше возможностей договориться друг с другом объединить свои ресурсы на благо отрасли в целом.

Кое-кто заявляет, что слежка в сочетании с машинным обучением приведёт к экзистенциальному кризису, станет для человечества критическим рубежом, выход на который будет означать, что ещё несколько шагов в этом же направлении — и мы лишимся свободной воли. Я скептически отношусь к этому мнению, но всё же считаю, что информационные технологии действительно представляют экзистенциальную угрозу нашему обществу и, возможно, нашему виду.

Однако, на мой взгляд, корни этой угрозы — в монополизме.

Одним из последствий приручения регуляторных органов Большой ИТ-индустрией является то, что она может переложить ответственность за неправильные решения в области безопасности на своих клиентов и общество в целом. В этой сфере считается абсолютно нормальным, когда компании осложняют работу своих продуктов, специально делают её трудной для понимания и угрожают исследователям безопасности, которые пытаются провести независимый аудит.

ИТ — единственная область, в которой всё это практикуется. К примеру, при строительстве мостов или больниц никто не делает секрета из того, какие требуются марки стали или какие уравнения нужно использовать для расчёта нагрузочных напряжений. Эти откровенно странные порядки, царящие в ИТ-индустрии, снова и снова приводят к проявлению гротескных дефектов безопасности в фарсовых масштабах, когда целые классы устройств оказываются уязвимыми ещё долго после того, как они уже развёрнуты «в поле» и помещены в чувствительные места.

Монопольная власть препятствует принятию решительных мер для предотвращения таких дефектов, в результате чего ИТ-компании продолжают создавать ужасные, небезопасные продукты, которым всё же удаётся прочно обосноваться в нашей жизни, владея нашими данными и влияя на наш физический мир. Уже много лет компания Boeing борется с последствиями серии плохих технологических решений, которые сделали её флот боингов-737 глобальным изгоем, — редкий случай, когда рынок серьёзно наказал за плохие ИТ-решения.

Плохие решения в области безопасности усугубляются ещё и блокировкой доступа к защищённым авторскими правами продуктам с целью навязать потребителям применяемую бизнес-модель. Вспомним, что эта блокировка, означающая привязку к поставщику, стала основным средством формирования поведения потребителей, делая технически невозможным, законно приобретя товар, использовать в связи с этим приобретением сторонние чернила, инсулин, приложения или услуги сторонних специалистов.

Вспомним также, что блокировка доступа к защищённым авторскими правами продуктам поддерживается законодательством (например, параграфом 1201 Закона США «Об авторском праве в цифровую эпоху» или статьей 6 Директивы ЕС по авторскому праву 2001 года), которое запрещает вмешиваться в неё («обходить» её) и, к тому же, используется для угроз исследователям безопасности, выявляющим без разрешения производителей уязвимые места.

Это всё равно что предоставить производителю право вето на предостережения и критику. Хотя такое положение вещей явно выходит за рамки цели, с которой принимались Закон США «Об авторском праве в цифровую эпоху» и соответствующие статуты других стран, Конгресс не разъяснил смысл данного законодательства и не сделает этого в будущем, ибо это противоречило бы интересам влиятельных фирм-гигантов, обладающих огромной лоббистской мощью.

Блокировка доступа к защищённым авторскими правами продуктам — это двойной удар: она не только ведёт к плохим решениям в сфере безопасности, но ещё и препятствует их свободному исследованию и обсуждению. Если рынок является машиной, агрегирующей информацию (и если следящий капитализм является «мошенническим» из-за использования, образно выражаясь, лучей контроля над разумом, лишающих потребителей возможности принимать решения), то тогда юридически закреплённая программа игнорирования рисков, создаваемых продуктами, делает монополизм ещё более «мошенническим капитализмом», чем следящий капитализм с его кампаниями влияния.

В отличие от лучей, контролирующих разум, принуждение молчать об угрозах безопасности — это непосредственная, задокументированная проблема, которая действительно представляет собой экзистенциальную угрозу для нашей цивилизации и, возможно, нашего вида. Распространение небезопасных устройств — особенно устройств, которые шпионят за нами, и особенно в тех случаях, когда вдобавок они способны манипулировать физическим миром, например, управляя автомобилем или щёлкая выключателем на электростанции, — это форма технического долга.

При разработке программного обеспечения под «техническим долгом» понимают старые, укоренившиеся решения, которые со временем оказываются плохими. Может случиться так, что когда-то давным-давно разработчик решил включить в код сетевой протокол, созданный поставщиком, который вскоре прекратил его поддерживать. Но всё функционирование продукта продолжает зависеть от отжившего век протокола, в силу чего в каждой новой версии команда разработчиков должна возиться с этим устаревшим ядром, добавляя к нему уровни совместимости, окружая его системами проверки безопасности, укрепляющими его защиту, и т. д. Это подставление костылей усугубляет технический долг, потому что при каждой последующей доработке нужно уже подставлять костыли под костыли, что напоминает рост процентов при хищническом субстандартном кредитовании. И, как и в случае с субстандартным кредитом, проценты растут так быстро, что выплачивать их становится невозможно: поскольку команда разработчиков продукта вынуждена заниматься поддержкой работоспособности усложняющейся хрупкой системы, у неё не остаётся времени на то, чтобы осуществить полный рефакторинг кода и «выплатить долг» раз и навсегда.

Как правило, технический долг приводит к техническому банкротству: продукт становится настолько хрупким и неустойчивым, что начинает разваливаться. Вспомним об архаичных банковских и бухгалтерских системах на основе языка COBOL, которые рухнули в начале коронавирусной пандемии, столкнувшись со стремительным ростом числа обращений за пособием по безработице. Иногда на этом заканчивается история продукта, иногда — ещё и жизнь компании-производителя. Перспектива влететь в дефолт технического долга так же пугает и травмирует, как и перспектива лишиться дома, став банкротом.

Но технический долг, созданный блокировкой доступа к защищённым авторскими правами продуктам, не является индивидуальным: он системный. Эта чрезмерная закредитованность затрагивает всех, о чём свидетельствует финансовый кризис 2008 года. Когда наступит срок погашения этого долга — когда в сфере обеспечения безопасности мы столкнёмся с каскадом сбоев, угрожающих глобальным перевозкам и логистике, поставкам продовольствия, снабжению фармацевтическими препаратами, каналам экстренной связи и другим критически важным системам и процессам, накапливающим технический долг отчасти из-за заведомо небезопасной и преднамеренно неаудируемой блокировки доступа к защищённым авторскими правами продуктам, — этот долг действительно превратится в экзистенциальную угрозу.

Конфиденциальность и монополия

Многие ИТ-компании придерживаются ортодоксального мнения, согласно которому собери они достаточно данных о достаточно большом количестве наших действий — и станет возможным всё, что угодно, вплоть до контроля над разумом и бесконечного получения прибыли. Это гипотеза из разряда нефальсифицируемых: когда какой-то ИТ-компании благодаря собранным данным удаётся чуть-чуть продвинуться в деле прогнозирования и модифицирования поведения людей, она заявляет, что сделала первый шаг к глобальному господству, хотя эта амбициозная цель где-то за горизонтом. Если компания не может добиться каких-либо улучшений в результате сбора и анализа данных, она заявляет, что успех уже близок — нужно лишь приобрести чуть побольше необходимых данных.

Технологии слежки — далеко не первая отрасль экономики, в которой царит глупая эгоистичная вера, несущая вред остальному миру, и это не первая отрасль, которая сделала царящую в ней иллюзию весьма прибыльной. Задолго до менеджеров хедж-фондов, заявлявших (ложно) о том, что они могут превзойти показатели компаний из списка индекса S&P 500, существовало множество других «респектабельных» дельцов, которые задним числом были признаны шарлатанами, — начиная с производителей радиевых суппозиториев (реальная вещь!) и кончая жестокими социопатами, которые утверждали, будто они способны «вылечить» геев. История кишит титанами дискредитировавших себя отраслей промышленности, считавшимися поначалу респектабельными.

Это не означает, что в «Биг Техе» и его идеологической зависимости от данных нет ничего плохого. В то время как преимущества, предоставляемые слежкой, как правило, преувеличиваются, вред, который она несёт или может принести, недооценивается.

Здесь есть место для горькой иронии. Вера в следящий капитализм как в «изощрённый» основана на вере в том, что рынок не терпит компаний, охваченных ложными убеждениями. Найти пример несложно: нефтяная компания с ложными представлениями о том, где находится нефть, будет заниматься сухим бурением и в конце концов разорится.

Однако монополистам удаётся очень долго творить ужасные вещи, прежде чем наступает срок расплаты. Вспомним о том, как в финансовом секторе из-за высокой концентрации капитала постепенно назревал ипотечный кризис, а рейтинговые агентства, регулирующие органы, инвесторы и критики не препятствовали этому, подпав под влияние ложной веры в то, что сложная математика позволяет выстраивать «полностью хеджированные» долговые инструменты, использование которых исключает дефолт. Небольшой банк, совершив преступление подобного рода, просто стал бы разваливаться, а не пытаться уйти от неизбежного краха, да ещё так наращивая свой капитал, что его банкротство стало бы невозможным. А вот крупные банки остались привлекательными для инвесторов, и, когда они всё-таки оказались на краю пропасти, правительства мира выручили их. Худшие виновники ипотечного кризиса 2008 года не только выжили, но ещё и выросли, стали прибыльнее и увеличили выплаты своим руководителям.

Большая ИТ-индустрия может заниматься слежкой не только потому, что технологична, но и потому, что большая. Причина, по которой каждый веб-публикатор размещает у себя фейсбучную кнопку «Like», заключается в том, что «Фейсбук» является доминирующей соцсетью в интернете — и каждая из этих кнопок шпионит за каждым, кто попадает на содержащую их страницу (см. также: встраиваемые коды Google Analytics, кнопки «Твиттера» и т. д.).

Причина, по которой правительства мира не спешат вводить серьёзные штрафы за нарушения конфиденциальности, заключается в том, что высокая концентрация капитала в Большой ИТ-индустрии приносит огромные прибыли, которые можно использовать для лоббирования отмены штрафов, и, кроме того, означает, что ИТ-гиганты могут сговориться усилить это лоббирование.

Причина, по которой самые умные инженеры со всего мира хотят работать в Большой ИТ-индустрии, заключается в том, что эта индустрия контролирует львиную долю рабочих мест в сфере информационных технологий.

Причина, по которой люди, шокированные тем, как «Фейсбук», «Гугл» и «Амазон» распоряжаются данными, продолжают пользоваться этими сервисами, заключается в том, что все их друзья находятся в «Фейсбуке», «Гугл» доминирует в поиске, а компания «Амазон» разорила всех локальных торговцев.

Конкурентный рынок может ослабить лоббистские возможности ИТ-гигантов, снижая их прибыли и сталкивая их друг с другом при обсуждении вопросов регулирования. Он может предоставить потребителям другие источники онлайн-услуг. Он может уменьшить компании до размеров, оптимальных для контроля над ними, и устранить препятствия для жёстких наказаний за нарушения. Он может предоставить тем, кто готов бросить вызов ортодоксальной системе слежки, возможность собрать капитал, необходимый для конкуренции с уже действующими игроками, а веб-издателям — множество способов выхода на аудиторию и устранения зависимости от встраиваемых кодов «Фейсбука», «Гугла» и «Твиттера».

Другими словами, хотя слежка не создаёт монополии, монополии, несомненно, способствуют слежке.

Пионер ИТ-монополизма Рональд Рейган

Вера в исключительность информационных технологий — это грех, независимо от того, кто её исповедует — ярые защитники информационных технологий или их критики. Оба эти лагеря склонны объяснять монополистическую концентрацию специфическими особенностями ИТ-индустрии, такими как сетевые эффекты и использование преимуществ, которыми обладает первопроходец. Единственное реальное различие между представителями этих лагерей состоит в представлении о том, какой должна быть наша реакция на неизбежный в ИТ-индустрии монополизм: если, с точки зрения апологетов информационных технологий, нам не следует наказывать ИТ-компании за монополистические перегибы, то, с точки зрения сторонников конкуренции в США и ЕС, нам следует наказывать ИТ-компании за злоупотребления, но не пытаясь устранить их монополистический характер.

Чтобы понять, как информационные технологии приобрели этот ярко выраженный характер, обратимся к истории возникновения потребительской ИТ-индустрии. В 1979 году начался выпуск первого успешного домашнего компьютера Apple II Plus. Кроме того, это был год, в который Рональд Рейган (Ronald Reagan) начал предвыборную кампанию за президентское кресло. Президентскую гонку 1980 года он выиграл, что привело к радикальному сдвигу в подходе к решению вопросов антимонопольного законодательства в Америке. Рейгановская когорта политиков, в которую, в частности, входили Маргарет Тэтчер (Margaret Thatcher) в Великобритании, Брайан Малруни (Brian Mulroney) в Канаде, Гельмут Коль (Helmut Kohl) в Германии и Аугусто Пиночет (Augusto Pinochet) в Чили, подхватила американские реформы, и в конечном итоге они распространились по всему миру.

Что касается истории американского антимонопольного законодательства, то она началась почти за столетие до всего этого с таких законов, как закон Шермана (Sherman Act), согласно которому монополии плохи сами по себе: они вытесняют конкурентов, создают «отсутствие эффекта масштаба» (означающее, что огромный размер компании порождает хаос при взаимодействии её составных частей, лишающий её возможности эффективно функционировать) и настолько подчиняют себе регуляторные органы, что могут безнаказанно натворить кучу зла.

Затем появился баснописец по имени Роберт Борк (Robert Bork), бывший генеральный солиситор, которого Рейган назначил в могущественный Апелляционный суд США по округу Колумбия и который нагло сотворил альтернативную законодательную историю закона Шермана и более поздних антитрестовских законов. Борк уверял, что эти законодательные акты никогда не были направлены против монополий (несмотря на море фактов, свидетельствующих об обратном, включая запротоколированные речи авторов законов): дескать, их цель — предотвращать «вред, причиняемый потребителю» в форме завышенных цен.

Борк был чудаком, но не просто чудаком, а чудаком-теоретиком, и его теория весьма понравилась толстосумам. Монополии — отличный способ сделать богатых богаче, позволяя им получать «монопольную ренту» (то есть сверхприбыль) и подчинять себе регулирующие органы, что ведёт к дряблой нормативной среде, более благоприятной для монополистов и менее благоприятной для клиентов, поставщиков, окружающей среды и рабочих.

Теория Борка особенно пришлась по душе влиятельным политикам, которые поддерживали Рейгана, а рейгановское Министерство юстиции и другие агентства взялись включать антимонопольную доктрину Борка в свои исполнительные решения (Рейган даже представил кандидатуру Борка на членство в Верховном суде, но на слушании в Сенате Борк завалил своё утверждение с таким треском, что 40 лет спустя инсайдеры из округа Колумбия любое катастрофически плохое политическое выступление называют «борконутым» (borked)).

Постепенно теория Борка завоевала широкое признание, и её сторонники стали проникать в сферу юридического образования, даже устраивая за казённый счёт пикники, на которых членов судебной власти потчевали щедрыми обедами, уморительными развлечениями на свежем воздухе и семинарами на тему антимонопольного права, где слушателям внушали, что это право необходимо толковать в борковском, вредном для потребителей духе. Чем влиятельнее становилась доктрина Борка, тем больше денег зарабатывали монополисты — и тем больше появлялось у них капитала для лоббирования ещё большего числа кампаний влияния, направленных на продвижение борковских антимонопольных идей.

История антимонопольной доктрины Борка — прекрасный пример исподволь осуществляемых трансформаций общественного мнения, от которых предостерегает нас Зубофф из-за того, что они делают экстремистские идеи господствующими и ортодоксальными. Но Борк не изменил мир в одночасье. Он шёл к своей цели на протяжении жизни целого поколения, и в его паруса дул попутный ветер, потому что те же силы, что поддерживали олигархические антимонопольные теории, поддерживали и другие олигархические сдвиги в общественном мнении. Идеи о том, что налогообложение — воровство, богатство — признак добродетели и так далее, слились воедино, сформировав стройную идеологию, которая возвела неравенство в достоинство.

Сегодня многие опасаются, что благодаря машинному обучению следящий капитализм может делать «борковскую работу» со скоростью интернета, ибо, наняв компанию, использующую машинное обучение, можно спроектировать быстрые сдвиги в общественном мнении, не вкладывая свой капитал в разработку и реализацию долгосрочного многопрофильного проекта, требующего кропотливой работы на местном, государственном, национальном и глобальном уровнях в сфере бизнеса, права и философии. Я не верю в быструю трансформацию общественного мнения на основе машинного обучения, хотя и согласен с тем, что именно это выставляют на продажу ИТ-платформы. Они просто врут. Большая ИТ-индустрия всё время врёт, в том числе и в своих рекламных текстах.

История ИТ-сферы опровергает представление о том, что в ходе её развития возникают «естественные монополии» (такие, появление которых представляет собой неизбежный результат объективно сложившихся обстоятельств, — например, вырастающие из первой компании, создавшей телефонные линии дальней связи или сеть железных дорог): никаких антиконкурентных приёмов не понадобилось «Гуглу», чтобы повергнуть компании AltaVista и Yahoo, а «Фейсбуку» — Myspace. Есть некоторые преимущества в сборе гор информации, но эти горы создают и неудобства, каковыми являются ответственность (из-за утечки), убывающая отдача (из-за устаревания данных) и институциональная инерция (в крупном бизнесе, как и в науке, для рывка вперёд бывает нужно, чтобы умерли противники этого рывка).

Вспомним, как с рождением интернета стали массово вымирать гигантские, чрезвычайно прибыльные компании, использовавшие проприетарные технологии, и этим гигантам не помог ни их капитал, ни сетевые эффекты, ни стены и рвы, окружавшие их бизнес. Интернет показал, что когда новая отрасль строится на протоколе, а не на продукте, объединённая мощь всех, кто использует протокол для выхода на клиентов, пользователей или сообщества, перевешивает даже гору продуктов. CompuServe, AOL, MSN и множество других проприетарных огороженных садов усвоили этот урок на собственном горьком опыте: все они думали, что могут успешно продолжать свой бизнес, оставаясь отделёнными от интернета, предлагая «курирование», а также гарантию согласованности и качества взамен хаоса открытой системы; все они заблуждались и в конце концов были поглощены всемирной сетью.

Да, информационные технологии сильно монополизированы и в настоящее время тесно связаны с высокой концентрацией, но это объясняется не присущими им монополистическими тенденциями, а особенностями времени. Информационные технологии появились тогда, когда антимонопольное законодательство было демонтировано, и в результате приобрели именно те патологические свойства, с которыми боролось это законодательство. Уже этот факт заставляет предполагать, что ИТ-монополии являются результатом отсутствия антимонопольных действий, а не таких якобы присущих ИТ-сфере уникальных свойств, как сетевые эффекты, преимущество первопроходца и так далее.

В подтверждение этого тезиса я предлагаю взглянуть на концентрацию, происходившую в тот же период в других сферах. Концентрация серьёзно выросла везде: от профессионального реслинга, производства товаров повседневного спроса и сдачи в аренду коммерческой недвижимости до банковского дела, морских перевозок, добычи нефти, деятельности звукозаписывающих фирм, владения газетами и парками аттракционов. В этих сферах нет очевидных сетевых эффектов или преимущества первопроходца, однако и в них концентрация стала высокой благодаря методам, запрещённым до борковского триумфа: слиянию с главными конкурентами, покупке новичков, занимающихся инновационной деятельностью, горизонтальной и вертикальной интеграции и набору антиконкурентных тактических приёмов, которые когда-то были незаконными, а теперь приобрели легитимность.

И ещё раз о том, о чём мы уже говорили: когда вы меняете законы, перекрывающие пути, ведущие к монополизму, а затем создатели монополий используют именно эти пути, разумно предположить, что эти факты связаны друг с другом. Концентрацию информационных технологий можно легко объяснить, не прибегая к радикальным теориям сетевых эффектов, но лишь тогда, когда вы готовы обвинить нерегулируемые рынки в тенденции к монополии. Подобно тому, как курильщики с большим стажем находят сотню аргументов, подтверждающих, что не курение стало причиной развития у них рака («Всё дело в токсинах окружающей среды»), истые сторонники нерегулируемого рынка находят целый набор неубедительных аргументов, оправдывающих монополизм в ИТ-сфере и позволяющих капитализму оставаться ни при чём.

Руление с помощью дворников

Прошло сорок лет с тех пор, как триумфально победил реабилитирующий монополии проект Борка, а это — период жизни полутора поколений. Такого времени более чем достаточно для того, чтобы представить банальную идею необычной и наоборот. До 40-х годов ХХ века богатые американцы одевали своих мальчиков в розовое, а девочек — в голубое («нежный и изящный» цвет). Узнав об этом факте, многие до сих пор реагируют на него с удивлением и с трудом представляют себе время, когда розовый цвет ассоциировался с мужественностью, хотя гендерные цвета, очевидно, абсолютно условны.

После сорока лет прилежного игнорирования необходимости осуществлять антимонопольный анализ и антимонопольное принуждение не удивительно, что мы все почти забыли, что антимонопольное право существует, что не так давно рост за счёт слияний и поглощений, как правило, пресекался в соответствии с законом, что за такие стратегии завоевания рынка, как вертикальная интеграция, любой компании грозил суд.

Антимонопольное законодательство — это рулевое колесо рыночного общества, первоочередное средство сдерживания потенциальных хозяев вселенной на их пути к их заветной цели. Но сорок лет назад Борк и его соратники сломали этот руль. Машина всё ещё мчится, поэтому мы лихорадочно хватаемся за все остальные элементы управления, а также отчаянно хлопаем дверьми и опускаем-поднимаем оконные стёкла, надеясь перепрофилировать хоть что-то таким образом, чтобы нам удалось изменить направление движения, прежде чем мы упадём со скалы.

Это походит на оживший научно-фантастический сюжет 60-х годов прошлого века: люди плывут среди звёзд в «корабле поколений», который когда-то пилотировали их предки; и вот, после страшного катаклизма, экипаж корабля забыл, что он вообще находится на корабле, и больше не помнит, где находится зал управления. Корабль плывёт по течению, приближаясь к своему краху, и, если мы не справимся с управлением и не осуществим экстренную коррекцию курса, нас всех сожжёт пламя звезды.

Слежка по-прежнему имеет значение

Ничто из вышесказанного не делает проблему слежки менее острой. Слежка имеет значение, и её использование Большой ИТ-индустрией действительно представляет реальный риск для нашего вида, но вовсе не потому, что слежка и машинное обучение лишают нас свободы воли.

Благодаря Большой ИТ-индустрии слежка стала намного эффективнее. В 1989 году «Штази» (Stasi — тайная полиция Восточной Германии) следила за всей страной, и для этой крупномасштабной деятельности требовалось, чтобы каждый 60-й житель страны работал в качестве осведомителя или оперативника.

Сегодня, как мы знаем, АНБ (NSA) шпионит за значительной частью всего населения Земли, а отношение оперативников АНБ к числу наблюдаемых составляет примерно 1 : 10 000. (Это отношение получается, если считать, что все граждане США с доступом к совершенно секретной информации участвует в слежке АНБ. Конечно, это не так, а значит, число в знаменателе должно быть больше).

Каким образом менее чем за 30 лет эффективность слежки возросла настолько, что отношение числа оперативников к числу людей, за которыми ведётся слежка, отныне составляет не 1 : 60, а 1 : 10 000? Благодаря Большой ИТ-индустрии. Наши девайсы и сервисы собирают бóльшую часть данных, которые нужны АНБ для слежки. Мы платим за эти девайсы и сервисы, к которым они подключаются, а затем тщательно выполняем задачи по вводу данных, выкладывая сведения о нашей жизни, наши мнения и предпочтения. Для борьбы с терроризмом данный проект массовой слежки оказался почти бесполезным. АНБ может сослаться лишь на один незначительный успех: это тот случай, когда агентству с помощью его программы сбора данных удалось помешать попытке гражданина США перевести несколько тысяч долларов на счёт заграничной террористической группы. Массовая государственная слежка неэффективна почти по той же причине, по которой столь же неэффективна коммерческая слежка при таргетировании рекламы: люди, которые хотят совершить террористический акт, как и люди, которые хотят купить холодильник, встречаются крайне редко. Если вы пытаетесь обнаружить феномен, возникающий в одном случае из миллиона, с помощью прибора, точность которого составляет всего 99%, то на каждый истинный положительный результат придётся 9999 ложноположительных.

Позвольте объяснить это подробнее. Если один человек из миллиона является террористом, то в случайной выборке с охватом в 1 миллион человек окажется не более одного террориста. Если ваш тест на обнаружение террористов точен на 99%, в данной выборке он обнаружит 10 000 террористов (1% от одного миллиона — 10 000). На каждый истинно положительный результат вы получите 9999 ложноположительных.

Реальная точность выявляющего террористов алгоритма, как и таргетированной рекламы холодильников, намного ниже 99%. Разница в том, что при ложном обвинении в желании купить холодильник вы испытаете всего лишь лёгкую досаду, а при ложном обвинении в планировании террористической атаки может оказаться разрушенной вся ваша жизнь и вдобавок жизнь всех близких вам людей.

Массовая государственная слежка возможна только благодаря следящему капитализму и его чрезвычайно неэффективным системам таргетированной рекламы, которым, чтобы они оставались мало-мальски рентабельными, требуется постоянная поставка личных данных. Главный изъян следящего капитализма — неэффективно таргетированная реклама, а массовой государственной слежки — гротескные нарушения прав человека, чреватые тоталитаризмом.

Не стоит представлять, будто государственная слежка всего лишь паразитирует на Большой ИТ-индустрии, питаясь её данными и не давая ничего взамен. Это поистине два симбионта: «Биг Тех» собирает наши данные для шпионских агентств, а шпионские агентства следят за тем, чтобы правительства не налагали на «Биг Тех» таких ограничений, которые невыгодны шпионским агентствам. Чёткую границу между государственной слежкой и следящим капитализмом провести нельзя; они зависят друг от друга.

Если хотите увидеть, как это работает в наши дни, обратите внимание на девайс для домашнего наблюдения Ring doorbell от компании «Амазон» и связанное с ним приложение Neighbours. Фирма Ring ещё до того, как стала амазоновской, разработала видеозвонок, который, будучи установленным на входной двери, позволяет позвонить в неё и транслирует на ваш мобильник видео со встроенной камеры. С помощью приложения Neighbours вы можете вместе с соседями, тоже купившими девайс Ring, создать сеть наблюдения, которая предоставит вам возможность совместно контролировать целый район и показывать друг другу клипы с «подозрительными персонажами». Если вы решили, что эта система — как раз то, чего не хватало подглядывающим за прохожими расистам, чтобы ещё больше проникнуться враждебным недоверием к «цветным», то вы не ошиблись. Девайс Ring де-факто стал неофициальным оружием полиции, применение которого не стеснено каким-либо надоедливым надзором или уставом.

В середине 2019 года серия запросов в государственные архивы показала, что компания «Амазон» заключила конфиденциальные сделки с большим количеством локальных правоохранительных органов (их оказалось свыше четырёхсот). Правоохранители обязались продвигать Ring и Neighbours, чтобы взамен получать доступ к материалам с ринговских видеокамер. Теоретически полицейским необходимо запрашивать эти кадры через «Амазон» (а «Амазон», согласно внутренним документам, выделяет значительные средства на обучение полицейских тому, как делать это убедительно), но на практике в случае отклонения клиентом фирмы Ring полицейского запроса правоохранителям достаточно официально обратиться к компании «Амазон» — и отснятый материал будет в их распоряжении.

Фирма Ring и правоохранительные органы научились сотрудничать друг с другом множеством способов. Ring, заключая секретные сделки, получает доступ в режиме реального времени к диспетчеру службы экстренной помощи, а затем передаёт тревожные сообщения о преступлениях пользователям Neighbours. Эти сообщения убеждают того, кто сомневается, что его район опасен, в необходимости установить видеозвонок.

Чем успешнее копы рекламируют девайс Ring — этот продукт следящего капитализма, — тем больше возможностей для слежки получает государство. Копы, которые полагаются на частные организации при выполнении правоохранительных функций, выступают против любых мер контроля за развёртыванием систем наблюдения, а компании, в свою очередь, борются против общественного надзора за методами полицейской слежки. Чем больше копы используют Ring и Neighbours, тем сложнее принять законы, которые ограничивают эту практику. Чем меньше таких законов, тем больше копы будут полагаться на Ring и Neighbours.

Достоинство и убежище

Но даже если бы мы могли осуществлять демократический контроль над государственными органами и вынудить их прекратить посещение хранилищ, где следящий капитализм содержит поведенческие данные, этот капитализм всё равно приносил бы нам вред.

Данную тему блистательно освещает Зубофф. Её глава об «убежище» — об ощущении уединённости — представляет собой прекрасный гимн самоанализу, спокойной сосредоточенности и умиротворению.

Когда за вами наблюдают, что-то меняется. Это знает каждый, кто воспитывал ребёнка. Вы можете оторвать взгляд от книги (или, что более реалистично, от мобильника) и поймать момент глубокого осмысления и роста в жизни своего ребёнка — момент, когда он учится чему-то, что находится на грани его способностей и требует их предельной концентрации. В этот миг вы поражены, наблюдая за редким и прекрасным моментом сосредоточения, разыгрывающимся перед вашими глазами, а затем ваш ребёнок поднимает взгляд, замечает, что вы его видите, и всё — момент исчезает. Чтобы расти, вам нужно быть самим собой и проявлять своё подлинное «я», и в этот момент вы уязвимы, как краб-отшельник, перебирающийся из одной раковины в другую. Нежные, незащищённые ткани, которые вы обнажаете в этот момент, слишком нежны, чтобы их можно было раскрыть в присутствии другого человека, даже того, кому вы доверяете так же безоговорочно, как ребёнок доверяет матери или отцу.

В эпоху цифровых технологий наша подлинная сущность неразрывно связана с нашей цифровой жизнью. Ваша история поиска — это журнал учёта вопросов, над которыми вы размышляли. Ваша история местопребываний — это запись мест, которые вы искали, и приобретённого там опыта. Ваш социальный граф фиксирует различные аспекты вашей личности, людей, с которыми вы связаны.

Быть наблюдаемым во время этой деятельности — значит потерять убежище своего подлинного «я».

Есть ещё одно средство лишить человека способности быть самим собой: надо заставить его беспокоиться. И следящий капитализм использует это средство. У него, конечно, нет луча контроля над разумом, но, если нужно беспокоить кого-то, вполне можно обходиться и без луча. В конце концов, беспокойство — это то же, что и волнение, а чтобы заставить человека испытывать волнение, нужно просто волновать. Нужно толкать, тыкать, пикать, жужжать и бомбить по прерывистому графику с такой непредсказуемой подачей событий, чтобы наши лимбические системы не смогли приспособиться.

Наши девайсы и сервисы являются «универсальными» в том смысле, что они могут соединять что угодно или кого угодно с чем угодно или с кем угодно и запускать любую программу, которую можно написать. Это означает, что развлекающие нас прямоугольные плитки, которые мы носим с собой в карманах, хранят самые драгоценные моменты нашей жизни с нашими самыми любимыми людьми и их самыми срочными или неотложными сообщениями (от «Задерживаюсь, можешь ли ты забрать ребёнка?» до «Доктор сообщил мне плохие новости, и мне нужно поговорить с тобой ПРЯМО СЕЙЧАС»), а также рекламу холодильников и вербовочные послания нацистов.

Круглые сутки наши карманы жужжат, лишая нас концентрации и разрывая хрупкие сети связи, которые мы плетём, размышляя над трудными вопросами. Когда кого-то запирают в камере и беспокоят подобным образом, это называют «пыткой лишением сна» и, согласно Женевским конвенциям, это — военное преступление.

Заставляя страдать страдающих

Воздействие слежки на способность быть самим собой не одинаково для всех людей. Некоторым из нас посчастливилось жить в таком месте и в такое время, где и когда все наиболее важные факты нашей жизни нисколько не выходили за рамки социально приемлемого и могли быть представлены общественности без опасения вызвать нежелательные социальные последствия.

Однако у многих из нас было по-другому. Вспомним о том, что не так давно многие формы жизни, которые сегодня считаются социально приемлемыми, служили причиной для жестоких социальных санкций или даже тюремного заключения. Если вам 65 лет, вы застали время, когда, живя в «свободном обществе», можно было угодить в тюрьму или подвергнуться санкциям за гомосексуальность, за любовь к человеку с другим цветом кожи или за курение «травки».

Сегодня в большинстве стран мира всё это не просто декриминализовано, а стало нормой, и отменённые запреты рассматриваются как постыдные и достойные сожаления пережитки прошлого.

Каким образом нам удалось перейти от запрещения к нормализации? Благодаря частной, личной деятельности. Люди, которые тайно были геями, или тайно курили марихуану, или тайно любили кого-то с другим цветом кожи, легко могли оказаться жертвами репрессий, заяви они о своей истинной сущности, и имели мало возможностей отстаивать своё право жить в этом мире и быть верными себе. Однако, поскольку существовала личная сфера, эти люди могли заключать союзы со своими друзьями и близкими, не разделявшими их порицаемые обществом черты, и делали это в частных беседах. Они имели возможность в ходе такой беседы раскрыть своё истинное «Я» и могли достигать понимания со стороны собеседников, проводя один личный разговор за другим.

Право выбирать время и манеру этих разговоров было ключом к их успеху. Одно дело — рассказать о себе отцу, когда вы рыбачите вдали от цивилизации, и совсем другое — выпалить это за рождественским обедом, где ваш дядя-расист из ленты «Фейсбука» готов устроить сцену.

Не будь частной сферы, отмеченные перемены могли и не произойти, а людям, выигравшим от этих изменений, пришлось бы либо попасть под социальные санкции, раскрывшись во враждебном мире, либо скрывать свою истинную сущность от родных и близких.

Отсюда следует, что если вы не думаете, будто наше общество достигло социального совершенства и что через 50 лет внуки попросят вас рассказать им о том, как в 2020 году всё несправедливое было исправлено и не осталось ничего такого, что необходимо менять, то знайте, что прямо сейчас, в эту минуту, есть люди, которых вы любите, чьё счастье является ключом к вашему собственному, и у этих людей есть на сердце тайна, которая мешает им, общаясь с вами, проявлять истинное «я». Эти люди страдают и пойдут в могилы с этой тайной печалью в сердцах, а источником этой печали является лживость их общения с вами.

Личное царство необходимо для прогресса человечества.

Любые собираемые и сохраняемые данные в конечном итоге утекут

Отсутствие частной жизни может лишать легко ранимых людей возможности быть самими собой, а также может стеснять наши действия, лишая нас убежища, но есть ещё одна опасность, которой подвержены все, а не только люди с тайной: преступление.

Для контроля над сознанием людей идентифицирующая личности информация применяется весьма ограниченно, но зато она представляет собой благодатную почву для кражи личных данных, то есть для целого ряда ужасных преступных деяний, способных лишить вас денег, поставить под угрозу вашу личную неприкосновенность, испортить вашу репутацию и даже создать опасность для вашей жизни.

К тому же злоумышленники не ограничиваются использованием данных из одного взломанного источника. Множество сервисов пострадало от взломов, в результате которых были раскрыты имена, адреса, номера телефонов, пароли, сексуальные предпочтения, школьные оценки, результаты работы, сведения о привлечении к уголовной ответственности, подробности семейной жизни, генетическая информация, отпечатки пальцев и другие биометрические данные, читательские привычки, истории поиска, любимая литература, псевдонимы и другая конфиденциальная информация. Злоумышленники могут объединять данные, украденные из разных мест, для создания чрезвычайно подробных досье на случайные темы, а затем использовать разные части этой информации для различных преступных целей.

Например, злоумышленники могут использовать похищенные ими личные данные, состоящие из имени пользователя и его пароля, чтобы угонять целые караваны коммерческих транспортных средств, оснащённых противоугонными GPS-трекерами и иммобилайзерами, или чтобы посредством перенастроенных радионянь терроризировать малышей аудиотреками из порнографических фильмов. Злоумышленники используют похищенные данные, чтобы обманом заставить телефонную компанию предоставить им ваш номер телефона, а затем перехватывают коды двухфакторной аутентификации на основе SMS, чтобы захватить вашу электронную почту, банковский счёт и/или кошельки с криптовалютой.

Злоумышленники бесконечно изобретательны в поисках способов превращения утечек данных в оружие против их владельцев. Одним из обычных способов использования утечки данных является проникновение в компании, чтобы получить доступ к ещё большему количеству данных.

Как и шпионы, онлайн-мошенники полностью зависят от компаний, которые чрезмерно собирают и хранят наши данные. Шпионские агентства иногда платят компаниям за доступ к информации или, запугивая, вынуждают их отдавать информацию даром, но иногда они действуют точно так же, как и преступники, — крадут информацию из баз данных.

Чрезмерный сбор данных имеет множество ужасных социальных последствий: от эрозии подлинного «я» до подрыва социального прогресса, от государственной слежки до эпидемии онлайн-преступности. Кроме того, коммерческую слежку любят использовать люди, проводящие кампании влияния, но это меньшая из наших проблем.

Критика исключительности информационных технологий не исключает веры в эту исключительность

Большая ИТ-индустрия, давно исповедуя веру в исключительность информационных технологий, заявляет, что они не должны подчиняться мирским законам и нормам «мясной реальности» (“meatspace”). Эгоистическая риторика ИТ-гигантов, ярко представленная в фейсбуковском девизе «шевелись и ломай» (“move fast and break things”), вызывает справедливое презрение.

Вера в исключительность информационных технологий принесла всем нам массу неприятностей, поэтому нельзя без иронии и печали наблюдать за тем, как критики Большой ИТ-индустрии грешат тем же, что и её защитники.

Большая ИТ-индустрия — это не «мошеннический капитализм», который нельзя вылечить, используя традиционные антитрестовские средства борьбы, принуждающие компании отказываться от поглощённой ими собственности конкурентов, а также запрещающие слияния и прочие действия, ведущие к монополизации рынка. Даже взяв на вооружение машинное обучение, Большая ИТ-индустрия не может влиять на наше поведение так, чтобы рынки теряли способность наказывать плохих игроков и вознаграждать их конкурентов, действующих более успешно. Большая ИТ-индустрия не обладает лучом контроля над разумом, который мог бы вынудить нас отказаться от старого доброго набора антимонопольных инструментов.

Несмотря на то, что уже многие века какие-то люди то и дело заявляют, будто у них есть лучи контроля над разумом, всякий раз оказывается, что это обман, хотя иногда эти аферисты обманывают и самих себя.

На протяжении жизни нескольких поколений рекламная индустрия неуклонно улучшала свою способность продавать предприятиям рекламные услуги, при этом лишь незначительно повышая прибыль своих клиентов. Жалоба Джона Уонамейкера («50% моего рекламного бюджета тратится впустую, вот только мне неясно, какие 50%») — свидетельство триумфа руководителей рекламных компаний, которым удалось убедить Уонамейкера в том, что он напрасно тратит всего лишь половину своих денег.

ИТ-индустрия добилась огромных успехов, убеждая компании в своей способности эффективно рекламировать товары, хотя её фактические достижения в рекламной сфере, в отличие от таргетинга, не впечатляют. Ставшее модным машинное обучение и мистически выглядящие взывания к «искусственному интеллекту», применяющему простые методы статистического вывода, значительно повысили эффективность коммерческого предложения Большой ИТ-индустрии, поскольку предоставили маркетологам возможность, используя техническую неграмотность клиентов, проворачивать головокружительные афёры с фантастическими обещаниями и недопоставками.

С точки зрения здравого смысла, раз компании готовы вкладывать миллиарды в эту рискованную деятельность, она чрезвычайно хороша. Но здравый смысл нередко подводит. Например, фактически невозможно, чтобы управляемые инвестиционные фонды были выгоднее простых индексных фондов, и инвесторы, отдающие свои деньги в руки финансовых менеджеров, в подавляющем большинстве случаев проигрывают по сравнению с теми, кто доверяет свои сбережения индексным фондам. Однако в управляемых фондах всё ещё крутится бóльшая часть денег, инвестируемых в рынки, и этим фондам покровительствует целый ряд самых богатых и опытных инвесторов. Доверие таких людей неприбыльному сектору — это притча о роли удачи в накоплении богатства, а не признак того, что управляемые фонды — хорошее место для вложения капитала.

В заявлениях о применении Большой ИТ-индустрией системы контроля над разумом полно явных указаний на мошеннический характер этой деятельности. Например, заявляется опора на «Большую Пятёрку» личностных качеств как на основное средство воздействия на людей, хотя теория «Большой Пятёрки» не подтверждается никакими крупномасштабными рецензируемыми исследованиями и в основном поддерживается лишь маркетинговыми барыгами и поп-психологами.

В рекламных материалах Большой ИТ-индустрии также утверждается, будто её алгоритмы способны точно выполнять «анализ тональности» или определять настроение людей на основе «микровыражений», но это не научные, а маркетинговые утверждения. Для многих из данных методов независимое тестирование не проводилось, а в тех случаях, когда такое тестирование имело-таки место, оказалось, что протестированные методы крайне неэффективны. Особенно сомнительны методы, использующие микровыражения, поскольку было установлено, что компании, специализирующиеся на обучении людей этим методам, дают знания, эффективность которых ниже той, которая получается при действиях наобум.

Большая ИТ-индустрия настолько хорошо продвигает на рынок якобы имеющиеся у неё сверхспособности, что легко поверить, будто она может с такой же деловой хваткой впаривать и всё остальное, но этому хайпу верить нельзя. Любое заявление компании о качестве её продукции явно не беспристрастно. Наше недоверие ко всему, что «Биг Тех» говорит об обработке данных, соблюдении законов о конфиденциальности и т. д., является вполне разумным — так почему же мы должны воспринимать его маркетинговые тексты как евангельскую истину? Большая ИТ-индустрия лжёт практически обо всём, включая и эффективность её систем убеждения, основанных на машинном обучении.

Такой скептицизм просто необходим при анализе «Биг Теха» и якобы имеющихся у него способностей, в частности при изучении его патентов. Зубофф придаёт этим патентам чрезмерное значение, отмечая, что у «Гугла» есть заявки на патенты с описанием методов убеждения, предоставляющих новые широкие возможности. То, о чём утверждают эти заявки, вдвойне сомнительно: во-первых, потому, что они корыстны, а во-вторых, потому, что сами правила составления патентной заявки, как известно, толкают к преувеличениям.

Формула изобретения излагается в ряде пунктов, причём от пункта к пункту описание должно становиться всё более конкретным. Типичный патент начинается с утверждения об изобретении метода или системы для реализации всего, что может прийти в голову и что каждый может сделать с помощью любого инструмента или устройства. Затем этот пункт последовательно конкретизируется, и в последнем пункте мы находим, наконец, описание фактического «изобретения», то есть того, что патентуется на самом деле. Всегда есть надежда, что патентный эксперт — который почти наверняка перегружен работой и недостаточно компетентен — упустит тот факт, что некоторые или все пункты, предшествующие последнему, содержат смехотворные или, по меньшей мере, подозрительные утверждения, и оставит их в тексте патентной формулы. Патенты на непатентоспособные вещи по-прежнему невероятно полезны, потому что могут быть использованы против конкурентов, которым, чтобы не ввязываться в длительный и дорогостоящий процесс оспаривания, придётся лицензировать этот патент или держаться подальше от того, что в нём утверждается.

Более того, патенты на программы обыкновенно выдаются даже в тех случаях, когда заявитель не представил никаких доказательств в подтверждение своей способности осуществить то, о чём заявил. То есть вы можете запатентовать «изобретение», которое в действительности вы не сделали и не способны сделать.

В свете сказанного становится очевидным, что если какая-то компания из «Большого Теха» запатентовала то, что, по её словам, является эффективным лучом контроля над разумом, то вряд ли это свидетельствует о наличии у этой индустрии реальной способности контролировать наш разум.

Большая ИТ-индустрия собирает наши данные по многим причинам, в частности из-за уменьшения отдачи от существующих хранилищ данных. Но, кроме того, многие ИТ-компании собирают информацию из-за ошибочной веры в сетевой эффект данных, которая порождается верой в исключительность информационных технологий. Сетевые эффекты имеют место в том случае, когда с каждым появлением в системе нового пользователя её ценность возрастает. Классический пример — факсимильные аппараты: один факсимильный аппарат бесполезен, два факсимильных аппарата используются весьма ограниченно, но каждый новый факсимильный аппарат, который вводится в эксплуатацию после первого, удваивает количество возможных связей факс—факс.

Данные, добытые для прогнозирующих систем, не обязательно приносят сетевые дивиденды. Вспомним про компанию Netflix: прогнозирующая ценность данных, полученных от миллиона англоязычных подписчиков этого поставщика фильмов и сериалов, вряд ли улучшится, если добавить данные о просмотрах ещё одного подписчика. Бóльшая часть данных, которые Netflix получает после первой минимально жизнеспособной выборки, дублирует существующие данные и способна приносить лишь минимальную выгоду. Между тем переобучение моделей с использованием новых данных неуклонно дорожает, поскольку точек данных становится всё больше, а такие выполняемые вручную операции, как разметка и валидация данных, с ростом масштаба не дешевеют.

Мелкие и средние ИТ-предприятия в ущерб росту доходов нередко — особенно когда они и их инвесторы мотивированы не на то, чтобы стать прибыльными, а на то, чтобы их приобрёл какой-нибудь ИТ-гигант, или на успешное IPO (первое размещение на рынке собственных акций) — тратят всё своё время на причуды. Для этих фирм может оказаться более рентабельным нацелиться на такую модную ерунду, как сбор максимально возможного количества данных, чем на сбор необходимой для бизнеса информации.

Это ещё один вред, который несёт с собой вера в исключительность информационных технологий: уверенность в том, что, собрав больше данных, непременно получишь больше прибыли в виде большего количества идей, которые можно преобразовать в более эффективные лучи контроля над разумом, заставляет фирмы чрезмерно собирать и хранить данные, пренебрегая любыми доводами рассудка. А поскольку фирмы ведут себя иррационально, многие из них разорятся и превратятся в корабли-призраки, грузовые трюмы которых забиты данными, за которые никто не отвечает, но которые способны причинить людям массу вреда. Даже если компания не разорилась, данные, которые она собирает, сохраняются в режиме обеспечения минимальной безопасности — достаточной лишь для поддержания жизнеспособности этой компании, пока она ждёт, что её купит ИТ-гигант. При этом на защиту данных тратится ни пенни больше, чем минимально необходимо.

Как стремление к монополизму, а не к контролю над разумом, движет следящим капитализмом: история компании Snapchat

В течение первого десятилетия существования «Фейсбук» конкурировал в пространстве социальных сетей с тогдашними гигантами (Myspace, Orkut и т. д.), позиционируя себя как альтернативную сеть, которая обеспечивает конфиденциальность. И, действительно, «Фейсбук» выполнил свои обещания, позволяя пользователям вводить данные из интернета, но блокируя при этом индексацию и кеширование фейсбуковских страниц со стороны таких вебсервисов, как Google Search. Таким путём «Фейсбук» предоставил своим пользователям защиту от компании Myspace и других увлекавшихся слежкой победителей войн в пространстве социальных сетей.

То и дело обещая никогда не собирать и не анализировать данные своих пользователей, «Фейсбук» периодически вводил новшества, которые нарушали эти обещания. Яркий пример — жуткий, неуклюжий инструмент Beacon, шпионивший за вашими онлайн-действиями, а затем помещавший их на вашу публичную страницу. В результате ваши друзья имели возможность мониторить ваши просмотры и выяснять ваши привычки. Beacon вызвал бурю негодования. Всякий раз в такого рода случаях «Фейсбук» отменял свою следящую новинку, но не полностью, что неизбежно делало новый «Фейсбук» более следящим, чем старый, хотя и не таким следящим, как тот, что представал перед пользователями после запуска нового продукта или новой услуги.

Скорость, с которой «Фейсбук» наращивает следящую мощь, по-видимому, определяется конкурентной средой «Фейсбука». Чем больше у «Фейсбука» было конкурентов, тем приличнее было его поведение. Каждый раз, когда падал крупный конкурент, поведение «Фейсбука» заметно ухудшалось.

Всё это время «Фейсбук» усиленно поглощал компании. В их числе оказалась компания Onavo, разработавшая, согласно официальным документам, приложение для мониторинга заряда мобильных телефонов. Однако простор, который требовался для этого приложения, был настолько широким, что оно могло собирать детальную телеметрию обо всех операциях пользователей телефонов, в том числе об использовании ими приложений.

Благодаря Onavo «Фейсбук» обнаружил, что часть его рыночной доли отбирает приложение компании Snapchat, которая, как и «Фейсбук» десятью годами ранее, предложила альтернативу существовавшей защите конфиденциальности. С помощью Onavo «Фейсбук» смог добывать данные пользователей Snapchat, причём даже бывших. Это подтолкнуло «Фейсбук» к приобретению приложения компании «Instagram», некоторые функции которого конкурировали с функциями приложения Snapchat, после чего «Фейсбук» скорректировал функции приложения «Instagram» и его коммерческую подачу с таким расчётом, чтобы потеснить компанию Snapchat и предотвратить те виды конкурентного давления, с помощью которых ранее «Фейсбук» победил Myspace и Orkut.

История о том, как «Фейсбук» сокрушил Snapchat, раскрывает взаимосвязь между монополизмом и следящим капитализмом. Чтобы выявить конкурентную угрозу и затем предпринять против конкурента, каковым оказалась компания Snapchat, решительные меры, «Фейсбук» одновременно воспользовался слежкой и слабым антимонопольным законодательством. Следящий капитализм «Фейсбука» позволил ему, применив антиконкурентные тактические приёмы, предотвратить конкурентное давление. Пользователи «Фейсбука» по-прежнему жаждут конфиденциальности — «Фейсбук» не использовал слежку, чтобы промыть им мозги, — но их жажда остаётся неутолённой из-за того, что слежка позволяет «Фейсбуку» уничтожать всякую надежду на появление конкурента, способного предложить более эффективную защиту прайвэси.

Монополия на ваших друзей

Движение за децентрализацию пыталось подорвать доминирование «Фейсбука» и других ИТ-гигантов с помощью альтернативы, создаваемой набором утилит IndieWeb. Но усилия, направленные на то, чтобы сервис Mastodon подвинул «Твиттер», сервис Diaspora — «Фейсбук» и т. д., не увенчались успехом.

По сути, развитие каждого из этих альтернативных сервисов сдерживает одна и та же проблема: каждый потенциальный пользователь альтернативы «Фейсбуку» или «Твиттеру» должен убедить всех своих друзей выбрать децентрализованную веб-альтернативу, чтобы шире и глубже использовать выгоды, предоставляемые социальными сетями. Для многих из нас единственной причиной иметь фейсбук-аккаунт является то, что он есть и у наших друзей, а причина, по которой фейсбук-аккаунт есть у них, состоит в том, что он есть у нас.

Всё это вылилось в то, что «Фейсбук» и другие доминирующие платформы превратились в «зоны поражения», вторжение в которые новых субъектов ни одному инвестору финансировать не выгодно.

И тем не менее, все сегодняшние ИТ-гиганты возникли, сломив сопротивление окопавшихся и доминировавших компаний-предшественников. Чтобы понять, как это произошло, нужно разобраться в таких вещах как совместимость и состязательная совместимость.

Совместимость — это способность двух технологий работать друг с другом: кто угодно может записать диск, который будет воспроизводиться на любом проигрывателе, сделать фильтр, который вы сможете установить в вытяжку вашей печи, произвести бензин для вашего автомобиля или изготовить подходящее к гнезду его прикуривателя зарядное USB-устройство для вашего телефона, произвести лампочку, которая будет работать, если вы подключите её к вашей электросети, испечь хлеб, который будет поджариваться в вашем тостере.

Совместимость часто является источником инноваций и новых удобств для потребителей: первый коммерчески успешный ПК создала компания Apple, но совместимые программы, работающие на Apple II Plus, создали миллионы независимых поставщиков программного обеспечения. Благодаря простому аналоговому антенному входу на задней панели телевизоров напрямую подключаться к ним смогли сначала операторы кабельного телевидения, а позже — производители игровых консолей и компьютеров, использовавшие стандартные телевизоры в качестве дисплеев. Стандартные телефонные разъёмы RJ-11 позволяли различным производителям создавать телефоны разных видов и форм, — от бесплатного телефона в форме футбольного мяча, который поставлялся с подпиской на Sports Illustrated, до бизнес-телефонов с динамиками, функциями удержания и т. д., затем автоответчиками и, наконец, модемами, проложившими путь интернет-революции.

Часто в одном и том же смысле используют выражения «совместимость» и «стандартизация». Стандартизация — это процесс выработки производителями и другими заинтересованными сторонами набора согласованных правил для реализации какой-то технологии — например, для использования электророзетки в вашем доме, CAN-шины вашего автомобиля или инструкций HTML, которые интерпретирует ваш браузер.

Но совместимость не требует стандартизации. На деле, стандартизация нередко возникает из хаотических усилий, направленных на создание совместимости и предпринимаемых ad hoc. Изобретатели зарядного USB-устройства, подключаемого к прикуривателю, не спрашивали разрешения у производителей автомобилей и даже производителей автомобильного прикуривателя приборной панели. Что касается автопроизводителей, то они, не препятствуя использованию этих зарядников покупателями их автомобилей, не ударили палец о палец, чтобы облегчить жизнь производителям зарядных устройств. Это своего рода «нейтральное создание совместимости».

Помимо нейтрального, существует и «состязательное создание совместимости». Оно имеет место в том случае, когда производитель создаёт продукт, совместимый с продуктом другого производителя, несмотря на возражения последнего и порой даже в обход системы безопасности, призванной предотвратить совместимость.

Возможно, наиболее знакомый для многих пример состязательного создания совместимости — изготовление чернил для принтеров производителями принтеров и сторонними производителями. Производители принтеров заявляют, что они продают принтеры по ценам ниже себестоимости и что единственный способ возместить возникающие при этом убытки — делать высокую наценку на чернила. Чтобы владельцы принтеров не покупали чернила на стороне, компании-производители принтеров применяют сложную систему защиты, которая распознаёт повторно заправленные и изготовленные сторонними производителями картриджи и не позволяет их использовать.

Владельцы принтеров считают, что HP, Epson и Brother не являются благотворительными организациями и что покупатели их товаров не обязаны помогать им выживать. Раз так, то, решив продавать свои продукты себе в убыток, это компании сделали глупый выбор и должны преодолевать возникшие в связи с этим проблемы самостоятельно. Сходным образом рассуждают и конкуренты, которые производят чернила или повторно заполняют чужие картриджи, подчёркивая, что они ничего не должны производителям принтеров, и если у тех из-за них падает прибыль, то это проблема производителей принтеров, а не их конкурентов. В конце концов, производители принтеров не плачут, когда вытесняют из бизнеса заправщиков картриджей, так почему же заправщики картриджей должны беспокоиться об экономическом благополучии производителей принтеров?

Состязательное создание совместимости сыграло огромную роль в истории ИТ-индустрии: от основания иерархии «alt.*» «Юзнета» (Usenet) (которая появилась вопреки планам администрации этой сети и по объёму данных превзошла все остальные иерархии «Юзнета» вместе взятые) и войн браузеров (потребовавших от инженеров компаний Netscape и Microsoft приложить массу усилий для того, чтобы их браузеры стали несовместимыми с чужими специальными командами и мелкими отступлениями от стандартов) до взлёта «Фейсбука» (отчасти обеспеченного тем, что тот помогал своим новым пользователям поддерживать связь с друзьями, оставшимися в Myspace, предоставив им эффективный инструмент чтения в «Фейсбуке» текстов Myspace — программу, которая извлекала из сети Myspace ожидавшие ответа сообщения и импортировала их в «Фейсбук»).

Сегодня длительное пребывание в статусе лидера рассматривается как неоспоримое преимущество. «Фейсбук» — это то место, где находятся все ваши друзья, поэтому никто не может создать сервис, конкурирующий с «Фейсбуком». Но состязательное создание совместимости сводит на нет данное конкурентное преимущество: если вам разрешат конкурировать с «Фейсбуком», предоставив программу, которая импортирует все сообщения ваших пользователей, ожидающие ответа в этом сервисе, в среду с конкурентными для «Фейсбука» векторами развития (например, устраняющими слежку и рекламу), и «Фейсбук» не сможет ничего противопоставить, то он окажется в невыгодном положении. В результате все фейсбуковские пользователи, желающие существенных перемен к лучшему, собравшись в сервисе, подобном «Фейсбуку», и узнав, что его правила гораздо лучше фейсбуковских, сообщили бы своим друзьям, в каком сервисе отношение к пользователям наилучшее.

Когда-то состязательное взаимодействие было нормой и ключевым фактором развития динамичной, брызжущей энергией ИТ-сцены, но теперь оно увязло в зарослях законов и правил, добавивших к проверенной жизнью тактике состязательного создания совместимости юридические риски. Новые правила и новая интерпретация старых правил гласят, что, если хочешь состязательного взаимодействия, держись подальше от претензий, связанных с авторским правом, условиями обслуживания, коммерческой тайной, вредоносным вмешательством и патентами.

В отсутствие конкурентного рынка законодатели решили возложить на компании Большой ИТ-индустрии дорогостоящие обязанности государственного масштаба, например — автоматическую фильтрацию пользовательских материалов на предмет нарушения авторских прав, наличия террористического и экстремистского контента, обнаружение и предотвращение в режиме реального времени беспокоящих и оскорбляющих преследований, а также контроль за доступом к порнографии.

Эти законодательные новшества препятствуют уменьшению Большой ИТ-индустрии, потому что только ИТ-гиганты могут позволить себе осуществлять ручную и автоматизированную фильтрацию, необходимую для выполнения введённых законодателями обязанностей.

Законодательные новшества подрывают конкуренцию ещё и тем, что ИТ-платформа, от которой требуют контролировать поведение её пользователей, должна пресекать использование многих жизненно важных методов состязательного создания совместимости, мешающих её полицейским действиям. Например, если кто-то, использующий вместо «Твиттера» Mastodon или что-то подобное, способен отправлять сообщения в «Твиттер» и читать сообщения из «Твиттера», он может оказаться вне зоны действия автоматических систем, которые обнаруживают и предотвращают преследование (например, систем, мешающих преследователям с помощью, правил, ограничивающих возможность отправки сообщений по времени или по IP).

Чем больше мы разрешаем Большой ИТ-индустрии контролировать себя (вместо такого её уменьшения, которое позволяет пользователям менять плохие ИТ-платформы на хорошие, а регуляторным органам — банкротить любую платформу, не лишая миллиарды пользователей доступа к их сообществам и данным), тем больше у ИТ-гигантов оснований требовать, чтобы им предоставили возможность блокировать конкурентов и чтобы в их распоряжении были юридические инструменты, запрещающие состязательное взаимодействие и позволяющие наказывать тех, кто пытается его осуществлять.

Всё сводится к тому, что мы можем предпринимать попытки исправить либо «Биг Тех», возложив на него ответственность за нежелательные действия пользователей, либо интернет, уменьшив «Биг Тех». Но мы не можем делать и то, и другое вместе. Для замены сегодняшних гигантских ИТ-продуктов продуктами на основе плюралистических протоколов нам необходимо расчистить мешающие состязательному созданию совместимости юридические дебри, чтобы ловкие, подвижные, компактные продукты завтрашнего дня могли жить в одной федерации с такими гигантами, как «Фейсбук», позволяя ушедшим от этих гигантов пользователям продолжать общаться с пользователями, которые ещё не ушли, протягивая усики побегов свободной связи через стены гигантов к запертым за ними пользователям, чтобы они могли взбираться на стены и убегать в глобальную, открытую сеть.

Фейковые новости — это эпистемологический кризис

Информационные технологии — не единственная отрасль экономики, которая, начиная со времён Рейгана, подверглась крупномасштабной концентрации. Практически все основные отрасли — от добычи нефти, издания газет, упаковки мяса и морских перевозок до изготовления очков и онлайн-порнографии — превратились в олигархические тусовки, где доминируют всего несколько игроков.

В то же время все отрасли экономики стали чем-то вроде ИТ-отраслей, поскольку компьютеры общего назначения, сети общего назначения и обещания роста эффективности за счёт анализа данных наполняют духом информационных технологий все устройства, процессы и фирмы.

Феномен промышленной концентрации является частью более широкой истории о концентрации богатства в целом, поскольку всё меньшее и меньшее количество людей владеет всё большей и большей долей нашего мира. Эта концентрация как богатства, так и промышленности означает, что результаты наших политических действий всё больше зависят от узких интересов людей и компаний, владеющих большими деньгами.

Это значит, что всякий раз, когда регулирующий орган задает вопрос, ответ на который очевиден, ибо его даёт повседневная жизнь («Вызывают ли люди изменение климата?», «Должны ли мы позволять компаниям заниматься массовой коммерческой слежкой?» или «Выгодно ли обществу допускать нарушения сетевого нейтралитета?»), этот напрашивающийся ответ будет принят как правильный лишь тогда, когда его правильность будет одобрена толстосумами и отраслями экономики, сделавшими их невероятно богатыми.

В политике богатые люди всегда играли чрезмерно большую роль, а после того, как решение Верховного суда по иску консервативной организации Citizens United отменило жёсткий контроль за денежными средствами, которые жертвуются в пользу политических деятелей и партий, ситуация усугубилась. Рост неравенства и концентрации богатств означает, что самые богатые люди теперь намного богаче и могут позволить себе тратить на политические проекты гораздо больше денег, чем когда-либо прежде. Вспомним, к примеру, про братьев Кох (Koch), Джорджа Сороса (George Soros) и Билла Гейтса (Bill Gates).

Однако перекосы в политике, вызываемые деятельностью толстосумов, меркнут на фоне перекосов, создаваемых отраслями экономики с высокой концентрацией производства. Компании в этих отраслях гораздо прибыльнее, чем компании в тех отраслях, где царит высокая конкуренция. Отсутствие конкуренции означает, что нет необходимости привлекать клиентов, снижая цены или повышая качество продукции, и в результате большую долю доходов можно потратить на лоббирование своих интересов.

Кроме того, в отраслях с высокой концентрацией производства легче, чем в отраслях с высокой конкуренцией, наладить связи для достижения политических целей. Когда все топ-менеджеры вашей отрасли могут собираться для деловых переговоров за одним столом, они нередко именно так и поступают. И когда они делают это, они могут прийти к консенсусу по вопросам регулирования.

Чтобы продвинуться по служебной лестнице в отрасли с высокой концентрацией производства, нужно, как правило, поработать в двух или трёх крупных компаниях. Когда в данной отрасли сравнительно мало компаний, руководство каждой из них становится окостеневшим, оставляя амбициозным руководителям меньше возможностей для достижения более высоких должностей, если их не нанимает компания-соперник. Это объясняет, почему в отраслях с высокой концентрацией производства топ-менеджеры разных компаний, как правило, рано или поздно становятся коллегами и вращаются в одних и тех же кругах, т. е. связаны социальными узами и даже помогают друг другу в вопросах менеджмента. Столь тесные социальные связи способствуют развитию не соревновательных, а коллегиальных отношений.

Вдобавок регулирование любой отрасли с высокой концентрацией производства — это сущая головоломка. Когда в отрасли доминируют всего четыре или пять компаний, адекватное представление о том, что в ней происходит, способны иметь, по-видимому, только её ветераны из числа управленцев. Поэтому органами, регулирующими деятельность компаний в такой отрасли, нередко руководят бывшие менеджеры этих компаний. Их переход из бизнеса в сферу регулирования часто неофициально рассматривается как отпуск из отрасли, и, когда истекает срок их полномочий в регуляторном органе, бывшие работодатели рады принять своих бывших сторожевых псов обратно в свои руководящие ряды.

Всё это означает, что в отрасли с высокой концентрацией производства тесные социальные связи, небольшое количество фирм и прирученные регуляторные органы предоставляют компаниям возможность диктовать многие, если не все, правила, призванные ограничивать их деятельность.

Это становится всё более очевидным. Фирмы, кредитующие до зарплаты, завоевали право заниматься хищническим кредитованием, владельцы компании Apple — решать, кто может ремонтировать ваш телефон, а компаний «Гугл» и «Фейсбук» — взламывать, не опасаясь последствий, ваши личные данные. Вспомним, вдобавок, победы в суде трубопроводных компаний, безнаказанность производителей опиоидов, огромные налоговые субсидии для невероятно прибыльных предприятий-монополистов. Эти и другие факты делают всё более очевидным, что многие из наших официальных, использующих доказательства судебных процессов, по сути, являются аукционами, где победители — те, кто предлагает самую высокую цену.

Невозможно переоценить, насколько страшной является возникшая перспектива. Мы живём в невероятно высокотехнологичном обществе, и никто из нас не может приобрести такой опыт, который позволяет во всех случаях научно определить, какая из предлагаемых нам технологий несёт для нас угрозу безвременной ужасной смерти. Мы можем всю жизнь совершенствовать свою медийную грамотность, чтобы отличать подлинно научные журналы от коррумпированных, статистическую грамотность, чтобы оценивать качество журнальной аналитики, а также познания в области микробиологии и эпидемиологии, чтобы определять, можно ли доверять заявлениям о безопасности вакцин, — и всё же остаться некомпетентными в суждениях о том, способна ли домашняя проводка вызвать смертельный шок и возможен ли неожиданный отказ тормозов автомобиля из-за сбоя в работе программного обеспечения и гарантируют ли гигиенические стандарты, установленные для мясного магазина, что нам не грозит смерть после того, как мы плотно поужинали.

В таком сложном мире, как этот, мы должны подчиняться властям, и, чтобы они не лукавили, мы заставляем их отчитываться перед нами и ограничиваем их деятельность правилами, предотвращающими конфликты интересов. Мы не можем обрести опыт, позволяющий безошибочно делать выбор из двух противоречащих друг другу утверждений о наилучшем способе сделать мир безопасным и процветающим, но мы можем определить, заслуживает ли доверия сам процесс вынесения решения.

В настоящее время явно не заслуживает.

Последние сорок лет постоянно растут неравенство и концентрация производства, слабеет контроль над экспертными агентствами, и их деятельность теряет прозрачность. Это вызывает всё более гнетущее ощущение надвигающейся гибели, ощущение того, что существуют крупномасштабные заговоры, которые плетутся с молчаливого согласия властей, несмотря на то, что, по всей видимости, цель заговорщиков — улучшать свою жизнь, ухудшая жизнь всех остальных.

Например, прошли десятилетия с тех пор, как учёные самой компании Exxon пришли к выводу, что её продукты делают Землю непригодной для проживания людей. Однако в течение всех этих десятилетий для исправления ситуации абсолютно ничего не делалось, и, главным образом, потому, что Exxon лоббировала свои интересы в правительстве и сеяла сомнения по поводу опасности своей продукции, причём делала это с помощью целого ряда влиятельных чиновников. Когда вашей жизни и жизни всех, кого вы любите, угрожают заговоры, вполне разумно усомниться в своих знаниях и попытаться выяснить, нет ли и в них какой-то гадости, которую вложили в вашу голову злодеи-заговорщики.

Коллапс доверия к нашим системам отыскания и отстаивания истины погрузил нас в состояние эпистемологического хаоса. Когда-то большинство из нас исходило из того, что эти системы работают и что в наших правилах представлено наилучшее понимание всех объективных истин именно в том виде, в каком их следует понимать, — теперь же нам приходится самостоятельно искать надёжных экспертов, которые могут помочь нам разобраться, где истина, а где ложь.

Если вы похожи на меня, вы, наверное, считаете, что вакцины безопасны, но при этом вы (как и я), наверное, не сильны в вопросах микробиологии или статистики. У немногих из нас есть математические знания и навыки, необходимые для анализа литературы по безопасности вакцин и определения степени истинности приведённых там статистических выводов. Точно так же немногие из нас способны подвергнуть анализу статистические данные, содержащиеся в (ныне дискредитированной) литературе по безопасности опиоидов, и объяснить, как этими статистическими данными манипулировали. Помимо всего прочего, было время, когда использование и вакцин, и опиоидов одинаково поддерживалось официальной медициной, но после оказалось, что первые безопасны, а вторые могут разрушить всю вашу жизнь. В вашем распоряжении остаётся нечто вроде нечёткого созвездия эмпирически выработанных правил о том, каким экспертам можно доверить научный анализ противоречивых утверждений и последующее объяснение результатов этого анализа — в частности, у каких специалистов можно выяснить, почему всех тех респектабельных врачей, которые на основе рецензированных исследований писали о безопасности опиоидов, следует считать отклонившимися от истины, а врачей, пишущих о безопасности вакцин, не следует.

Я на все сто уверен, что вакцинация безопасна и эффективна, но при этом я не могу чётко, точно объяснить, почему я верю в это на фоне многочисленных случаев коррупции, о которых мне известно, и столь же многочисленных случаев превращения несомненной, как мнилось, истины в конъюнктурную ложь, высказанную для дальнейшего обогащения супербогачей.

Фейковые новости — теории заговора, расистские идеологии, отрицание науки — всегда были с нами. Нынешний сдвиг в общественном дискурсе изменил не набор применяемых идей, а степень популярности худших идей из этого набора. Общественный вес конспирологии и отрицания науки резко вырос вместе с ростом Большого Неравенства, который, в свою очередь, связан с ростом Большой ИТ-индустрии, Большой Фармацевтики, Большого Реслинга, Большого Автомобилестроения, Большого Кинематографа и прочего Большого.

Никто не может сказать наверняка, почему это произошло, но при попытках дать объяснение сформировалось два доминирующих лагеря — это лагерь идеалистов (считающих, что приверженцы худших идей научились лучше их обосновывать — возможно, с помощью инструментов машинного обучения) и лагерь материалистов (считающих, что эти идеи стали более привлекательными в силу определённых материальных обстоятельств).

Я материалист. Вот уже много лет меня постоянно стремятся привлечь на свою сторону сторонники теорий заговора, и я не заметил, что качество их аргументов с годами существенно выросло.

Существенный сдвиг произошёл не в качестве аргументов, а в мире. Теории заговоров начинают звучать правдоподобно тогда, когда действительные заговоры становятся обыденностью.

В нашем обществе всегда были разногласия по поводу того, что является истиной, но сегодня мы спорим о том, как выявлять истинность чего бы то ни было. Это эпистемологический кризис, а не кризис веры. Это кризис доверия к нашим способам нахождения истины: от использования научных публикаций (в эпоху, когда крупнейших издателей научной литературы уличили в издании платных журналов с псевдонаучным контентом) и проверки соответствия нормативным требованиям (в эпоху, когда между регуляторными органами и бизнесом, который они регулируют, постоянно идёт обмен руководящими кадрами) до получения образования (в эпоху, когда существование университетов зависит от корпоративных пожертвований).

Характерное для следящего капитализма таргетирование облегчает поиск людей, переживающих этот эпистемологический кризис, но не является его причиной. Чтобы выявить причину, нужно обратить внимание на коррупцию.

И сразу поиск причины становится удобным и лёгким: именно коррупция позволила следящему капитализму развиваться за счёт демонтажа защиты от монополизма, безрассудного сбора и хранения личных данных, тайного рекламного таргетинга и исключения возможности переходить из одного сервиса в другой — тот, в котором вы могли бы продолжать наслаждаться общением с друзьями, не подвергая себя коммерческой слежке.

ИТ — это другое

Я отвергаю оба варианта веры в исключительность информационных технологий. Я отвергаю идею о том, что информационные технологии однозначно ужасны и их внедряют люди, которые жаднее или зловреднее, чем представители других отраслей экономики, но также я отвергаю идею о том, что эти технологии настолько хороши — или настолько внутренне склонны к концентрации, — что их нельзя винить за их нынешний монополистический статус.

Я думаю, что информационные технологии — это просто ещё одна отрасль, а непохожей на другие её делает то, что она росла в отсутствие реальных антимонопольных ограничений. По всей видимости, она — первая в своём роде, но не худшая и не последняя.

Однако у этой темы есть один аспект, при рассмотрении которого я всё-таки выступаю с позиций веры в исключительность информационных технологий. Я считаю, что онлайн-инструменты являются ключом к преодолению проблем, которые гораздо более актуальны, чем монополизация в ИТ-сфере. Я имею в виду изменение климата, неравенство, дискриминацию на расовой и гендерной основе, женоненавистничество и другие тревожные факторы. Как поднимать людей на борьбу со всем этим и как координировать их работу? Здесь не обойтись без интернета. Информационные технологии не заменяют демократическую подотчётность, верховенство закона, справедливость и стабильность, но они предоставляют средства для достижения этих целей.

Одной из самых тяжёлых проблем человечества является координация. Всё — от изменения климата и социальных сдвигов до предпринимательской деятельности и домашнего труда — можно рассматривать как проблему коллективных действий.

Благодаря интернету стало легче, чем когда бы то ни было, находить людей, желающих работать вместе с вами над каким-то проектом, — отсюда успех бесплатного программного обеспечения с открытым исходным кодом, краудфандинга и расистских террористических групп, — и координировать совместную работу.

Ещё одно уникальное качество интернета и подключённых к нему компьютеров — универсальность. Интернет предназначен для того, чтобы любые две стороны могли обмениваться любыми данными, используя любой протокол и не спрашивая разрешения кого-либо ещё. Единственный серийно производимый тип компьютеров — это универсальный компьютер с «полной по Тьюрингу» функциональностью, способный использовать любую программу, которую можно записать на языке символической логики.

Это значит, что всякий раз, когда кто-то, имеющий особые коммуникации, делает интернет быстрее, дешевле и надёжнее, финансируя развитие инфраструктуры и технологий, достигнутое улучшение оказывается полезным для всех, кто общается в интернете. И, кроме того, это значит, что всякий раз, когда кто-то с особыми вычислительными потребностями вкладывает средства в то, чтобы сделать компьютеры более быстрыми, дешёвыми и надёжными, любая компьютерная программа становится потенциальным бенефициаром этой деятельности.

По указанным причинам все виды связи постепенно впитываются интернетом, и любой тип устройства — от самолётов до кардиостимуляторов — в конечном итоге становится компьютером в модном футляре.

Хотя эти соображения о том, как наилучшим образом использовать информационные технологии, не препятствуют регулированию сетей и компьютеров, они всё же требуют делать это взвешенно и осторожно, поскольку изменения в нормативно-правовой базе могут иметь непредвиденные последствия во многих, многих других областях.
Вывод такой: чтобы справиться с большими проблемами координации — с изменением климата, неравенством и т. д., — необходима свободная, честная и открытая ИТ-индустрия. А чтобы она оставалась свободной, честной и открытой, необходимо проявлять осторожность в её регулировании и внимательно следить за тем, чтобы меры, предпринятые для решения одной проблемы, не создавали проблемы в других областях.

Право собственности на факты

У Большой ИТ-индустрии забавное отношение к информации. Когда вы генерируете информацию — от потоковой передачи с мобильного устройства данных о местоположении до личных сообщений, которые вы отправляете друзьям в социальной сети, — Большая ИТ-индустрия заявляет о своих правах на неограниченное использование этих данных.

Но стоит вам, набравшись смелости, попробовать поменяться с ней ролями (например, применить инструмент, который блокирует рекламу или забирает ожидающие вас сообщения и посты из социальной сети и показывает их в стороннем приложении, где вы можете устанавливать собственные приоритеты и ограничения, или тщательно сканирует систему, принадлежащую компании «Биг Теха», чтобы позволить вам начать бизнес, конкурирующий с ней) — и представители этой индустрии не замедлят заявить, что вы у них воруете.

Дело в том, что информация очень плохо вписывается в любой режим частной собственности. Права собственности полезны для создания рынков, способствующих эффективному освоению залежей природных ископаемых. Такие рынки требуют ясной и точной номенклатуры товаров, чтобы не было сомнений, что вещи, которые на них продаются и покупаются, действительно могут быть куплены и проданы.

Информация как товар редко имеет ясное и точное название. Возьмём, к примеру, номера телефонов: тут что-то явно нечисто — когда «Фейсбук» сканирует записные книжки миллионов пользователей и использует найденные в них номера телефонов для построения социальных графов и устранения пробелов в его сведениях о других пользователях.

Однако телефонные номера, которые, не спрашивая разрешения, приобретает, осуществляя данную транзакцию, «Фейсбук», не являются «собственностью» пользователей, у которых их списывают. Не принадлежат они и тем, кому звонят по этим номерам. Это — просто целые числа, 10 цифр в США и Канаде, и они встречаются в миллионах мест, в том числе и где-нибудь в бесконечном «хвосте» числа «пи», а также во многих других контекстах. Очевидно, что идея давать людям права собственности на целые числа ужасна.

Сходная ситуация с фактами, которые «Фейсбук» и другие мастера коммерческой слежки получают о нас, — например, что мы дети наших родителей или родители наших детей, или что мы разговаривали с кем-то ещё, или посетили какое-то общественное место. Эти данные не могут быть вашей собственностью в том же смысле, в каком ваш дом и ваша рубашка, потому что право собственности на них, по сути своей, весьма мутное. Владеет ли ваша мама тем фактом, что она ваша мать? А вы владеете этим фактом? А вместе? А как насчёт вашего отца — он тоже владеет этим фактом? Или, может, он, чтобы его использовать, должен получить у вас (или у вашей мамы, или у вас обоих) лицензию? А как насчёт сотен или тысяч других людей, которым известен этот факт?

Если вы пойдёте на демонстрацию «Black Lives Matter», требуется ли другим, находившимся рядом демонстрантам ваше разрешение на публикацию фотографий с данного мероприятия? Онлайн-споры о том, когда и как публиковать фотографии с демонстраций, обнажают деликатную и сложную проблему, которую нельзя разрешить, просто-напросто предоставив одной из сторон право собственности, которое должны уважать все остальные.

Тот факт, что рамки собственности и рыночной деятельности тесноваты для информации, не означает, что она не имеет ценности. Дети не являются чей-то собственностью, но они бесспорно ценны. Существует целый свод правил, касающихся детей, и в нём можно выделить подмножество правил, применимых к людям вообще. Тот, кто утверждает, что дети не будут по-настоящему ценными, пока их нельзя будет покупать и продавать как буханки хлеба, будет немедленно и справедливо осуждён как чудовище.

Когда Большая ИТ-индустрия обращается с нашей информацией как с гвоздём, так и подмывает тоже взять в руки молоток собственности — не в последнюю очередь потому, что ИТ-гиганты сплошь и рядом злоупотребляют этим молотком, когда дело касается их информации. Но это было бы ошибкой. Позволив рынкам диктовать правила использования нашей информации, мы обнаружим, что оказались продавцами на рынке, где правят покупатели, и это — ИТ-гиганты. Цена за наши данные, которую они установят, будет смешной или, что более вероятно, нулевой, причём не подлежащей обсуждению и с покупкой в один клик, а нам останется лишь принять эти условия.

Попутно установление прав собственности на информацию создаст непреодолимые препятствия для независимой обработки данных. Представьте, что нам надо согласовать лицензию, сравнив переведённый документ с оригиналом, то есть сделать то, что «Гугл» делал и продолжает делать миллиарды для обучения своих инструментов автоматического перевода с одного языка на другой. «Гугл» может позволить себе такое, а независимые третьи стороны — нет. «Гугл» может в любой момент укомплектовать отдел юридической очистки, занимающийся согласованием единовременных платежей, подобный аналогичному подразделению ЕС (одно из основных хранилищ переведённых документов), тогда как независимые контролёры, если им нужно проверить, хорошо ли подготовлены переводы и не являются ли они тенденциозными, должны создать юридический отдел и потратить миллионы на приобретение лицензий, прежде чем смогут всего лишь приступить к работе.

То же самое и с такими вещами, как поисковые индексы интернета или фотографии жилых домов, ставшие предметом споров благодаря гугловскому проекту Street View. Какие бы проблемы ни возникали при фотографировании «Гуглом» уличных сцен, попытки преодолеть их, предоставляя людям право самим решать, кто может фотографировать фасады их домов, а кто нет, несомненно, приведут к ещё худшим проблемам. Подумайте о том, насколько важна уличная фотография для сбора новостей — включая неформальный сбор новостей, например, фотографирование злоупотреблений властью, — и о том, как важна возможность документировать жильё и уличную жизнь для оспаривания принудительного отчуждения собственности, для борьбы за предоставление социальной помощи, для сообщений о нарушениях планирования и зонирования, для документирования дискриминационных и неравных условий жизни и т. д.

Владение фактами противодействует многим видам прогресса. Трудно представить себе правило, которое ограничивает эксплуатацию ИТ-гигантами наших коллективных усилий и при этом по недосмотру запрещает гражданам собирать данные об онлайн-домогательствах, составлять индексы языковых изменений или просто исследовать, как ИТ-платформы формируют наш дискурс, — всё это требует сбора данных, созданных другими людьми, и осуществления проверки и анализа этой информации.

Убеждение работает… медленно

ИТ-платформы могут переоценивать свою способность убеждать людей, но очевидно, что убеждение иногда работает. Будь то частная сфера, которую ЛГБТК-сообщество использовало для вербовки союзников и нормализации сексуального разнообразия, или многолетний проект, разработанный с целью убедить людей в том, что рынок является единственным эффективным способом решения сложных проблем распределения ресурсов, — в любом случае ясно, что общественное мнение может меняться.

Проект изменения социальных установок — это игра, требующая многолетних усилий для осуществления сантиметровых сдвигов. Веками властолюбивые манипуляторы предпринимали попытки ускорить этот процесс, но даже при помощи самых брутальных форм пропаганды с огромным трудом удавалось добиться движения в нужном направлении. Йозеф Геббельс имел возможность воздействовать на немцев посредством ежедневной, обязательной для прослушивания, многочасовой радиопропаганды, вылавливать, пытать и убивать диссидентов, а также полностью контролировать сферу детского образования, запрещая при этом любые книги, радиопередачи и фильмы, которые не соответствовали его мировоззрению.

Тем не менее, после двенадцати лет террора, когда закончилась вторая мировая война, нацистская идеология была в значительной степени дискредитирована как в Восточной, так и в Западной Германии, и её место заняла национальная программа примирения и возрождения истины. Послевоенная Германия никогда не была страной, совершенно свободной от проявлений расизма и авторитаризма, но немцы, если брать большинство этого народа, никогда не были и ярыми нацистами. Рост расистского авторитаризма в нынешней Германии говорит о том, что либеральные взгляды, воцарившиеся после войны, оказались столь же непрочными, как и нацистские.

У нас расизм и авторитаризм тоже никогда полностью не исчезали. Вряд ли кто-то из тех, кто анализировал заявления и аргументы нынешних расистов, будет утверждать, что расистские идеи обрели какую-то новую, более привлекательную форму. Сегодня лидеры белого национализма используют ту же псевдонауку, ту же порочную логику и те же страшилки, какие были в ходу у расистов 80-х годов прошлого века, когда влияние в обществе белого супремаcизма пошло на убыль.

Если за прошедшее десятилетие расистская пропаганда не стала более убедительной, то как же так получилось, что в эти годы открыто причислять себя к расистам стал больший процент населения? С моей точки зрения, ответ кроется в материальном мире, а не в мире идей. Идеи не стали убедительнее, но люди стали больше бояться. Они боятся, что государство уже нельзя рассматривать как честного брокера, когда оно принимает жизненно важные решения — начиная с тех, что относятся к управлению экономикой, и кончая теми, которые касаются оборота обезболивающих лекарств и правил обращения с частной информацией. Боятся, что мир превратился в игру «займи свободный стул», в которой стулья убирают с невиданной ранее скоростью. Боятся, что за их счёт растёт справедливость для других. Монополизм не является причиной этих страхов, но, способствуя политическим злоупотреблениям, росту неравенства и доводящей до отчаяния бедности, он вносит существенный вклад в создание в обществе тревожной атмосферы. Неравенство создаёт условия как для заговоров, так и для агрессивных расистских идеологий, а затем следящий капитализм предоставляет любителям ловить рыбку в мутной воде возможность таргетировать дрожащих от страха и верящих во всемогущество заговорщиков людей.

Плата не поможет

Как гласит старая поговорка, если вы не платите за товар, вы товар.

Сегодня широкое хождение имеет точка зрения, согласно которой первородный грех следящего капитализма — пришествие бесплатных СМИ, поддерживаемых рекламой. В обоснование этой точки зрения ссылаются на то, что компании, взимавшие плату за доступ, не могли «конкурировать с бесплатными», и поэтому оказались вытесненными из бизнеса. Тем временем их конкуренты, поддерживаемые рекламой, объявили сезон слива данных своих пользователей, стремясь улучшить рекламный таргетинг и заработать на этом побольше денег, а затем прибегли к использованию самых убойных тактических приёмов для увеличения количества кликов на этой рекламе. Получается, что стоит только снова воцариться платным СМИ — и медийный дискурс улучшится, станет более ответственным и трезвым, что было бы лучше для демократии.

Но деградация новостных продуктов произошла значительно раньше пришествия онлайн-новостей, поддерживаемых рекламой. Задолго до того, как появились сетевые газеты, слабое соблюдение антимонопольного законодательства открыло шлюзы для беспрецедентной волны слияний и сокращений персонала в новостных СМИ. Газеты-конкуренты объединялись, сотрудники, занимавшиеся продажей рекламы, и репортёры массово теряли работу, материально-техническая база распродавалась и сдавалась в аренду, в результате чего компании залезали в долги из-за финансируемых выкупов и последующей погони новых владельцев за прибылью. Другими словами, новостные компании не смогли адаптироваться к интернету не только из-за сдвигов на рынке рубричной рекламы, которые долгое время считались основной причиной упадка традиционных новостных СМИ, — дело в монополизме.

Затем, когда новостные компании добрались-таки до интернета, их доходы от рекламы упали, несмотря даже на растущее количество интернет-пользователей (и, следовательно, потенциальных онлайн-читателей). Этот сдвиг был результатом слияний на рынке продаж рекламы. «Гугл» и «Фейсбук» превратились в дуополистов, которые с каждым годом зарабатывали на рекламе всё больше и больше, платя при этом всё меньше и меньше публикаторам, предоставлявшим место для рекламы. Монополизм создал рынок покупателя для рекламного инвентаря, а «Фейсбук» и «Гугл» выступили в качестве компаний, контролирующих доступ к этому рынку.

Платные сервисы продолжают существовать наряду с бесплатными, и часто именно платные сервисы, стремясь помешать пользователям обходить их платный доступ или делиться платными медиафайлами с халявщиками, в наибольшей степени контролируют своих клиентов. iTunes Store и App Store компании Apple являются платными сервисами, но для максимизации их прибыльности компания вынуждена так блокировать доступ к своим платформам, чтобы без её разрешения третьи стороны не могли создавать совместимое программное обеспечение. Такая блокировка предоставляет возможность осуществлять два вида контроля: редакторский (позволяющий исключать неприемлемые политические материалы) и технологический (включающий, в частности, контроль над фирмами, которым позволено ремонтировать девайсы компании Apple). Если нас беспокоит, что продукты, поддерживаемые рекламой, лишают покупателя права на самоопределение, поскольку в них используются методы убеждения, подталкивающие к покупке того или иного товара, то, конечно же, ещё больше нас должен беспокоить почти полный контроль одной-единственной компании над решением владельца айфона о том, кто продаст ему программное обеспечение, запчасти и услуги.

А вот об оплате и контроле беспокоиться не нужно: идея о том, что оплата улучшит дискурс, опасно ошибочна. Низкий уровень эффективности таргетированной рекламы означает, что ИТ-платформы должны стимулировать нас чрезвычайно интенсивно «взаимодействовать» с постами, дабы количество просмотренных нами страниц было достаточным для сохранения прибыли. Как отмечено выше, чтобы повысить уровень этого взаимодействия, такие платформы, как «Фейсбук», используют машинное обучение. С его помощью они пытаются угадать, какие сообщения будут наиболее провокационными, и на каждом шагу тычут их в глаза, чтобы мы ставили дизлайки и спорили.

«Возможно, оплата исправит ситуацию», — считают сторонники обсуждаемой нами точки зрения. Будь ИТ-платформы экономически жизнеспособными даже в том случае, когда мы, утолив своё интеллектуальное и социальное любопытство, перестали кликать на их сайтах, разве взялись бы они алгоритмически раздражать нас, чтобы получать от нас побольше кликов?

Этот аргумент заслуживает серьёзного внимания, но в нём не учитывается глобальный экономический и политический контекст, в котором функционируют ИТ-платформы и который позволил им добиться безраздельного доминирования.

ИТ-платформы глобальны и всеобъемлющи, потому что они монополии, а в монополии они превратились благодаря тому, что мы раздербанили имевшийся в нашем распоряжении набор наиболее важных и надёжных антимонопольных правил. Ключевой частью проекта по обогащению богатых была стерилизация антимонопольного законодательства, и этот проект сработал. Подавляющее большинство людей, живущих на Земле, имеет отрицательный чистый капитал, и даже представители сокращающегося среднего класса пребывают в нестабильном состоянии, ибо не могут накопить денег для выхода на пенсию, недостаточно застрахованы на случай болезни и недостаточно защищены от климатических и технологических потрясений.

В этом дико неравном мире оплата не улучшает дискурс; она просто выводит дискурс за пределы рынка, доступного для большинства людей. Платить за продукты — здорово, когда вы хорошо зарабатываете.

Если вы считаете сегодняшние пузыри фильтров проблемой для нашего дискурса, представьте, какими стали бы эти пузыри, если бы богатые люди заселили свободные, как во времена классической афинской демократии, рынки идей, где нужно платить за вход, в то время как всем остальным пришлось бы ютиться в онлайн-пространствах, субсидируемых богатыми благотворителями, преисполненными самодовольства в связи с тем, что им удалось создать места для общения, где «домашние правила» запрещают подвергать сомнению статус-кво. То есть, представьте, что богачи ушли из «Фейсбука», и тот, вместо того чтобы показывать рекламу, приносящую доход акционерам, превратился в тщеславный проект миллиардера, который, опять же, сделал так, чтобы никто не обсуждал справедливость того, что только миллиардеры могут позволить себе тусоваться в наиболее цивилизованных уголках интернета.

В основе идеи платы за доступ лежит вера в способность свободного рынка решить проблему дисфункций Большой ИТ-индустрии. В конце концов, слежка, если её обнаружили, как правило, неприятна, и чем дольше и тщательнее следят за человеком, тем больше она его раздражает. Так же обстоит дело и с привязкой к конкретному поставщику путём блокировки доступа к продуктам, защищённым авторскими правами: если бы Apple App Store или чернила HP действительно были фантастически замечательными, их производителям не пришлось бы прибегать к техническим мерам, препятствующим тому, чтобы пользователи делали выбор в пользу продукта какой-то конкурирующей фирмы. Единственная причина, по которой применяются эти технические контрмеры, — отсутствие у HP и Apple App Store уверенности в том, что их клиентура добровольно подчинится их условиям, и стремление лишить её возможности уйти к конкурентам.

Защитники рынка расхваливают его способность агрегировать рассеянные по всему общественному пространству знания покупателей и продавцов посредством сигналов спроса, ценовых сигналов и так далее. Одним из оснований для обвинений следящего капитализма в мошенничестве является то, что он применяет машинное обучение для создания методов убеждения, искажающих принятие потребителями решений. В результате потребители, получая ложные сигналы, покупают не то, что им действительно нужно, а то, что, будучи обманутыми, приняли за нужное. Отсюда следует, что монополистическая практика привязки к конкретному поставщику, которая гораздо больше, чем новейшие методы убеждения, ограничивает свободный потребительский выбор, намного больше, чем они, заслуживает обвинений в мошенничестве.

Прибыльность любого предприятия ограничивается возможностью того, что его клиенты воспользуются услугами другого предприятия. И слежка, и привязка к конкретному поставщику путём блокировки доступа к продуктам, защищённым авторскими правами, — это антифункции, которые никому из потребителей не нужны. Но монополии могут приручать контролёров, громить конкурентов, вторгаться в жизнь клиентов и заставлять тех, кто ещё не стал таковыми, «выбирать» их услуги независимо от того, насколько они полезны для потребителей. Когда отсутствует альтернатива, быть ужасным — бесценно.

В конечном счёте, слежка и блокировка доступа к продуктам, защищённым авторскими правами, — это просто бизнес-стратегии, доступные для монополистов. Компании, применяющие слежку, например, «Гугл», вполне способны внедрять технологии блокирования доступа к продуктам, защищённым авторскими правами, — достаточно взглянуть на обременительные условия лицензирования операционной системы Android, согласно которым производители устройств обязаны загружать в них гугловский пакет приложений. А такие любители блокировать доступ к продуктам, защищённым авторскими правами, как Apple, вполне способны следить за своими пользователями, если это нужно для поддержания дружеских связей с китайским правительством и сохранения постоянного доступа к китайским рынкам. Монополии могут состоять из хороших людей с высокими моральными принципами, но как институты они не могут быть вашими друзьями — они будут делать всё, чтобы максимизировать свою прибыль, лишь бы злоупотребления сходили им с рук, и чем они монополистичнее, тем больше может сойти им с рук.

«Экологический» этап антимонопольной деятельности

Если мы собираемся освободить нашу цифровую жизнь от вцепившейся в неё мёртвой хваткой Большой ИТ-индустрии, нам нужно бороться с монополиями. Это может показаться весьма обыденным и старомодным, чем-то из эпохи «Нового курса», тогда как прекращение использования автоматизированных методов модифицирования поведения похоже на сюжетную линию убойного романа в стиле «киберпанк».

Между тем, разрушение монополий — это то, что мы, кажется, совсем разучились делать. Существует двухпартийный трансатлантический консенсус в отношении того, что разделение компаний — в лучшем случае безнадёжное дело, в ходе которого федеральные обвинители увязнут в многолетних судебных разбирательствах, а в худшем — контрпродуктивная мера, подрывающая «потребительские выгоды», с потрясающей эффективностью создаваемые крупными компаниями.

А было время, когда антимонополисты шагали по стране, размахивая сводами законов, терроризируя баронов-разбойников и разрушая иллюзию о всемогущей власти монополий в нашем обществе. Эпоха войны с монополизмом не могла начаться, пока мы не обрели политическую волю — пока народ не убедил политиков, что он поддержит их в борьбе против самых богатых и влиятельных людей в мире.

Сумеем ли мы вновь обрести эту политическую волю?

Я думаю, что мы присутствуем при рождении нового, «экологического» этапа антимонопольной деятельности. В конце концов, концентрация капитала высока не только в ИТ-индустрии, есть и более монополизированные отрасли общественного производства.

Вы можете найти активных сторонников борьбы с монополизмом в любой сфере экономики. Куда ни посмотришь — всюду увидишь тех, кто так или иначе пострадал от компаний-монополистов, лишающих людей доходов, здоровья, образования, личного пространства, разрушающих жизни их родных и близких. У всех этих людей тот же мотив и те же враги, что и у людей, которые стремятся разбить Большую ИТ-индустрию. Когда бóльшая часть мирового богатства сосредоточена в руках горстки монополистов, не удивительно, что в число акционеров практически каждой крупной компании входят акционеры других компаний.

И это хорошо: чтобы создать коалицию, которая способна разбить Большую ИТ-индустрию и все остальные виды индустрии с высокой концентрацией капитала, от нас понадобится совсем немного усилий, а что касается политической воли, то у нас её более чем достаточно. Сначала возьмёмся за «Фейсбук», затем — за AT&T/WarnerMedia.

Но вот что плохо: многое из того, что мы делаем, чтобы обуздать Большую ИТ-индустрию, вместо того, чтобы разделить её, препятствует её последующему разделению.

Концентрация капитала в Большой ИТ-индустрии означает сегодня, что, например, бездействие ИТ-гигантов в отношении оскорбительных онлайн- преследований ставит перед пользователями интернета неприемлемый выбор: либо уклониться от публичного дискурса, например, уйти из «Твиттера», либо терпеть постоянные гнусные оскорбления. Чрезмерный сбор и чрезмерное хранение данных со стороны «Биг Теха» приводят к ужасающей краже личных данных. А бездействие ИТ-монополий в отношении вербовки экстремистскими организациями сообщников означает, что сторонники белого супремасизма, стримящие свои сопровождаемые стрельбой буйства, могут собирать миллиардную аудиторию. В результате комбинирования концентрации в сфере ИТ-индустрии и в сфере СМИ доходы деятелей художественного искусства падают даже тогда, когда доходы от их творений растут.

Тем не менее, правительства, сталкиваясь со всеми этими проблемами, неуклонно приходят к одному и тому же решению: ИТ-гиганты должны контролировать своих пользователей и отвечать за их проступки. Правительственное стремление вынудить Большую ИТ-индустрию использовать автоматические фильтры для блокировки всего нежелательного для властей, — от нарушения авторских прав до секс-торговли и опасного экстремизма, — означает, что ИТ-компаниям придётся выделять сотни миллионов на соответствующие системы контроля.

Эти правила — новая Директива ЕС об авторском праве, новые антитеррористические законы Австралии, американский закон FOSTA/SESTA, направленный на пресечение секс-торговли, и многие другие — смертный приговор для мелких, начинающих конкурентов, которые могли бы бросить вызов господству Большой ИТ-индустрии, но теперь не бросят, ибо не имеют таких же тугих, как у старожилов-монополистов, кошельков, чтобы платить за все эти автоматизированные системы. Вдобавок данные правила лишают нас возможности значительно уменьшить Большую ИТ-индустрию, а это ещё хуже.

В сложившихся условиях любой шаг с целью разрушить Большую ИТ-индустрию и урезать её аппетиты придётся делать с оглядкой на жёсткое ограничение — не уменьшать ИТ-компании до размеров, при которых они окажутся неспособными выполнять свои обязанности. А это дорого — вкладывать деньги в автоматизированные фильтры и аутсорсинг модерации контента. Уже сейчас нелегко справиться с возникшими на основе высокой концентрации капитала фантастическими ИТ-чудовищами, тесно сплотившимися в погоне за монопольной прибылью. Победить их и одновременно найти способ заполнить нормативную пустоту, которая возникнет, если эти самодержавные правители будут вынуждены внезапно отречься от престола, будет очень, очень трудно.

То, что ИТ-платформам позволили стать гигантскими, обеспечило им почти непреодолимое доминирование, ибо пока они выполняют возложенные на них общественные обязанности по исправлению патологий, созданных их чудовищными размерами, уменьшить эти размеры практически невозможно. Образовался порочный круг: поскольку ИТ-платформы нельзя уменьшать, они будут расти, а значит, будут создавать новые проблемы, для решения которых придётся возлагать на ИТ-компании дополнительные общественные обязанности, что будет способствовать ещё большему росту этих компаний.

Мы можем улучшать либо интернет, разрушая Большую ИТ-индустрию и лишая её монопольной прибыли, либо Большую ИТ-индустрию, заставляя её тратить свою монопольную прибыль на регулирование интернета. Но мы не можем делать и то и другое вместе. Мы должны выбрать между гибким, открытым интернетом и авторитарным, монополизированным интернетом под управлением ИТ-гигантов, с которыми приходится постоянно бороться, чтобы их поведение было приличным.

Как сделать Большую ИТ-индустрию снова маленькой

Бороться с монополизмом тяжело. Дробление крупных компаний — дело затратное и требующее так много времени, что нередко к тому моменту, когда удаётся вплотную приблизиться к победе, мир успевает сильно измениться, и годы судебных разбирательств оказываются потраченными напрасно. С 1969 по 1982 год правительство США, используя антитрестовские законы, пыталось устранить доминирование IBM в сфере производства мейнфреймов, но в 1982 году дело рухнуло, потому что вместо мейнфреймов стали применять ПК.

Концентрацию гораздо легче предотвратить, чем устранить, а чтобы предотвратить её дальнейший рост, нужно, как минимум, восстановить традиции применения в США антимонопольного законодательства. Это означает запрет на слияние крупных компаний, на покупку ими потенциальных фирм-конкурентов и на прямую конкуренцию ИТ-платформ с компаниями, зависящими от этих платформ.

Все эти полномочия чётко прописаны в антитрестовском законодательстве США, поэтому теоретически будущий президент США мог бы просто-напросто поручить своему генеральному прокурору обеспечить более строгое соблюдение уже имеющихся законов. Однако после десятилетий юридического «просвещения» в пользу монополий, после того, как благодаря усилиям нескольких администраций федеральные суды оказались укомплектованными горячими сторонниками монополизма с пожизненным пребыванием в должности, неясно, сработает ли простое поручение президента.

Если суды вздумают игнорировать установки министерства юстиции и президента, следующей инстанцией станет Конгресс. Он может устранить любые сомнения в отношении того, как следует применять антимонопольное законодательство США, приняв новые законы, смысл которых должен быть таким: «Хватит. Все мы знаем, о чём говорит закон Шермана. Роберт Борк был сумасшедшим фантазёром. Для полной ясности — пошёл он к чёрту». Другими словами, проблема, создаваемая монополиями, — это монополизм, то есть концентрация власти в руках горстки богачей, которая подрывает наше право на самоопределение. Если есть монополия, закон требует её устранить — и точка. Разумеется, устранение монополий, которые причиняют «вред потребителю», накручивая цены на производимые ими товары, предполагает устранение и других монополий.

Но строгое применение существующих законов позволит всего лишь не дать ситуации ухудшиться. Чтобы добиться улучшения, нам нужно, создавая коалиции с другими участниками антимонопольного экологического движения — движения за плюрализм, или за самоопределение, — заставить монополии всех отраслей экономики подчиниться правилам расформирования и структурного разделения, которые, к примеру, предотвращают доминирование производящей очки гигантской компании Luxottica как в сфере продажи, так и в сфере производства.

По сути, не имеет значения, в какой отрасли распад монополий начнётся раньше. Как только он начнётся, акционеры всех отраслей станут скептически оценивать инвестиции в монополистов. По мере триумфального шествия антимонополистов, делающего жизнь монополий невыносимой, характер дебатов за столами заседаний всех корпоративных советов директоров изменится. Представители корпораций, которым монополизм всегда был не по душе, получат новый мощный аргумент в борьбе с их порочными соперниками в корпоративной иерархии: «Если мы будем вести бизнес по-нашему, мы заработаем меньше денег, а если по-вашему, судья оштрафует нас на миллиарды и вдобавок подвергнет насмешкам и публичному осуждению. Так что, хотя было бы реально круто провести это вот слияние, заблокировать этого вот конкурента или купить эту вот маленькую компанию и убить её, прежде чем она станет опасной для нас, на самом деле, мы не должны этого делать — если не хотим, чтобы нас привязали к бамперу министерства юстиции и десять лет подряд возили на привязи вверх и вниз по проспекту Антимонополистов».

20 GOTO 10

Чтобы исправить Большую ИТ-индустрию, требуется много итераций. Как пишет кибер-юрист Лоуренс Лессиг (Lawrence Lessig) в своей книге 1999 года «Код и другие законы киберпространства» («Code and Other Laws of Cyberspace»), нашу жизнь регулируют четыре силы: закон (правовая сфера), код (сфера технологически возможного), нормы (сфера социально приемлемого) и рынок (сфера того, что приносит прибыль).

Если бы мы могли взмахнуть волшебной палочкой и заставить Конгресс принять законопроект, незамедлительно делающий закон Шермана снова зубастым, мы могли бы использовать нависшую над монополиями угрозу развала для того, чтобы убедить венчурных капиталистов финансировать конкурентов компаний Facebook, Google, Twitter и Apple, которым пришлось бы ждать своего часа после того, как их урежут.

Но, чтобы заставить конгресс действовать, требуется существенный нормативный сдвиг, требуется массовое движение людей, обеспокоенных деятельностью монополий и стремящихся их разрушить. Чтобы люди осознали опасность, которую несут с собой монополии, нужны технологические интервенции, помогающие увидеть, как может выглядеть мир, свободный от Большой ИТ-индустрии. Представьте, что появился отличный (но неавторизованный) сторонний клиент «Фейсбука» или «Твиттера», который ослабляет раздражающую пользователей алгоритмическую скачку и позволяет им, как и раньше, общаться с друзьями, не опасаясь слежки, — нечто такое, что делает социальные сети более пригодными для общения и менее токсичными. А теперь представьте, что организована зверская судебная тяжба с целью закрыть этот клиент. Всегда легче убедить людей сделать что-то для спасения того, что они любят, чем взволновать их тем, чего ещё нет.

Ни технологий, ни законов, ни кодов, ни рынка недостаточно для реформирования Большой ИТ-индустрии. Но прибыльный конкурент этой сферы может финансировать законодательный толчок; правовая реформа может воодушевить мастера на создание более совершенного инструмента; инструмент может породить клиентов потенциального бизнеса, которые ценят полезные свойства интернета, но хотят пользоваться ими вне Большой ИТ-индустрии; и этот бизнес может привлечь инвестиции и направить часть своей прибыли на правовую реформу. 20 GOTO 10 (или намылить, промыть, повторить). Вновь и вновь делайте это, чтобы каждый раз продвигаться дальше! В конце концов, сейчас, в начале пути, ваши спутники — ещё не набравшие полной своей силы противники Большой ИТ-индустрии, клиенты, которые понимают, что всё может быть лучше, конкуренты Большой ИТ-индустрии, которые могут обеспечить себе будущее, финансируя реформы, и код, который другие программисты могут совершенствовать, чтобы ещё больше ослабить Большую ИТ-индустрию.

Картина современного общества, которую подсовывает следящий капитализм — что, дескать, продукты Большой ИТ-индустрии потрясающе хороши, и именно поэтому всё идёт вкривь и вкось, — слишком примитивное оправдание слежки и ещё более примитивное оправдание капитализма. Компании шпионят, так как верят в свою собственную чушь, так как правительства позволяют им шпионить и так как любая выгода от шпионажа настолько недолговечна и незначительна, что компании вынуждены заниматься им всё больше и больше, чтобы не потерять свои прибыли.

А почему всё идёт вкривь и вкось? Из-за капитализма. Точнее, из-за монополизма, создающего неравенство, и неравенства, создающего монополизм. Речь о такой форме капитализма, которая вознаграждает социопатов, разрушающих реальную экономику, чтобы взвинчивать чистую прибыль. И этим дельцам всё сходит с рук по той же причине, по которой компаниям сходит с рук шпионаж: дело в том, что наши правительства находятся в плену, с одной стороны, идеологии, согласно которой монополии, на самом деле, — просто прелесть, а с другой — идеологии, согласно которой, не стоит злить монополистов, живя в монополистическом мире.

Не слежка делает капитализм мошенническим. Она — порождение бесконтрольного капиталистического правления и плоха не тем, что позволяет кому-то манипулировать нами, а тем, что подавляет нашу способность быть самими собой. А ещё тем, что позволяет богатым и влиятельным лицам определять потенциальных строителей гильотин и находить для них грязь, которой их, чтобы дискредитировать, можно измазать с головы до пят ещё до того, как они доберутся до склада пиломатериалов.

Вперёд, преодолевая трудности

На фоне проблем, которые породила Большая ИТ-индустрия, легко вообразить, будто для решения этих проблем нужно вернуться в мир без информационных технологий. Не поддавайтесь этому искушению!

Единственный выход  — идти вперёд, преодолевая трудности. Если в будущем мы перестанем зависеть от высоких технологий, это произойдёт потому, что цивилизация деградировала. Большая ИТ-индустрия создала планетарную нервную систему, связавшую весь наш вид в единое целое. Осуществляя разумные реформы и корректировки курса, мы можем использовать эту систему для эффективного решения экзистенциальных проблем нашего вида и нашей планеты. Сейчас наша задача — так обуздать современные вычислительные средства, чтобы наша электронная нервная система оказалась под демократическим, ответственным управлением.

Скажу по секрету, что, несмотря на сказанное мною ранее, я верю в исключительность информационных технологий. Не в том смысле, что следует принять как должное монополизацию этих технологий из-за якобы присущей им способности «экономить за счёт масштаба» или какой-то ещё туманной особенности. Я верю в исключительность информационных технологий, потому что, на мой взгляд, если мы не сможем использовать их правильно, нас ждёт катастрофа. Правильное использование информационных технологий даст нам силу объединиться в совместном труде во имя спасения нашей цивилизации, нашего вида и нашей планеты.