«XX2 век» публикует статью Майка Элгана (Mike Elgan) — о том, как корпорации приобретают всё больше контроля над людьми. Читая этот текст, следует помнить, что переносить выводы автора на другие страны, не делая поправку на контекст, будет едва ли правильно.
* * *
В Китае давать оценку поведению граждан — официальный государственный принцип. Но его всё чаще калькируют американские компании, воспроизводя вне юридической системы.
Вы, возможно, слышали о системе социального кредита, которую используют в Китае. Эта общенациональная программа основана на технологиях слежки и призвана мотивировать граждан вести себя добропорядочным образом. Конечная её цель, согласно китайскому правительству, — «позволить благонадёжным гражданам разгуливать, где им вздумается, а тем, кто себя плохо проявил, затруднить перемещение».
Система социального кредита находится в использовании с 2014 года, и над ней всё ещё работают. Сродни кредитному рейтингу, система начисления баллов к следующему году может стать общенациональной. Её цель — наказывать граждан за разные поступки, которые правительство Китая считает незаконными или неприемлемыми. Например, за членство в Фалуньгун (法輪功), за приверженность тибетскому буддизму или его поддержку, за неуплату долгов, за чрезмерное увлечение видеоиграми, за критику правительства, за задолженности по кредитам, за неподметённый тротуар перед магазином или домом, за курение или включение музыки на полную громкость в поездах, за переход дороги в неположенном месте и т. д.
В этой системе также могут быть начислены положительные баллы — например, за благотворительные пожертвования или даже за то, что вы отвели родителей к врачу. Наказания могут быть суровыми. Среди них: запрет на выезд из страны, на пользование общественным транспортом; правонарушителя не будут размещать в отелях, не смогут брать на высокие должности на работе, его детей не будут принимать в частные школы. Ему в наказание могут ограничить скорость подключения к интернету, да и вообще могут наложить стигму — зарегистрировав в публичном чёрном списке.
Китайской системе социального кредита дали меткое определение в твиттере — «геймифицированный авторитаризм».
Сейчас только некоторые части этой системы в ходу по всей стране. Другие используются лишь в некоторых местностях. (Существуют около 40 пилотных проектов, которыми руководят местные органы власти. Также минимум шестью из них управляют технические гиганты, такие как Alibaba и Tencent).
В Пекине есть два общенациональных списка — чёрный и красный. В первом — люди, совершившие проступок, а во втором — все остальные («красный список» — это «коммунистическая» версия белого списка). Эти списки лежат на государственном сайте China Credit, и для них доступен инструмент поиска.
Правительство Китая открыло доступ технологическим платформам к этим спискам. И если кто-то выскажется критически о правительстве на Weibo (китайский гибрид «Твиттера» и «Фейсбука»), его детей могут лишить права учиться в элитных школах.
Частью китайской системы социального кредита является общественное осуждение. Например, был случай, когда с целью осудить правонарушителей из одного города между видеороликами на TikTok вставляли фотографии людей из чёрного списка, а их адреса были показаны на карте в WeChat.
Некоторые «западные» авторы в статьях делают импликацию, что, мол, население Китая «задыхается», как в Ящике Скиннера, от репрессий в поведенческой области. Но некоторые китайцы вообще ничего не знают о существовании этой системы! А многим другим гражданам страны задумка нравится. Один опрос показал, что 80% респондентов (все — граждане Китая) в той или иной степени одобряют систему социального кредита.
Так может быть и здесь!
Многие жители «Запада» обеспокоены тем, что они слышат про систему социального кредита в Китае. Но такая система, как оказалось, не уникальна для Китая, аналогичная набирает обороты в Соединённых Штатах (И вообще по всему миру. — Прим. «XX2 век»). Это происходит в результате политики Кремниевой долины и технологических компаний в отношении прав и обязанностей пользователей, а также из-за того, что компании следят за поведением людей в социальных сетях.
Вот некоторые примеры реализации системы социального кредита в Америке.
Страховые компании
Департамент финансовых услуг штата Нью-Йорк объявил ранее в этом году, что страховые компании, предоставляющие услугу страхования жизни, могут основывать страховые премии на содержимом сообщений пользователей в социальных сетях. То есть, если вы запостите в Instagram фото, где вы с сигаретой в зубах, бокалом мартини в одной руке и ведром сырных шариков в другой дразните в Йеллоустонском парке медведя гризли, это не останется без последствий. С другой стороны, если вы запостите в Facebook фото, где вы занимаетесь йогой, это может сэкономить вам копеечку. (При принятии решений о страховых премиях страховые компании должны каждый раз доказывать, что контент, представленный в социальных сетях, говорит о риске для жизни, но при этом они не должны никого дискриминировать. Они не могут, например, изменить премии из-за постов, сообщающих о расе или инвалидности).
Работники просматривают социальные сети, чтобы дополнить картину, полученную из ответов на вопросы об образе жизни, которые обычно задают при подаче заявления на страхование жизни. Например, занимается ли человек скалолазанием или другими потенциально опасными видами спорта. Если вы ответите «нет, не занимаюсь», но потом запостите фотографии, где в одиночку покоряете вершину Эль Капитан (El Capitan, парк Йосемити), то ваш ответ быстро изменят с «нет» на «да».
PatronScan
Компания под названием PatronScan предлагает три продукта — киосковую, десктопную и портативную версии системы. Продукт предназначен помочь владельцам баров и ресторанов следить за их клиентами. PatronScan — это дочерняя компания канадской IT-компании Servall Biometrics. Её продукты в настоящее время продаются в Соединённых Штатах, Канаде, Австралии и Великобритании.
PatronScan помогает вычислять тех, кто пользуется поддельными документами, потенциальных нарушителей спокойствия. Когда клиенты приходят в бар, оснащённый PatronScan, их ID сканируют. Компания ведёт список «нежелательных» посетителей, чтобы защитить места от людей, ранее уличённых в «драках, сексуальных домогательствах, употреблении наркотиков, воровстве и других видах плохого поведения» (согласно тому, что указано на сайте). К списку имеют доступ все пользователи PatronScan. Таким образом, если кого-то выставят за плохое поведение в одном баре в США, потом его не будут пускать на порог все другие бары, использующие систему, в США, Великобритании и Канаде, в течение, максимум, года. (В Австралии PatronScan ведёт отдельные списки).
Решения о том, какие поступки могут послужить причиной включения в список PatronScan, остаются за владельцами и менеджерами баров. Некоторые бары могут проигнорировать запрет, если того захочет владелец. Данные о посетителях, ничем плохим не отличившихся, удаляются в течение 90 дней. Помимо этого, PatronScan позволяет барам вести свой «закрытый» список, недоступный для других баров, в котором записи о «плохих» клиентах могут храниться до пяти лет.
У PatronScan есть функция подачи апелляции, но компания по своему усмотрению их удовлетворяет или отклоняет.
Uber и Airbnb
Благодаря экономике совместного потребления, путешественники давно пользуются не только такси и отелями. В области транспортных и жилищных услуг Uber и Airbnb наиболее популярны среди туристов. В то же время, есть много похожих компаний, предоставляющих услуги райдшеринга и децентрализованного съёма жилья.
Airbnb, крупный поставщик жилищных и других услуг для туристов, в марте похвастался, что в его системе — более 6 миллионов квартир и комнат. Блокирование кого-то в ней может существенно ограничить мобильность человека.
Airbnb может заблокировать аккаунт пожизненно — по любому поводу, который она сочтёт достаточным. Компания оставляет за собой право не сообщать причину подобных блокировок. Сухие разъяснения, которые даёт компания, включают следующее: «Решение, принятое компанией, необратимо и будет распространено на любые дублирующие или созданные в будущем учётные записи. Пожалуйста, имейте в виду, что мы не берём на себя обязанность объяснять наши действия относительно вашей учётной записи». Пользователя могут забанить, например, если хозяин квартиры напишет кляузу Airbnb, в которой опишет всё, что, по его мнению, делал там пользователь. У многих конкурентов Airbnb точно такая же политика.
В Uber теперь тоже легко заблокировать пассажиров. Всякий раз, когда вы завершаете поездку, приложение предлагает вам оценить водителя. Многие не знают, но водителя теперь тоже просят оценить вас. Согласно новой политике, принятой в мае, если средний рейтинг пассажира «значительно ниже среднего», Uber запретит ему пользоваться приложением.
Замечание от «XX2 века»
Уже были исследования, которые утверждают, что системы оценки в приложениях работают не так, как это изначально задумывают разработчики: пользователи склонны ставить оценку не всегда, чаще в исключительных случаях. Наиболее часто оставляемые оценки по пятибалльной шкале — это 1 и 5 (то есть «ужасно» или «отлично»). Промежуточные результаты оказываются недостаточно важны, чтобы сделать усилие и поставить оценку. Также стоит учитывать, что средний пользователь, оставляющий отзывы, сильно отличается от среднего пользователя вообще, причём часто оценки оставляются людьми в эмоционально неуравновешенном состоянии.
Кроме того, с распространением блокировок без объяснений и апелляций, скорее всего, появятся способы и сервисы, помогающие эти блокировки обходить.
Пользователей также могут «отключить» от мессенджеров. Например, WhatsApp вас забанит, если слишком много пользователей вас заблокировали. Вам также могут запретить рассылать спам или угрозы (Здесь собака зарыта в том, как определять «спам» и «угрозы» — Прим. «XX2 век»), отловить ваши попытки взлома или реверс-инжиниринга приложения, ограничить использование мессенджера совместно с другими неавторизованными приложениями.
WhatsApp не особо популярен в США, но во многих странах мира это основная платформа интернет-коммуникаций. Личный запрет на использование WhatsApp в некоторых странах по эффекту будет сравнимо с тем, как если бы гражданину США запретили использовать телефон.
Замечание от «XX2 века»
Столь чувствительные блокировки пока можно попробовать обойти, купив другую сим-карту, заведя другой аккаунт Facebook или другую почту, но если чёрные списки станут сквозными для всех продуктов даже одной корпорации, это уже будет большой проблемой. Если же представить, что IT-гиганты, владеющие глобальными публичными сервисами, станут обмениваться такими списками, подобно барам в PatronScan, блокировка в том же WhatsApp может привести к остракизму пугающих масштабов.
Что не так с системой социального кредита?
Никому не нравится антисоциальное, грубое, нездоровое, безрассудное или эгоистическое поведение, жестокость и безжалостность. Тогда чем же плохо использование новых технологий, чтобы подтолкнуть людей к «хорошему» поведению?
Наиболее тревожащим атрибутом системы социального кредита является не то, что её внедряют в общество, а то, что она находится вне юридической плоскости. Наказания за проступки определяются и осуществляются за пределами правовой системы. А это может означать отсутствие презумпции невиновности, института юридического представительства, судей, присяжных, процедуры апелляции. Иначе говоря, мы имеем дело с альтернативной правовой системой, в которой обвиняемый имеет меньше прав, чем в общепринятой.
Система социального кредита в конечном итоге может стать причиной проблем в правовой системе. В отличие от правительственной политики Китая, система социального кредита, формирующаяся в США, контролируется частными корпорациями. Если общественность вдруг станет недовольна применением правил, она не сможет выбрать новых разработчиков «законов».
Всё большее число социальных «привилегий» в области мобильности, жилья и коммуникаций, а также персонализация стоимости услуг (например, на страхование жизни), либо контролируется технологическими компаниями, либо зависит от того, как мы используем современные технологические услуги. А «правила Силиконовой долины», устанавливающие, кому можно пользоваться услугами, а кому — нет, становятся всё более строгими.
Если нынешние тенденции сохранятся, возможно, в будущем большинство правонарушений и даже некоторые уголовные преступления будут караться не Вашингтоном, а Кремниевой долиной. Мы встаём на скользкую дорожку, ведущую от демократии к «корпоратократии».
Другими словами, в будущем правоприменение может определяться не столько Конституцией и юридическими документами, сколько лицензионными соглашениями, на которые пользователи обязаны согласиться, чтобы пользоваться сервисами.