ИИ помог выявить характерные структурные черты теорий заговора

+7 926 604 54 63 address
 Пиццерия, в которой из-за того, что она фигурировала в теории заговора, устроили стрельбу из боевого оружия.
Пиццерия, в которой из-за того, что она фигурировала в теории заговора, устроили стрельбу из боевого оружия.

Проведённое недавно командой из Калифорнийского университета в Лос-Анджелесе (UCLA) исследование выявляет структурные элементы, по которым конспирологическую теорию можно отличить от реального заговора. В работе задействованы знания из таких разных предметных областей, как фольклористика и информатика. Руководили исследованием профессор скандинавской фольклористики Тимоти Тангерлини (Timothy Tangherlini) и профессор электронной и компьютерной инженерии, эксперт в области машинного обучения Вуани Ройчоудхури (Vwani Roychowdhury).

В 1920-х годах филологи-структуралисты в партнёрстве с фольклористами плотно занялись повествовательной структурой текстов. На саму важность изучения структурной стороны литературного или фольклорного текста, помимо его идейной составляющей, обратили внимание русские формалисты из ОПОЯЗа. В 1929 году это положение было сформулировано в тезисах генетически связанного с русской формальной школой через Р.О. Якобсона Пражского лингвистического кружка. Годом ранее, в 1928-м, В.Я. Пропп, не связанный с ОПОЯЗом, но продвигавшийся в исследованиях в том же направлении, издал книгу «Морфология сказки», в которой выделил основные структурные элементы и закономерности, общие для всех волшебных сказок. К числу структурных элементов Пропп отнёс функции действующих лиц и последовательность их актуализации в сказке. Главное его открытие состояло в том, что 1) функции неизменны, независимо от того, кем выполняются (змей похищает княжну или чёрт похищает поповскую дочку — структурно это одно и то же), 2) число функций, известных жанру волшебной сказки, ограничено, 3) последовательность функций всегда одинакова. Среди выделенных Проппом функций: нарушение запрета, нанесение вреда, отправление героя в путь, обретение волшебного средства или помощника, переправа в другой мир (часто для такой переправы служил дом Бабы Яги — пограничное пространство между мирами живых и мёртвых), затем следует серия испытаний, после которых либо случается развязка, либо сюжет со всей его структурой повторяется ещё несколько раз. Пропповский анализ оказался так хорош, что позволял легко разобрать на понятные структурные составляющие любые волшебные сказки, а после доработки его другими исследователями — и, практически, любые повествовательные фольклорные тексты.

Структурализм в филологии пошёл дальше, такие представители этого направления как Клод Бремон (Claude Bremond) и Альгирдас Жюльен Греймас (Algirdas Julius Greimas) распространили принцип выделения повествовательных структур, основание которого заложил Пропп, на более широкий спектр текстов. По Греймасу, в любых нарративах есть несколько ключевых элементов: актанты (люди, вещи, места), отношения между актантами, а также последовательность возникновения этих отношений. Руководствуясь актантной схемой Греймаса как универсальной для любых текстов, учёные из Калифорнийского университета в Лос-Анджелесе (UCLA) научили искусственный интеллект распознавать структуру повествований, в частности — связанных с конспирологическими теориями.

Теории заговора широко распространяются в интернете и могут влиять на политические взгляды обывателей. По своей природе они похожи на обычный фольклор: как и в устном народном творчестве, в т.н. постфольклоре в процессе перепечатывания и пересказывания история меняется, её дополняют какими-то деталями, а другие детали порой исчезают из текста. Но есть и «полный» вид истории, где собраны все упоминаемые участники и действия. Доступность в социальных сетях полных версий повествований о заговорах позволила фольклористам набрать их целый корпус и научить ИИ типа GAN вычленять в них основные структурные элементы. Инструмент на основе ИИ был обучен учитывать такие категории, как контекстный домен, выделяемый на основе определения универсума дискурса Джоржда Буля (George Boole), действующие лица (актанты) и связи между ними. «Скормив» такому инструменту корпус текстов, можно получить полный расклад отношений для каждого актанта в виде графа, описывающего повествовательную структуру. Исследователи отмечают, что вывод структуры в виде графа нагляден и позволяет наблюдать и учитывать в повествовании особенности, которые иначе было бы сложно заметить.

Инструмент работает для любых «постфольклорных» историй, изложенных во многих версиях, но в статье, недавно вышедшей в журнале PLOS ONE, с его помощью проанализированы два инфоповода: 1) реальный преступный сговор 2013 года в Нью-Джерси, известный как «Бриджгейт» (Bridgegate), и 2) теория заговора 2016 года, получившая известность как «Пиццагейт» (Pizzagate).

Первая история — о том, как в Нью-Джерси помощники губернатора, преследуя политические интересы, перекрыли на четыре дня несколько полос на мосту Джорджа Вашингтона, где обычно плотное движение, объявив, что дорожному покрытию необходим ремонт.

В центре второго повествования — якобы существующая международная организация влиятельных педофилов, к которой будто бы причастны пиццерия Comet Ping Pong в Вашингтоне, служившая центром торговли детьми, и видные представители американских демократов, включая Хиллари Клинтон.

Обе истории породили серьёзные последствия — в частности, из-за пробок на мосту Джорджа Вашингтона скорая помощь не успела к пожилой женщине, в результате умершей, а некто Эдгар Уэлч (Edgar Welch), поверивший, что в пиццерии насильно удерживают детей, заявился туда со штурмовой винтовкой армейского образца и открыл стрельбу.

Реальные заговоры существуют и иногда раскрываются. Циркулируют в обществе и полностью вымышленные теории заговора, не имеющие никакой реальной основы и целиком заключённые собственно в повествовании, однако также способные оказывать существенное влияние на жизнь людей. Но есть ли между повествованиями об этих явлениях чётко формализуемые отличия? Их учёные и решили найти с помощью ИИ.

Текстовые материалы для исследования учёные получили из онлайн-хранилищ библиотеки UCLA, в которых в течение долгого времени архивируются интернет-источники различной тематики, в том числе сообщения, к моменту начала исследования уже удалённые с площадок, где были изначально опубликованы. Чтобы разобраться в истории с пиццерией, исследователи взяли посты разного времени, сначала публиковавшиеся на социальном сайте Reddit, в паблике («сабреддите») r/pizzagate, а после удаления последнего — на другом социальном агрегаторе (Voat). Для изучения истории с мостом использовался архив местных новостных изданий севера Нью-Джерси, также собранный библиотекой UCLA.

Прогнав эти корпусы текстов через инструмент, учёные получили графы для двух полных нарративов и обратили внимание на следующее: во-первых, в теории заговора, в отличие от истории фактического заговора, задействовано много контекстных доменов: это и сатанизм, и Wikileaks, и ресторанчики повседневного питания, и семейная история братьев Подеста (Podesta), один из которых написал письмо, которое было якобы «слито» в Wikileaks, и политика демократической партии (см. иллюстрацию ниже). Излагая наблюдения, не включённые в число основных выводов работы, авторы отметили также, что в структуре повествования о «Пиццагейте» есть множество узлов, ведущих к другим нарративам, представляющим своего рода конспирологический канон. Среди них и антисемитские теории заговора, и подозрения, что Красный крест торгует донорскими органами, и конспирологические теории о тайных мистических орденах, Джордже Соросе, террористической атаке 9.11, России и нацистах. В истории с мостом всё происходит в рамках одного контекстного домена — местной политики Нью-Джерси.

Так основанный на ИИ инструмент представляет в графическом виде взаимоотношение контекстных доменов повествования, его действующих лиц и связей между ними. В данном случае инструмент проанализировал конспирологическую теорию, известную как «Пиццагейт». Плоскостями представлены контекстные/тематические домены, узлами обозначены действующие лица в этих доменах, а рёбра графа — связи между ними. Каждому ребру соответствует слово или набор слов, описывающие характер связи; например, вершина «Билл Клинтон» будет соединена с вершиной «Хиллари Клинтон» ребром со связью [знаком, женат]. Сиреневым обозначены связи, которые в теории заговора соответствуют «секретной, но выведанной» информации. Справа представлена суммарная плоскость, на которой видно, что в теории заговора таких надуманных связей много. Что, в общем, характерно для теорий заговора.

Другое отличие заключается в том, что вымышленная история достигает стабильного состояния (минимизируются вариации) за довольно короткий срок, в то время как в истории реального заговора новые, в том числе существенные, детали могут всплывать в течение продолжительного времени. Например, несмотря на то, что после «Бриджгейта» прошло уже семь лет, а в данном исследовании проанализированы материалы за три года, даже после оформления результатов новая информация по «Бриджгейту» продолжала поступать.

Ещё одно отличие — число актантов в истории реального заговора, в отличие от теории заговора, существенно растёт со временем. При этом очень большая их доля упоминается в источниках небольшое число раз.

И последнее отличие сфабрикованной истории от настоящей в том, что структура первой целиком опирается на якобы очень засекреченные данные, которые удалось вскрыть. Назовём это тайным знанием. С его помощью формируются связи между разными действующими лицами, которые принадлежат к разным, обычно мало связанным друг с другом, контекстным доменам. Без привлечения тайного знания структура такого повествования полностью разваливается. В реальной же истории большинство актантов связаны друг с другом известными и понятными отношениями — в том числе помимо информации, ставшей известной в результате раскрытия заговора. Если убрать собственно заговор, ставшее известным тайное знание, между большинством актантов «Пиццагейта» пропадёт всякая связь — в то время как почти все актанты «Бриджгейта» останутся так или иначе связанными в рамках местной политики Нью-Джерси.

Таким образом, исследователи предложили довольно простой способ отличить с большой долей вероятности фактический заговор от вымысла, имея на руках только новости и обсуждения в соцсетях. Может быть, в будущем подобный анализ удержит кого-то от стрельбы в пиццерии.

.
Комментарии