Многие годы высшее руководство министерства обороны США жаловалось на то, что коммерческие технологии искусственного интеллекта (ИИ) значительно превосходят соответствующие технологии, применяемые в разведывательных и военных агентствах. Хотя американские компании и университеты лидируют в сфере разработки и коммерциализации ИИ, стиль многих операций, проводимых американскими вооружёнными силами, мало в чём изменился со времён Второй мировой войны.
Однако с этого месяца ситуация стала меняться. Проект Maven (Project Maven) — это ускоренно реализуемая министерством обороны программа, в соответствии с которой не позднее, чем через шесть месяцев после начала финансирования, боевые операции должны будут проводиться с использованием ИИ-технологий, а именно технологий на базе нейронных сетей с глубоким обучением. Чтобы осуществление какой-то оборонной программы дошло до боевого применения, как правило, требуются годы и даже десятилетия, но технологии, разработанные в рамках проекта Maven, уже сейчас успешно используются в борьбе с ИГИЛ. Эти технологии, несмотря на их ускоренное развитие и развёртывание, отлично зарекомендовали себя в военной разведке. Для сферы национальной безопасности США головокружительный успех проекта Maven предвещает грандиозные перспективы, как, впрочем, и грандиозные организационные, этические и стратегические проблемы.
Создание проекта Maven
В конце апреля Роберт Уорк (Robert Work), тогдашний заместитель секретаря министерства обороны, издал меморандум о создании Боевой алгоритмической кросс-функциональной группы (Algorithmic Warfare Cross-Functional Team), известной как проект Maven. Поначалу в этой группе было всего шесть человек, но её малый размер не соответствовал возложенным на неё обязанностям. Участникам проекта Maven во главе с его директором генерал-лейтенантом ВВС Джеком Шанаханом и ведущим специалистом полковником корпуса морской пехоты Дрю Кукором (Drew Cukor) предстояло впервые разработать и внедрить в деятельность военной разведки оперативное использование ИИ-технологий глубокого обучения. Министерство обороны долгое время финансировало фундаментальные исследования и разработки в сфере ИИ, развернуло ряд полуавтономных систем, но чтобы оно решилось внедрить в свои боевые операции глубокое обучение и нейронные сети, не уступающие новейшим образцам коммерческого ИИ, — такого ещё не было.
Перед тем, как появился проект Maven, ведущие эксперты из промышленных и научных кругов посоветовали министерству обороны сосредоточиться на какой-то узкой, насыщенной данными проблеме, решение которой исключает угрозу жизни людей и катастрофический характер случайных неудач. Для нового проекта оказалось весьма кстати, что военная разведка буквально тонет в потоке информации. Каждый день американские разведывательные самолёты и спутники собирают столько данных, сколько все сотрудники министерства обороны не смогли бы обработать даже в том случае, если бы потратили на это всю свою жизнь.
Своим ИИ-плацдармом министерство сделало проект Maven, в рамках которого основное внимание уделяется анализу полноразмерных видеоданных, поступающих с дронов — тактических аэродинамических платформ типа ScanEagle и средневысотных платформ типа MQ-1C Gray Eagle и MQ-9 Reaper. Эти беспилотные платформы и их датчики полноразмерного видеоизображения повсеместно играют важную роль в борьбе с ИГИЛ. Тактические и средневысотные видеодатчики ScanEagle, MQ-1C и MQ-9 получают изображение, которое весьма напоминают то, что можно увидеть на Google Earth. Один дрон, оснащённый такими датчиками, ежедневно поставляет терабайты и терабайты данных. До внедрения ИИ обработкой информации занималась группа аналитиков. За 24 часа они успевали проанализировать лишь часть данных, поступивших с датчиков одного дрона.
Потратив на разработку и развёртывание вышеупомянутых датчиков и платформ десятки миллиардов долларов, Министерство обороны значительно расширило свои возможности. Всякий раз, когда на какой-то из иракских дорог взрывается заложенная там мина, аналитикам достаточно просто отмотать назад видеоролик, чтобы увидеть тех, кто её заложил, узнать, когда они это сделали, откуда пришли и куда ушли. К сожалению, анализ изображений — по большей части весьма утомительное занятие: работнику министерства нужно, глядя на экран, считать автомобили, людей или действия, а затем вносить полученные числа в презентацию PowerPoint или электронную таблицу Excel. Хуже того: большая часть собранных датчиками данных просто-напросто исчезает (её никто никогда не просматривает) — и это притом что министерство обороны в течение многих лет охотно нанимает аналитиков.
В настоящее время анализом данных полноразмерных видеороликов занимаются тысячи работников министерства. Как только простейший анализ полностью автоматизируют, эти военнослужащие и гражданские лица получат возможность перейти к более интеллектуальной аналитической работе. Выходит, проект Maven едва ли полностью окупится за счёт экономии на зарплатах. Тем не менее, польза, которую принесёт автоматизация этой конкретной задачи, а также применение искусственного интеллекта и технической базы проекта Maven в других проектах Министерства обороны, означает, что цена в 70 млн долларов более чем оправдана.
Принципы работы проекта Maven
Ни один из шести человек, вошедших в исходную группу проекта Maven, не был экспертом по вопросам информатики и тем более — по вопросам создания и развития ИИ. Но это от них и не требовалось, ибо их главной задачей было наладить партнёрские отношения как с представителями научно-технического сообщества, занятого разработкой искусственного интеллекта, так и с аналитиками Министерства обороны.
Из-за политической ситуации после разоблачений Эдварда Сноудена и выборов Дональда Трампа, хай-тек компании с неохотой помогали службам национальной безопасности в решении технических проблем. Организации и эксперты в сфере ИИ и организации, которые всё-таки в этом заинтересованы, нередко обнаруживают, что заключение контракта с министерством обороны медленная, дорогостоящая и болезненная процедура, и решают не ввязываться. Команда проекта Maven при содействии Экспериментального отдела по оборонным инновациям (Defense Innovation Unit Experimental) — организации, призванной ускорить внедрение коммерческих технологий, — смогла привлечь к сотрудничеству ряд лучших разработчиков искусственного интеллекта (причём в подавляющем большинстве случаев это лица, с которыми ранее оборонное ведомство никаких контрактов не заключало). То, что руководству удалось подключить научно-технический сектор на проектной основе — само по себе выдающееся достижение.
Наладив связи с нужными людьми, проект Maven смог с самого начала правильно структурировать программу действий. До Maven никто в министерстве не имел ни малейшего представления о том, как правильно покупать, развёртывать и эксплуатировать ИИ. Традиционный процесс оборонных закупок длится несколько лет, при этом определение функций, которые должно выполнять приобретаемое оборудование, технологический прогресс, производство и оперативное развёртывание осуществляют разрозненные организации. Каждая из них должна завершить свою деятельность до того, как полученные ею результаты будут переданы следующей организации. Когда дело доходит до цифровых технологий, этот подход часто приводит к тому, что внедрённые системы работают плохо и устаревают ещё до развёртывания.
В проекте Maven используется другой подход. Он разработан на основе методов управления проектами в коммерческой сфере: прототипы продуктов и базовая инфраструктура разрабатываются в несколько итераций и постоянно тестируются сообществом пользователей. Разработчики ИИ могут перекраивать свои решения в соответствии с нуждами конечных пользователей, а те, в свою очередь, имеют возможность подготовить свои организации к быстрому и эффективному использованию ИИ. Ключевые этапы развития ИИ — маркировка данных, развитие вычислительной инфраструктуры, разработка и интеграция алгоритмов нейронной сети и получение отзывов пользователей — всё это осуществляется итеративно и параллельно.
Хотя современные ИИ-методы анализа изображений чрезвычайно эффективны, разработать алгоритмы для конкретного приложения всё ещё нелегко. Здесь не действует принцип «включай и работай». Для создания надёжной ИИ-системы с глубоким обучением требуются огромные массивы данных, с помощью которых осуществляется настройка алгоритма глубокого обучения. Помимо того, что эти данные должны быть доступными, их следует заранее классифицировать и пометить. Этот этап автоматизации может быть на удивление трудоёмким. При создании первых наборов данных для обучения, участникам проекта Maven пришлось вручную маркировать более 150 тыс. образов. К концу января это число должно вырасти до миллиона. Такие массивы информации необходимы, чтобы обеспечить надёжную эксплуатацию ИИ в самых разнообразных условиях, включая перепады высоты, разную плотность наблюдаемых объектов, сдвиги в разрешении картинки, изменение углов обзора и т. д. Для любого ИИ, который пойдёт по пути, проложенному проектом Maven, на службу в министерство обороны, требуется приобрести и пометить огромное количество данных.
Когда данные помечены, вступает в дело алгоритмический процесс обучения, предъявляющий к вычислениям ряд чрезвычайно жёстких требований. Традиционная ИТ-инфраструктура практически бесполезна для этих вычислений. Многие ведущие коммерческие хай-тек компании вынуждены были разработать для ИИ собственные процессоры и сети с облачной инфраструктурой. Министерство обороны потратило годы и миллиарды долларов, пытаясь перенести свою цифровую деятельность в облако, но эти инфраструктуры создавались без учёта того, что требуется для обучения ИИ и выполнения компьютерных умозаключений. Чтобы запустить ИИ, участникам проекта Maven пришлось с нуля создавать свою собственную инфраструктуру, включая вычислительные кластеры для обработки графики. Хорошо, что кое-что из этой инфраструктуры может пригодиться для алгоритмического обучения ИИ в рамках других проектов министерства.
Ещё в процессе работы над окончательными версиями набора данных и вычислительной инфраструктуры команда проекта Maven разработала альфа- и бета-версии для создания алгоритмов, причём сделала их доступными для сообщества пользователей. Так пользователи уже на этом этапе реализации Maven получили возможность высказывать своё мнение. Они подсказали команде проекта техническое решение одной из проблем, возникших в ходе антитеррористических операций на Ближнем Востоке. Пользователи помогли своевременно скорректировать проект, когда обнаружили, что его реализация пошла неправильно. Только такой подход мог позволить команде проекта Maven через шесть месяцев после начала его финансирования получить высококачественный, готовый к оперативному использованию продукт. В начале декабря, когда прошло чуть более полугода с момента начала проекта, первые алгоритмы Maven уже поступили в распоряжение аналитиков разведки для поддержки реальных миссий беспилотников в борьбе с ИГИЛ.
Сто проектов Maven?
То, что проект Maven дал простор революционному потенциалу ИИ, показал такой уровень технологических инноваций и программной гибкости, какие и не снились большинству цифровых инициатив министерства обороны, — это хорошая новость. Однако есть и плохая: успех проекта Maven — явное свидетельство того, что существующие ИИ-технологии могут произвести революцию в сфере национальной безопасности уже сейчас, даже если министерство обороны ещё не готово к организационным, этическим и стратегическим последствиям этой революции.
Теперь, когда реализация проекта Maven оправдала самые радужные ожидания бывшего заместителя секретаря министерства обороны, успех данного предприятия, скорее всего, породит сотню клонов в рамках военного и разведывательного сообщества. Министерству следует позаботиться о том, чтобы в этих клонах реально присутствовало ноу-хау Maven, которое не ограничивается применением ИИ-технологий. Успех проекта обусловлен его организационной структурой: здесь имеет место небольшая кросс-функциональная группа, уполномоченная устанавливать и развивать внешние партнёрские связи, использовать инфраструктуру и платформы своего ведомства и взаимодействовать с пользователями в процессе реализации проекта. Нужно органично вплести ИИ в ткань Министерства обороны, и если нынешним институтам ведомства понадобится использовать программы эффективного внедрения ИИ, им придётся скопировать структуру управления проектом Maven. Кроме того, министерству нужно разработать инструкцию по эффективному использованию ИИ, а затем обучить такому обращению с ИИ своих чиновников и комбатантов. «Сама по себе техника, — сказал мне один прозорливый пентагоновский стратег, — мало что значит, если у нас нет людей, способных её применять, если мы не знаем, как её применять, и если мы не учим тому, каким должно быть её толковое применение».
Над собственной версией проекта Maven уже работает сообщество аналитиков, имеющих дело с изображениями, которые поступают со спутников. Следующим шагом станет применение ИИ-анализа изображений, поступающих с дронов, не только в борьбе с ИГИЛ, но и в других сферах деятельности министерства обороны. После этого клоны проекта Maven, по-видимому, разработают для других типов сенсорных платформ и разведывательных данных, включая анализ данных радаров, радиоэлектронной разведки и даже анализ цифровых документов. Но и этим дело не кончится. Генерал-лейтенант Шанахан возлагает особые надежды на применение ИИ в киберпространстве, и здесь с генералом полностью согласно Агентство национальной безопасности (National Security Agency). В октябре 2016 года Майкл Роджерс (Michael Rogers), глава АНБ и Киберкомандования США (US Cyber Command), заявил: «Смею утверждать, что в будущем в основе кибербезопасности будет лежать развитие искусственного интеллекта и машинного обучения. … На мой взгляд, это всего лишь вопрос времени».
Службы национальной безопасности США вполне резонно настаивают на том, чтобы использовать возможности ИИ более широко. Этого настоятельно требует обстановка в области глобальной безопасности, поскольку Россия и Китай спешат приспособить ИИ для шпионажа и военных действий. Роберт Уорк и бывший генеральный директор Google Эрик Шмидт (Eric Schmidt) заявили, что лидерство в области ИИ-технологий имеет решающее значение для будущей экономической и военной мощи и что США отнюдь не гарантировали себе дальнейшее лидерство. В любом случае, Министерство обороны должно изучить новый технологический ландшафт, ясно сознавая связанные с ним риски.
Надо отдать ведомству должное: оно сделало своим ИИ-плацдармом видеоданные дронов, чтобы избежать некоторых наиболее острых этических и стратегических проблем, порождаемых автоматизацией военных действий. Расширяя список миссий, в которых должны применяться современные ИИ-технологии, военные и разведывательные службы США столкнутся с весьма болезненными стратегическими, этическими и юридическими проблемами, которых проект Maven благодаря своей узкой направленности сумел избежать. Когда ИИ просто подсчитывает количество автомобилей в снятой дроном записи, ставки сравнительно малы, но с помощью такого ролика также можно узнать, не является ли человек непосредственным участником боевых действий и не следует ли его в связи с этим атаковать. По мере своего развития и освоения новых сфер деятельности системы ИИ будут порождать всё более сложные этические и юридические дилеммы.
Американским военным и разведывательным службам придётся разработать эффективные технологические и организационные меры предосторожности, которые гарантируют соответствие военного использования ИИ национальным интересам. Сделать это надо таким образом, чтобы не утратить доверие со стороны выборных должностных лиц, американского народа и союзников Вашингтона. То, что развитие искусственного интеллекта является частью современной гонки вооружений, конечно же, не облегчает задачу.
Недавний новостной заголовок «Россия — Объединённым Нациям: не пытайтесь заставить нас отказаться от создания роботов-убийц» — увы, не такая уж и гипербола, как может показаться на первый взгляд.
Помимо специфических правовых и этических проблем, с использованием ИИ связаны специфические виды уязвимостей и сбоев, ибо технологии искусственного интеллекта весьма отличаются от традиционных. Можно, к примеру, используя модификации изображений, незаметные для человеческого глаза, создавать «конкурирующие образцы» (adversarial examples), которые успешно сбивают с толку ИИ-системы компьютерного зрения. Искусственный интеллект могут вывести из строя и кибератаки, которые «отравляют» наборы данных для обучения. Министерство обороны должно обеспечить надёжную защиту ИИ в тех случаях, когда речь идёт о жизни и смерти и в условиях, когда противник постоянно стремится отыскать у ИИ-системы уязвимые места.
Кроме того, министерство должно разработать стратегию национальной безопасности, которая, несмотря на способность передовых ИИ-технологий стремительно распространяться по всему миру, позволит США сохранить лидерство в этой технологической сфере. В 70-е годы министерство и его подрядчики разработали технологию «стелс» и высокоточное оружие. Тем самым они заложили основы монополии на технологии, которые фактически гарантировали победу в любой неядерной войне, и монополия эта длилась почти четыре десятилетия. Сейчас ситуация другая: современные технологии искусственного интеллекта разрабатывают коммерческий сектор и научное сообщество, которые выкладывают большую часть разработок онлайн. В любом случае, эти сообщества весьма далеки от тех структур Министерства обороны, которые традиционно занимаются созданием технологий. Хотя пока лучшие исследования, связанные с использованием искусственного интеллекта, по-прежнему проводятся в Соединённых Штатах и союзных с ними странах, национальная ИИ-стратегия Китая, провозглашённая в июле этого года, представляет серьёзную проблему для лидерства США в технологической сфере.
Проект Maven успешно перенёс лучшие ИИ-технологии и методы управления проектами из коммерческой среды в военную, и это — замечательное достижение. Но в том, что касается развития искусственного интеллекта и обеспечения национальной безопасности, Соединённые Штаты сделали лишь первый шаг. Главные трудности впереди.
