Работники Google призывают руководство компании прекратить сотрудничество с Министерством обороны США по поводу проекта Maven, в котором искусственный интеллект использован для определения военных целей на видео, снятом дронами. Почти 4000 человек подписали петицию с просьбой пересмотреть этические обязательства компании, и порядка дюжины сотрудников уволились, сочтя это моральным долгом.
В марте мы публиковали перевод статьи Грегори К. Аллена (Gregory C. Allen), сотрудника Центра новой американской безопасности (Center for a New American Security). В ней он рассказывает про запущенный в апреле 2017-го проект Maven, над которым Google работает в сотрудничестве с Министерством обороны США. Проект использует алгоритмы искусственного интеллекта, чтобы облегчить работу аналитиков по обнаружению людей и машин, связанных с террористическими действиями, на видео с дронов, снимающих ИГИЛ. Аллен подчёркивает положительные стороны проекта — удалось достичь сотрудничества между ВПК и профессионалами в области высоких технологий, причём это сотрудничество для благих целей — борьбы с терроризмом. Он также упоминает о слабой стороне проекта — этических вопросах использования ИИ в данной сфере, которые предстоит решить на последующих стадиях развития проекта.
Уже тогда, в марте, были слышны и менее оптимистичные мнения — сотрудники Google выражали скепсис по поводу проекта в обсуждении с коллегами. В апреле этот скепсис получил выражение в петиции, адресованной исполнительному директору Google Сундару Пичаи (Sundar Pichai), которую подписали порядка 4000 сотрудников. Работников поддержало сообщество исследователей ИИ в лице Международного комитета по контролю за роботизированными системами вооружений (International Committee for Robot Arms Control, ICRAC) — в открытом письме в поддержку сотрудников Google (опубликовано в понедельник и получило к настоящему моменту порядка 700 подписей). В письме и петиции выделяется несколько основных мотивов:
- Нельзя перекладывать ответственность за свою деятельность на третью сторону. Если Google сейчас обещает, что будет использовать технологию «с умом», то никто не гарантирует, что далее эта технология не будет использована третьей стороной для создания беспилотных бомбардировщиков, которые будут без помощи аналитиков идентифицировать цели (например, людей) и поражать их. Нельзя доверять ИИ определять, кто является террористом, а кто нет, надо ценить человеческие жизни.
- Google, сотрудничая с Министерством обороны, нарушает собственный негласный принцип Don’t be evil (не будь злом). Доверяя компании данные о своей личной жизни, среди которых информация о перемещениях, фотографии, события в календаре, люди предполагают, что эти данные не будут использованы им во вред. Теоретически, эти данные можно использовать в комбинации с видеозаписями с дронов, чтобы «эффективнее бороться с терроризмом». Гарантии, что кто-то не попробует это сделать — нет. Доверие людей накладывает большую ответственность на компанию. Если Google будет продолжать сотрудничество с Минобороны США, она потеряет авторитет, потеряет сотрудников и в целом проиграет.
- Компания начала сотрудничество по проекту, не проведя публичное обсуждение инициативы, поэтому она будет нести ответственность за любое применение разработанной технологии, а её деятельность по проекту будет противоречить международному законодательству и законам США.
Сотрудники требуют немедленно свернуть проект и подписать официальный документ, который бы подтверждал, что Google и её дочерние компании никогда не будут создавать технологии для ведения военных действий. Помимо требований, озвученных в петиции, в открытом письме исследователи ИИ требуют ввести запрет на беспилотное оружие.
Комментариев от Сундара Пичаи до сих пор не поступило, и к настоящему моменту, как сообщает Gizmodo, по этическим причинам, из компании уволились порядка дюжины сотрудников.
