Мишель Бачелет (Verónica Michelle Bachelet Jeria), верховный комиссар ООН по правам человека, призывает к мораторию на использование технологий искусственного интеллекта, представляющих серьёзную угрозу для прав человека, включая системы распознавания лиц, отслеживающие людей в общественных местах.
Верховный комиссар также заявила в среду, 15 сентября, что государства должны прямо запретить приложения ИИ, не соответствующие международным актам в области прав человека.
Приложения, которые должны быть запрещены, включают государственные системы «социального рейтинга», которые оценивают людей на основе их поведения, и некоторые инструменты на основе систем искусственного интеллекта, которые классифицируют людей по группам, таким как этническая принадлежность или пол.
Технологии, основанные на искусственном интеллекте, могут быть силой добра, но они также могут «иметь негативные, даже катастрофические последствия, если их использовать без достаточного учёта того, как они влияют на права человека», — говорится в заявлении Бачелет.
Заявление Бачелет сопровождалось новым отчётом ООН, в котором рассматривается, как страны и предприятия бросились применять системы искусственного интеллекта, влияющие на жизнь и средства к существованию людей, без создания надлежащих гарантий для предотвращения дискриминации и других видов вреда.
«Речь идёт о признании того факта, что если ИИ будет использоваться в этих — очень важных — функциональных областях, связанных с правами человека, — сказала журналистам, представляя отчёт ООН в Женеве, Пегги Хикс (Peggy Hicks), директор по тематическому взаимодействию правозащитного центра, — то это нужно делать правильно. И мы просто ещё не создали структуру, которая обеспечивала бы это».
Бачелет не призывала к прямому запрету технологии распознавания лиц, но заявила, что правительства должны прекратить сканирование лиц людей в режиме реального времени до тех пор, пока они не смогут доказать, что технология достаточно точна, не допускает дискриминации и соответствует определённым стандартам конфиденциальности и защиты данных.
Хотя конкретные страны в отчёте не назывались, очевидно подразумевался в первую очередь Китай, широко внедривший технологию распознавания лиц, особенно в Синьцзяне, где проживает уйгурское меньшинство. Ключевые авторы доклада заявили, что называть конкретные страны не входит в их мандат и это может быть даже контрпродуктивно.
«В контексте Китая, как и в других контекстах, мы обеспокоены прозрачностью и дискриминационными приложениями, которые касаются конкретных сообществ», — сказала Хикс.
Она привела несколько судебных дел в Соединённых Штатах и Австралии, рассматривавших неправильное применение систем искусственного интеллекта.
В докладе также высказывается настороженность по поводу инструментов, которые пытаются определить эмоциональное и психическое состояние людей, анализируя выражение их лиц или движения тела. авторы доклада опасаются, что такая технология подвержена предвзятости, неправильным интерпретациям и не имеет научной основы.
«Использование систем распознавания эмоций государственными органами, например, для определения отдельных лиц для полицейских задержаний или арестов или для оценки достоверности заявлений во время допросов, чревато подрывом прав человека, таких как право на неприкосновенность частной жизни, свободу и справедливое судебное разбирательство», — говорится в докладе.
Европейские регуляторы уже предприняли шаги, чтобы ограничить самые рискованные применения ИИ-технологий. Предлагаемые правила, изложенные должностными лицами Европейского союза в этом году, запретят некоторые виды использования ИИ, такие как сканирование в реальном времени черт лица, и будут жестко контролировать другие, которые могут угрожать безопасности или правам людей.
Администрация президента США Джо Байдена высказывала аналогичные опасения, хотя ещё не изложила подробный план их решения.
Усилия по ограничению наиболее рискованного использования ИИ-технологий были поддержаны многими IT-гигантами США, которые надеются руководствоваться в своей работе антидискриминационными правилами. В частности, по словам Хикс, с управлением ООН по правам человека активно сотрудничает Microsoft.
