Компании Paravision приказали уничтожить ИИ-алгоритм, обученный на ворованных фотографиях

+7 926 604 54 63 address
 Технология распознавания лиц даёт своему владельцу большую власть, которую необходимо регулировать.
Технология распознавания лиц даёт своему владельцу большую власть, которую необходимо регулировать.

За нарушение приватности данных Федеральная торговая комиссия США приказала компании Paravision уничтожить модель искусственного интеллекта, обучавшуюся на основе украденных фотографий. В ответ на это, Paravision создала должность консультанта по вопросам этики ИИ и опубликовала заявление, в котором описывает этические принципы создания этой технологии.

В 2019 году у NBC вышло расследование о мобильном приложении Ever. Оказалось, что фото пользователей, загруженные в Ever, использовались компанией Paravision для обучения искусственного интеллекта, без согласия самих пользователей. Фотографии друзей и родственников людей, которые они считали личными, на самом деле использовались для обучения алгоритмов, а те, в свою очередь, продавались правоохранительным органам и американским военным.

Два года спустя Федеральная торговая комиссия США осудила Paravision. Согласно решению комиссии, опубликованному 11 января, Paravision будет обязана удалить все фотографии, которые она тайно загрузила у пользователей, а также все алгоритмы, которые она создала с использованием этих данных.

В ответ на это, компания Paravision создала должность главного консультанта по этике искусственного интеллекта и опубликовала набор «Принципов искусственного интеллекта», которые будут служить этическим руководством для дальнейшего развития технологии распознавания лиц.

У новой руководительницы — особые полномочия. Элизабет Адамс (Elizabeth A. Adams) в настоящее время — научная сотрудница в Центре сравнительных исследований в области расы и этноса Стэнфордского университета (Standford University), а раньше она работала в качестве назначенного члена в Консультативном комитете по вопросам расового равенства в Миннеаполисе. Она также выступает в качестве консультантки в рамках круглого стола Организации Объединенных Наций по вопросам искусственного интеллекта.

Также Paravision опубликовала список принципов, которыми обещает руководствоваться при создании своей продукции. Они основаны на двух основных идеях: что технология ИИ должна обучаться согласно этике, принятой компанией, и что она должна продаваться «добросовестно». Это означает, например, что система распознавания лиц должна быть подготовлена по этнически разнообразным наборам данных. А ещё компания обещает продавать только модели искусственного интеллекта, отвечающие высоким стандартам качества, и не сотрудничать со странами, признанными нарушителями прав человека Государственным департаментом США и правозащитными организациями. Она также планирует ограничить распространение технологий среди правоохранительных, оборонных и разведывательных органов, при этом Paravision конкретно обязуется не допускать использования своей технологии в смертоносных автономных системах оружия (LAWS).

Адамс, со своей стороны, скорее всего, будет играть важную роль в соблюдении Paravision заявленных этических норм.

В период растущей обеспокоенности общества вопросами конфиденциальности и этических последствий технологии распознавания лиц компания Paravision первой предприняла какие-то действия в решении этих вопросов. Это делает ещё более явным её лидерство в области технологий визуального распознавания. Напомним, что в прошлом году продукция компании показала высокие результаты в тестах NIST по распознаванию лиц.

Можно только догадываться, задумалась ли бы компания об этичности своих действий без санкций Федеральной комиссии и сколько ещё подобных случаев остались нам неизвестными.
Paravision лишь одна из многих компаний, разрабатывающих ИИ для распознавания лиц. Такие технологии уже используются режимами разной степени тоталитарности для контроля за гражданами, и её развитие, а также её роль в обществе в будущем зависят от того, в чьи руки она попадёт, как будет регулироваться и как общество сможет влиять на это регулирование.

.
Комментарии