Airbnb разработала технологию, которая оценивает онлайн-проявления «личности» гостей и рассчитывает, насколько велик риск того, что они разнесут в хлам дом хозяина.
Стали известны подробности о ПО, которое анализирует черты личностей гостей. Инструмент предназначен для поиска информации в интернете о пользователе. На её основе система оценивает «добросовестность и совместимость» пользователей, а также их «поведенческие и личностные черты», с целью прогнозирования пригодности человека к использованию сервиса.
Недавно одна арендодательница из Лондона пожаловалась, что сотни рейверов разгромили её квартиру стоимостью 2,5 миллиона фунтов стерлингов и оставили там следы употребления наркотиков, хотя запрос на съём поступал с целью проведения «бейби шауэра» — праздника, когда будущую мать поздравляют с ещё не родившимся ребёнком. А в Калифорнии в снятой через Airbnb квартире в 2019 году на вечеринке в честь Хэллоуина были убиты несколько человек.
Технология проверки «бэкграунда» пользователей описана в патенте, опубликованном Европейским патентным ведомством (European Patent Office). Согласно патенту, Airbnb может использовать своё ПО для просмотра сайтов и страничек пользователей в социальных сетях на предмет признаков, говорящих о «добросовестности и открытости» (или наоборот). Идеал добросовестности был взят из обычных проверок на доверие, а обучающие данные поступали из «защищённых сторонних баз данных». Такие черты, как «невротизм и причастность к совершению преступлений», «нарциссизм, макиавеллизм (!) и психопатия», характеризуют человека как ненадёжного.
ИИ отмечает тех, у кого в соцсетях не свои фотографии или фейковые профили, кто постит ложную информацию на своей стене. Пользователи также получают плохие оценки, если ключевые слова, изображения или видео, связанные с ними, относятся к сфере наркотиков, алкоголя или секс-работы. Маркируется также и хейтспич.
В патенте сказано, что баллы по шкале доверия людям, «причастным к порнографии», или авторам «онлайн-контента с обсценным языком», будут снижаться.
С помощью инструментов машинного обучения также просматриваются новости, которые можно найти о человеке, и среди них выбираются связанные с разного рода преступлениями. ИИ даже может оценить серьёзность преступлений. В патенте говорится, что сообщения в блогах и на новостных сайтах также принимаются во внимание для формирования «графа личности».
Предполагается, что по совокупности данных можно рассудить, как пользователь ведёт себя по отношению к другим в реальном мире. Выходные данные такого ПО также коррелируют с образованием человека, опытом работы и социальной интегрированностью.
В Airbnb заявили, что патент — это результат работы компании над продуктом, приобретённым пару лет назад у компании Trooly. Использование патента компания отказалась комментировать.
На сайте Airbnb сказано, что каждое бронирование Airbnb проходит оценку на предмет риска, прежде чем высылается подтверждение. «Мы используем предсказательную аналитику и машинное обучение, чтобы мгновенно оценивать сотни запросов, и это помогает нам помечать потенциальную подозрительную активность до того, как она случится».
У редакции сайта «XX2 ВЕК» эта технология вызывает опасения относительно этичности использования «цифровых следов» людей. Также можно ожидать, что появится гендерный перекос из-за социальных стереотипов, традиционно наделяющих мужчин большей опасностью для общества.
