Мнение толпы может оказывать сильное влияние на детей даже тогда, когда эта толпа состоит из роботов. Давно известно, что дети сильно подвержены влиянию сверстников, когда речь идёт о выборе или принятии решений. Но роль давящего коллектива, как показали результаты исследования, для детей могут выполнять и роботы. Это ставит ряд этических вопросов о том, как проектировать ИИ, с которым дети будут взаимодействовать.
Исследование о давлении группы роботов на мнение взрослых и детей было проведено под руководством Анны-Лизы Воллмер (Anna-Lisa Vollmer) в Плимутском университете (Plymouth University). Был использован эксперимент Аша, который разрабатывался в 1950-е:
Людям, все из которых, кроме одного, — подставные, показывают две карточки. На одной изображены три линии разной длины, а на другой — одна, соответствующая по длине одной из предыдущих трёх. Затем по кругу участники высказывают своё мнение, какая из трёх линий на первой карточке соответствует линии на другой карточке. Сначала высказываются все подставные участники, которые специально выбирают один и тот же неправильный ответ, а в конце мнение даёт испытуемый.
Цель процедуры — выявить, будут ли люди перенимать неправильное мнение большинства. Другими словами, этот эксперимент проверяет конформность людей (похожий эксперимент можно наблюдать в советском научно-популярном фильме «Я и другие»).
На видео выше фрагмент фильма «Я и другие», в котором детей спрашивают «Какого цвета пирамидки?» (на столе чёрная и белая), а они все по очереди отвечают: «Обе белые». Весь фильм можно посмотреть по ссылке: https://youtu.be/_LYe58b-3HM.
Учёные из Плимута провели этот тест на взрослых и детях от 7 до 9 лет (43 человека) в следующих комбинациях: ребёнок отвечает, сидя один в комнате; взрослый отвечает, сидя один в комнате; дети отвечают в группе с «подставными» человеческими участниками; взрослые отвечают, сидя с «подставными» роботами (3 робота); дети отвечают, сидя с «подставными» роботами.
Когда дети были одни в комнате, они давали правильный ответ в 87% случаев. Но когда они были окружены роботами, все из которых давали неправильный ответ, дети ошибались в 26% случаев, то есть, на 13% чаще. Для взрослых же разница в процентном соотношении ошибок и верных ответов наблюдалась незначительная.
Отсюда можно сделать громкий вывод: дети более восприимчивы к влиянию роботов.
Однако этот вывод нуждается в перепроверке, уверен Джастин Касселл (Justine Cassell), почётный декан Института взаимодействия людей и компьютеров (Human Computer Interaction Institute) при Университете Карнеги — Меллон (Carnegie Mellon University). Влияние на детей, по его мнению, могло оказать что угодно. Может быть, дело в характеристике голоса, которым роботы проговаривают свой ответ. И в случае с детьми не было контрольной группы, где были бы подставные человеческие участники. Вполне возможно, что роботы оказывают на детей меньше влияния, чем люди.
Ещё важно отметить, что роботы, которые использовались в эксперименте — это Nao, они по внешнему виду похожи на детей и говорят детским голосом. Поэтому для взрослых они не представляются авторитетными (возможно, если бы перед взрослыми сидели три робота авторства Хироси Исигуро, результаты были бы другими).
Нам и до этого было известно, что вещи оказывают сильное влияние на детей, будь то кукла Барби, которая на картинке говорит, что «девочкам трудно с математикой», или плюшевый мишка, во встроенный динамик которого заявляет, что «пора отложить игрушки и идти спать. Спокойной ночи!» Поэтому, по сути, это исследование не выявило ничего нового.
Помимо замеченных Касселем оплошностей, необходимо сказать, что у взрослых может быть определённый культурный опыт, они могли знать про этот конкретный тест с полосками или про другие похожие тесты. Это могло повлиять на ответы, которые они давали.
Несмотря на все соображения, представляется важным, что это исследование привлекло внимание общественности к проблеме влияния техники и технологий на детей. Искусственной интеллект нужно проектировать аккуратно и учитывать все возможные его влияния на человечество, как на взрослых, так и (особенно) на детей, чтобы мы все не оказались живущими в кошмарном сне через несколько десятилетий.
Вам может быть интересно:
Любовь в эпоху роботов. Готовы ли мы к интимной близости с андроидами?