Какие свойства должен иметь субъект, чтобы его можно было считать обладающим интеллектом? Есть множество определений интеллекта, вплоть до таких, под которые вполне подходят кедр и росянка. Кто будет отвечать за действия машины, управляемой ИИ? Владелец? Программист? Кто должен менять законы, регулирующие ИИ? И как они вообще должны меняться? Что в принципе такое искусственный интеллект? Это совсем не праздные вопросы и волнуют они не только «технарей», но и учёных гуманитарных направлений. Бен Байфорд (Ben Byford) в своём подкасте о машинной этике говорит с разными исследователями, которые регулярно высказывают весьма интересные мысли и мнения. Вот лишь некоторые из них:
Джоана Брайсон (Joana J. Bryson), научный сотрудник Университета Бата (The University of Bath)
Моё первое образование — в области психологии, но у меня есть докторская степень по искусственному интеллекту от Массачусетского технологического института (MIT). Сейчас меня больше знают как автора публикаций в области этики ИИ. Изначально я этим занималась в свободное время. Когда я писала диссертацию, я заметила, что у людей нет понимания этических обязанностей, которыми наделены машины. Мне, конечно, показалось странным, что я должна повторять «викторианские» идеи об этике, но все равно я записала свои мысли, и вышло неплохо.
Что такое ИИ? Самое важное — понять, что такое интеллект. При этом с точки зрения технологии совершенно неважно, что является искусственным, а что — натуральным интеллектом. Мне нравится руководствоваться философским определением. Оно звучит так: интеллект — это возможность совершать правильные поступки в правильное время. Однако это определение — слишком широкое. В философии обычно приводится пример камня, который, будучи брошенным, падает. С некоторой натяжкой, это можно принять за правильное действие в правильное время. Но мы не считаем, что камни обладают интеллектом, поэтому нужно уточнение: интеллектуальный агент делает правильные вещи в правильное время, отвечая на динамически изменяющуюся среду. Согласно такой формулировке, камень уже не является интеллектуальным агентом: если между камнем и землёй поставить преграду, камень не начнёт её облетать. В противоположность, если что-то непредсказуемое случится, беспилотная машина сможет изменить поведение и преследовать свою изначальную цель. Интересно, что в этом смысле растения обладают интеллектом — они меняют свои действия, чтобы приспособиться к условиям среды. И если мы сделаем робота, повторяющего поведение растения — это будет считаться искусственным интеллектом. Сейчас такие роботы — не новинка, и кто-то может сказать, что это вовсе не ИИ. Но сто лет назад и калькулятор считался ИИ! Сейчас некоторые профессора, я слышала, говорят, что беспилотные машины — это не ИИ. Хотя, казалось бы, что может быть более характерным примером ИИ! Беспилотные машины оперируют в бесконечно сложных условиях, они обладают почти такими же реакциями, как и человек-водитель. Единственное, они не выбирают, куда ехать. Но они прокладывают путь, реагируют на людей на дороге. Для меня это, без сомнения, ИИ. Причина, по которой мы не видим интеллекта в таких вещах — это потому что мы думаем, что интеллектом обладают только люди, что интеллект — это синоним сознания. Я работаю над тем, чтобы широкая публика научились отличать эти понятия.
Роб Уэрдем (Rob Wortham), PhD студент Университета Бата, факультет информатики
Как взаимодействует человеческий и машинный интеллект и какова природа этого взаимодействия? Какие модели выстраивают у себя в воображении люди, когда «общаются» с роботами? Насколько умным, они считают, роботы являются? Такими вопросами я занимаюсь в рамках университетской работы. Люди обычно заблуждаются, когда размышляют на эти темы — либо переоценивают роботов, либо недооценивают. Когда мы видим собаку, мы знаем, что она из себя представляет, как будет себя вести. Но потому что мы сейчас не очень часто встречаем роботов на улице, когда мы видим робота, у нас нет готовой модели мира, чтобы предсказать его поведение. В ближайшем будущем мы все будем работать с роботами, и это могло бы решать «проблему ожиданий», однако не все так просто. Роботы проектируются по-разному, они не все одинаковые. В то время как собаки — всегда собаки, они всегда хотят пить, есть, они видят и слышат. Их цели — эгоцентричны. Машины же не работают на собственную выгоду — они спроектированы, чтобы ассистировать пользователю. Кроме того, машина может быть соединена с интернетом, может записывать видео и аудио, — и по внешнему виду мы не можем сказать, что она делает. В противоположность, действия собаки включают видимые сигналы — она ест, пьёт, играет, но точно не записывает видео скрытой камерой. Вывод отсюда такой: для этичного поведения, машина должна давать намёки на то, что она делает. Если она снимает видео, она должна включать сигнальную лампочку, если фотографирует — должна издавать щелчок затвора.
Что такое интеллект? Интеллектуальный агент делает правильные вещи в правильное время. Камень не делает правильную вещь — он просто лежит на солнце, растение — делает правильные вещи, двигается к солнцу. В этом смысле — растение обладает интеллектом. Интеллектуальный агент — это такой, который чувствует изменения в среде, имеет какую-то цель или план действий о том, как он должен изменить мир для следования цели, имеет возможность взаимодействовать с миром, чтобы влиять на изменения. Хороший пример ИИ — беспилотные машины.
Сэм Кинсли (Sam Kinsley), научный сотрудник Эксетерского Университета (The University of Exeter)
Я лектор в области гуманитарной географии. У меня — междисциплинарный бэкграунд, но большая часть моей работы связана с технологиями. Моя первая научная степень — цифровое искусство (digital art), потом я работал программистом. Когда я получил финансирование, чтобы вернуться в университет, я начал размышлять о том, какие существуют основные типы рассказов о «технологическом» будущем. В итоге, для того, чтобы написать диссертацию, я поехал в Силиконовую долину интервьюировать разработчиков. Я спрашивал, как они себе представляют развитие технологий.
Что такое ИИ? ИИ — это дискурс, этот манера, в которой разные люди рассказывают истории (по большей части истории о них самих). Мы можем сказать, что первые рассказы такого типа появились во второй половине 30-х годов XX века. Среди авторов «технологических» повествований — Эдвард Фостер (E. M. Foster) и Герберт Джордж Уэллс (H. G. Wells). «Машина остановилась» Фостера — это интересная история, которая повествует о вещах, знакомых нам по реальной жизни. Если вы посмотрите на людей типа Курцвейла, технология для них является чем-то псевдорелигиозным, судя по форме повествования, которого они придерживаются. Что касается научного изучения — какие-то исследователи более склонны называть умную деятельность машин искусственным интеллектом, какие-то менее. Замечу, что фраза «машинное обучение» используется для описания многих вещей, круг которых порой выходит за рамки даже самого общего определения ИИ. Так что понятие ИИ говорит нам больше о том, кто его использует. То, как человек определяет ИИ, может сказать нам о его отношение к технологии, позиции в науке. Через попытки определения ИИ, мы можем лучше понять самих себя и выяснить наконец, что такое наш интеллект, а что такое — ум и сознание.
Косима Греттон (Cosima Gretton), преподаватель в области технологий здравоохранения в Университетском колледже Лондона (University College London), доктор медицины
В университете я изучала медицинскую психологию, сейчас я занимаюсь дизайном новых технологий здравоохранения. Мне особенно интересно устройство интерфейса взаимодействия людей и машин в области медицины, а также как ИИ может помогать врачам. Я работаю над новым типом оценки отчётов пациентов о своём здоровье. Я также прошла курс Университета сингулярности (трёхмесячная программа изучения новых технологий в Силиконовой долине, где рассматривают, как приложить новые технологии к решению социальных проблем).
Что такое ИИ? Я предпочитаю смотреть на ИИ в перспективе непрерывного технологического прогресса. Как только мы достигаем чего-то, о чем человечество мечтало, мы сразу решаем, что эта изобретённая вещь — это уже не искусственный интеллект, хотя пока её не изобрели — её называли ИИ. Определение зависит от того, какова следующая задача. Сейчас что-то ожидается от нейронных сетей. Подход нейронных сетей стар, но только последнее время у нас есть достаточно вычислительных мощностей и информации, чтобы получить значительные результаты. Вот сейчас это называется ИИ.
Мэтью Чаннон (Matthew Channon) — доктор юридических наук, ассистент в Саутгемптонском университете (The University of Southampton)
Я соавтор книги «Право и беспилотные машины» (The Law and Driveless Cars), которая будет опубликована в 2018 году. Я сейчас пишу главы этой книги, хотя большую часть мы будем писать, когда законы относительно беспилотных автомобилей вступят в силу. Интересно, что Палата лордов уже начала исследовать область ИИ, они уже разработали набор вопросов, на которые придётся ответить правовым регулированием. Беспилотные машины — это основная проблема.
Что такое ИИ? Это совокупность законов, которые очерчивают область деятельности ИИ, определяют правовые последствия этой деятельности. Текущие законы скоро нужно будет адаптировать под беспилотные машины, корабли, дроны. Это будет правовой кошмар! Нужно также будет менять себя, наш образ мыслей, нашу систему знаний, адаптировать публичное восприятие. Я немного скептически настроен, это все будет очень трудно реализуемо, и очень страшно! Мне нравится делать сравнение с обычными машинами. Как человечество к ним приспосабливалось? В 1896 первая машина была представлена широкой публике. Ушло тридцать четыре года на то, чтобы до конца отрегулировать деятельность машин на дорогах. Первая машина двигалась со скоростью две мили в час, и нужно было, чтобы кто-то шёл перед этой машиной с красным флагом и отгонял людей, которые «пялились» на машину и думали «о боже, что это». В 1910 — 15-х эти машины просто ненавидели. Люди их боялись. Когда мы будем вводить в использование беспилотные автомобили, мы должны быть осторожны. Нужно будет обеспечить уверенность публики в их безопасности. Нам нужно учиться на прошлом опыте! Но лучше бы мы это сделали побыстрее, чем в начале XX века.
Люси Маккормик (Lucy McCormick) — юрист, автор книги «Право и беспилотные машины» (The Law and Driverless Cars)
Мой главный интерес — беспилотные автомобили. После того, как ты разрешил сто или двести судебных споров об автокатастрофах, где техника играет решающую роль, становится понятно, что нужно внятное законодательство в этой области, особенно если беспилотные автомобили будут выпущены на дороги. Появление искусственного интеллекта и беспилотных автомобилей обусловило необходимость создания правового регулирования. Это интересная ветвь права, и она только зарождается. Я начала этим заниматься ещё до первых аварий беспилотных автомобилей от Google и Tesla. Интересно, что сама авария Tesla почти не повлияла на отношение публики к беспилотным автомобилям. Фактор, отвращающий людей от них — это не аварии, а плохой пиар. Например Volvo представляет себя как суперответственных за безопасность пассажиров, эта безопасность будет обеспечена технологиями. Но в условиях, когда люди не верят технологиям — это плохой способ убедить широкую публику в том, что за беспилотными автомобилями — «безопасное» будущее.
Что такое ИИ? Для меня это просто очень сложное программное обеспечение. Я не думаю, что оно достигнет уровня человеческого интеллекта в обозримом будущем. То, что я вижу — это процесс эволюции, особенно в области автомобилестроения. Первая попытка «упразднить водителя» была в 1950-х, и это был круиз-контроль, затем в 1990-х мы получили адаптивный круиз-контроль, где не только скорость, но и оптимальное расстояние до машины впереди поддерживается автоматически. В 2000-х мы стали добавлять дополнительные опции, такие как возможность держаться своей полосы, и до последнего времени такие обновления продолжались. Сейчас запущены автомобили Е-класса, которые обладают не только круиз-контролем, но и могут автоматически обгонять. Это накопительный процесс. Напомню, есть стадии автоматизации машин, от нуля до четырех, которые разработаны в США. 0 — нет автоматизации, 1 — есть одна автоматическая функция, 2 — несколько, 3 — ограниченная автоматизация, когда в трудной ситуации нужно, чтобы человек взял управление (это тот уровень, где технология находится сейчас); 4 — когда система самоуправления настолько надёжна, что внутри машины может сидеть ребёнок или слепой, или вообще не быть людей. Такие технологии станут доступны к 2025-м или 2030-м годам.
