Робототехник Джошуа Бонгард и биолог Майкл Левин предлагают стереть границы между биологией, инженерией, информатикой и создать новую область науки. Ей предстоит изучать машины будущего, которых ещё нет и которые не похожи на всё, что люди создавали до сих пор. Такими машинами нельзя управлять напрямую, их придётся убеждать. Этот взгляд ломает привычную картину мира, помещая жизнь в неожиданный контекст, однако, похоже, за ним правда.
Бонгард (Josh Bongard), информатик из Университета Вермонта (The University of Vermont), много лет изучает и моделирует адаптивных роботов, умеющих видоизменять своё тело. В 2007 году он вошёл в топ-35 лучших молодых инноваторов мира, рейтинг, ежегодно составляемый MIT Technology Review, а в 2010-м на церемонии в Белом доме был награжден Президентской премией.
Левин (Michael Levin), директор Центра регенеративной биологии и биологии развития Университета Тафтса (The Allen Discovery Center at Tufts University), исследует механизмы регенерации и роста, экспериментируя с земноводными. Его нетривиальные идеи ценят в Агентстве перспективных исследований министерства обороны США: Левин вовлечён сразу в несколько проектов DARPA.
В марте 2021 года они опубликовали статью под заголовком: «Живые объекты не являются машинами (в понятиях ХХ века): обновляем метафоры механизмов в свете современной науки о поведении машин». По сути это манифест, где затронуты глубокие идеи о том, как устроена реальность. Бонгард и Левин полагают, что биология и информатика изучают одни и те же процессы, и пора совместить эти науки.
Технологии, развиваясь, говорят они, меняют смысл таких понятий как «машина», «робот» или «программа». Компьютеры — лишь малая часть пространства вычислительных систем, куда входит и живая природа, и нужно исследовать все их разнообразие, включая «машины, какими они могли бы быть».
Больше биологии, эволюции и хаоса
Вот их логика. Раньше машиной назвали бы механизм, целенаправленно созданный людьми. Детали его подогнаны друг к другу и сопряжены, чтобы совершать нужную работу. В отличие от, например, глубоководной рыбы с прозрачной головой, которую явила на свет эволюция, за машиной стоит разумный автор. Но это в теории; на практике сложные машины имеют сложное происхождение.
Сегодня разработчик пусть и мыслит сам, но и наследует технические решения, принятые когда-то другими людьми, что делает одни его мысли более вероятными, чем другие; его выбор компонентов и дизайна машины зависит от моды, сложившихся практик, невидимой руки рынка и даже работы других машин. Вклад автора не так легко вычислить.
Генетические алгоритмы размывают этот вклад еще сильнее. Реактивные двигатели или роботов оптимизируют, запуская их эволюцию в компьютере. Программа виртуально создаёт популяцию машин со случайным разбросом параметров, далее включают естественный отбор, мутации и наследование лучших вариантов. Эволюция может идти бесконечно, человек лишь выбирает, когда её остановить.
Он(а) не знает, что получит в итоге — результат может быть интересным — но у машины могут появиться «лишние» детали. И чем та сложнее, тем вероятнее. Как пишут Бонгард и Левин, машины XXI века люди будут не столько проектировать, сколько развивать, используя эволюцию. Их научат отлично справляться с задачами, но устройство их будет запутанным и нерациональным. Здесь способ созидания влияет на результат: чем больше «биологии» на входе, тем её больше на выходе.
Например, такие сложные спроектированные устройства как самолёт или коллайдер можно выключить, разобрать на части, отремонтировать или проапгрейдить, а затем снова собрать. Развиваемые машины в своих плюсах и минусах будут повторять жизнь — попытки разобрать их на части будут почти в той же степени чреваты непоправимыми последствиями, как попытка разобрать кошку.
Однако параллель с биологией глубже. Авторы иллюстрируют её примером, близким Левину. Стая головастиков плавает по кругу, чтобы питательные вещества проходили через жабры. Стая как целое обладает поведением, головастики соревнуются друг с другом за корм, в то время как их черепно-лицевые ткани перестраиваются, превращаясь в голову лягушки. Ткани при этом еще и конкурируют за ресурсы, а клетки поддерживают гомеостаз, метаболизм, транскрипцию — каждая выполняет свою работу.
Эта вложенная архитектура из конкурирующих и сотрудничающих на разных уровнях единиц рождает такую степень надежности, гибкости и способности к адаптации, что любой инженер позавидует. Раны головастика заживают, тело перестраивается на ходу, а если вызвать сбой развития и глаз уродливо сползет в сторону, то сбой будет компенсирован. Глаза лягушки окажутся на положенных местах.
Как отмечают Бонгард с Левиным, в этом «реальная разница между тем, как мы проектируем машины, и тем, как строятся живые существа». Их идея в том, чтобы не повторять природу один в один, но найти первые принципы, очистить их от несущественных деталей и затем воплотить в машинах.
Тогда машины будут устроены как «подвижное «общество» компонентов, которые на разных уровнях общаются, торгуют, сотрудничают, конкурируют и обменивают информацию и энергию». Роботы станут гибридными, «шумными», плохо предсказуемыми в мелочах и в чём-то избыточными — но будут уметь гораздо больше.
Это не беспочвенные фантазии. Бонгард и Левин на многих примерах показывают, что робототехники, программисты и биоинженеры уже сейчас размывают все ключевые отличия машин от организмов — да, пока в лабораториях, в редких и первых экспериментах. Их тормозит слабость технологий, но тренд уже задан, машины XXI века будут биологизироваться, умнеть и повышать свою автономию. А это значит, что прежние методы контроля им не подойдут.
Зачем убеждать машину
Два года назад в журнале Nature вышла статья, которую также можно принять за манифест. Двадцать три автора, среди них и Бонгард, работают в известных научных центрах, таких как МТИ, Гарвард, Стэнфорд, Йель, Институт Санта-Фе, Имперский колледж Лондона, а также Microsoft Research, Facebook AI и Google Brain. И, что бывает нечасто, в одном тексте сошлись специалисты по информатике, инженерии, экономике, социологии, антропологии, психологии и этологии.
Их статья называется просто: «Поведение машин». В ней авторы провозглашают новую область научных исследований. Они призывают изучать машины не как инженерные артефакты, а как агентов с присущими им моделями поведения: «Это похоже на то, как этология и поведенческая экология изучают поведение животных, интегрируя физиологию и биохимию, то есть внутренние свойства, с изучением экологии и эволюции — свойств, формируемых окружающей средой».
Авторы говорят, что машины и цифровые агенты становятся всё умнее и изощрённее, а среды, в которых они действуют, усложняются. Понять, как поведёт себя машина, зная лишь её внутреннее устройство и алгоритм, будет невозможно. Придётся учитывать действия других машин, людей и побочные эффекты, которые не планировались при её создании.
Скажем, один робот Spot от Boston Dynamics ведёт себя предсказуемо; тысяча таких спотов, действующих вместе, могут перейти в режим, который удобнее описать в терминах стаи птиц или роя насекомых. В таких сценариях группа демонстрирует понимание среды, которого нет на уровне индивида. Далее, подобно животным, машины могут демонстрировать «социальное научение» — и учиться не только у других машин, но и у людей, и даже наоборот, люди смогут учиться на поведении машин.
Исследовать такие явления полезнее и выгоднее не с позиций инженера, а как приматолог изучает стаю обезьян: наблюдая за поведением и контекстом, применяя теорию игр, исследуя статистику популяций, их эволюционное прошлое и даже проводя эксперименты.
Добытые знания о поведении машин станут частью норм, правовых и социальных, примерно как сейчас регулируется, например, обращение с животными. Но чем умнее будут машины, тем сильнее применяемая к ним этология будет вытесняться социологией, психологией и даже психиатрией. Бонгард и Левин считают, что свойство быть роботом не бинарно: можно быть роботом почти или слегка — скорее, это спектр, где меняется степень «убеждаемости» системы.
На одном краю спектра расположены механизмы, которыми управляют лишь прямым физическим усилием, например, крутя руль и давя педали. В середине находятся машины, которые реагируют на стимулы и управляются мотивациями, их можно дрессировать, обучать через «кнут и пряник», словом, бихевиоризм вполне работает на этом уровне.
Дальний край спектра занимают автономные машины. Их трудно заставить. Они сами ставят цели. Чтобы изменить их поведение, нужно добиться смены целей, и лучший способ сделать это — сообщить им вескую причину, довод. Одним словом, машину такого типа придется убеждать.
Этот сценарий мог бы показаться слишком далёким, чтобы думать о нём всерьёз, но в марте 2021 года специалисты IBM Research AI представили Project Debater. Как пишет журнал Nature, это «автономная компьютерная система, которая может участвовать в живых дебатах с людьми» и она «намекает на будущее, в котором искусственный интеллект помогает людям формулировать и осмысливать сложные аргументы».
Живое в едином пространстве
Мир машин, предвещаемый Бонгардом и Левиным, существует в виде идей и концептов. Он пока не влияет на нашу жизнь. Но если ему суждено появиться, то произойдёт это скачком, как только технологии преодолеют порог в развитии. И не только инженеры позаимствуют приёмы у биологов, но и наоборот, биологи смогут проектировать живое на компьютере. Бонгард и Левин даже показали, как: первый у себя в Берлингтоне запустил эволюцию цифровой модели из разных типов клеток лягушки, второй по мотивам симуляции создал в бостонской лаборатории ксеноботов, живые машины (см. об этом в т.ч. в нашем обзоре биотеха за первую половину 2020 года).
Левин взял обычные живые клетки и, следуя модели, соединил их по-новому, как они никогда не сочетаются в природе, причём вовсе не трогая гены. Ксеноботы ничем не напоминали лягушек, ни внешне, ни поведением, хотя и несли в себе их ДНК. Так Бонгард и Левин инвертировали обычный подход к программированию, при котором разработчик правит «софт», но не «железо». Они поступили наоборот.
Исследования Бонгарда с роботами плюс опыты Левина с живой материей привели их к мысли, что машины можно создавать не так, как их строили до сих пор. У машин могут появиться принципиально новые свойства, а пространство машин «какими они могут быть» огромно. Организмы, живущие на планете, и машины, созданные людьми — лишь острова в этом пространстве.
И если авторы «Поведения машин» предлагали лишь черпать вдохновение у биологов, словно притворяясь, что инженеры имеют дело с неким подобием животных (но не веря в это), то спустя два года Бонгард и Левин сделали следующий шаг — они заявили, что это подобие не мнимое. На более глубоком уровне механизмы и организмы относятся к одной и той же категории систем. И то, и другое — машины в новом понимании (но не в понимании ХХ века). Отсюда и возможность изучать их теми же методами.
Бонгард и Левин видят это как континуум разных свойств, «которые могут быть воплощены в бесчисленном множестве новых реализаций». Новая научная дисциплина, где сойдутся биология, вычисления и инженерия, призвана «исследовать огромное и увлекательное пространство возможных машин».
Рак, депрессия и мемы
За рамками статьи остались трудные вопросы, связанные с этим пространством. Во-первых, машины обещают быть сложными, и в виду их эволюционного развития разобраться в этой сложности будет крайне тяжело. Когда барахлит «машина ХХ века», её можно чинить, исходя из конструкции, ведь та заведомо известна. Но как устроено «подвижное общество компонентов», какой из них за что отвечает, выяснить до конца не удастся. Если вдруг часть деталей прекратят работать на общую цель, станут «раковыми» — как это исправить и даже как заметить?
Во-вторых, автономные машины могут самостоятельно принимать массу решений, имеют представления и мотивации. У них есть аналог того, что у живого организма назвали бы психикой, и это делает их не только более гибкими, но и более уязвимыми. Не известно, станут ли они страдать, если им не удастся достичь цели. И возможны ли «расстройства психики»: скажем, способны ли машины впадать в депрессию или бредить. Здесь вопрос и в том, как это контролировать, и в том, как поставить диагноз.
Третий вопрос касается перехвата управления. Сегодня в систему запускают компьютерный вирус, он меняет её работу. Машина, которую следует убеждать, может быть атакована «мыслевирусом» или, проще говоря, мемом. Люди очень уязвимы для мемов, вероятно, для машин их тоже будут разрабатывать, как и инструменты защиты. Хорошая новость в том, что такое противостояние снаряда и брони принесет много ценных знаний о природе сложных систем. Но кибервойны выйдут на новый уровень.
Однако переход к машинам нового типа не зависит от желаний Бонгарда и Левина, они просто сказали об этом чуть раньше других. Они увидели, что машины, которые проектирует и создает человек, воплощают лишь одну возможность из большого разнообразия. Там дальше лежит неизведанное. Как появление комплексных чисел вызвало к жизни огромные новые пространства математики, так и технологии откроют людям вселенную машин, какими те никогда не были, но какими они могут быть.
