Интерфейсы усиления интеллекта. Рассказ о конференции

12 декабря в парке искусств «Музеон» в Москве прошла конференция «Интерфейсы усиления интеллекта», посвящённая 49-й годовщине проведённой Дугласом Энгельбартом (Douglas Carl Engelbart) демонстрации системы NLS (oN-Line System), на годы по многим параметрам опередившей развитие IT-отрасли и прозванной позже «Матерью всех демо» (The Mother of All Demos). По мнению организаторов московской конференции, научно-техническая революция 80-х была незавершённой. Некоторые возможности компьютера, представленные Энгельбартом в виде практической реализации ещё в 1968-м, так и не дошли до пользователя. Что именно пошло не так — было предложено обсудить. Приглашённые эксперты ответили на вопросы о том, что необходимо компьютерам, чтобы они действительно стали средством усиления человеческого интеллекта, как хотел Энгельбарт.

Компьютеры прошли большую эволюцию от мейнфреймов, которые занимали комнаты, до смартфонов, которые умещаются в ладонь. В 1936-м году Клод Шеннон (Claude Elwood Shannon) показал, что на базе простых логических операций можно построить сложные вычислительные устройства. То, что компьютер, подобно мозгу, может решать интеллектуальные задачи, послужило стимулом для «компьютерной революции». Сначала «компьютеры» использовались, чтобы облегчать работу зенитчиков, которым раньше приходилось выполнять непростые вычисления с помощью бумажных таблиц. Но были и визионеры, предполагавшие, что вычислительные устройства способны на большее. Вэнивар Буш (Vannevar Bush), человек, который возглавлял Национальный комитет по вопросам обороны США во время войны, был одним из них. В 1945-м году он опубликовал статью «As we may think» («Как мы можем мыслить») в журнале The Atlantic, в которой описывал устройство для хранения и обработки данных, построенное на микроплёнках. Энгельбарт вдохновился статьёй и решил создать персональный компьютер как устройство, которое решало бы комплексные проблемы. В 1968-м году учёный представил прототип персонального компьютера. За этим последовал огромный технологический прогресс: произошёл переход от ламповых к транзисторным архитектурам, — это облегчило задачу построения персонального компьютера. В 70-е каждый или работал с перфокартами, конкурируя за операционное время с другими участниками, или со своего терминала подключался к мейнфрейму (то есть большой вычислительной машине). Получалось что-то похожее на персональный компьютер. Далее перешли уже к тому, что ставили один полноценный компьютер (а не мейнфрейм с терминалами) в офис, затем и у каждого человека появился ПК.

Весь этот прогресс — последствие демонстрации Энгельбартом прототипа персонального компьютера в 1968-м году. Он тогда описал видеоконференции, гипертекст, электронную почту, одновременное редактирование документов несколькими пользователями. В какой-то момент прототип компьютера был передан компании Xerox, которая стала работать над проектом Xerox Alto. В результате был создан первый персональный компьютер. Наконец пользователь получил доступ к тому, что показывал Энгельбарт.

Идеи Энгельбарта оказались распространены, но они не были реализованы так, как это было задумано, они не изменили коренным образом модель интеллектуального взаимодействия людей. В 60-е годы была такая практика, две лаборатории были соединены постоянной видеосвязью, на большом экране можно было увидеть коллег из другой лаборатории. Была возможность находиться на связи в реальном времени, и это облегчало научное сотрудничество. Но победил не подход усиления интеллекта человека при помощи компьютера, а принцип «компьютер должен быть простым, дружественным, массовым и легко продаваться». В 90-е мы получили интернет, но качество организации информации оставляло желать лучшего. Ведь и до сих пор нет возможности работать с единым рабочим пространством (по сравнению с тем, что было показано в 60-х, Dropbox — это очень слабенько).

Вернувшись в прошлое и посмотрев на идеи Энгельбарта, можно найти рецепты для создания компьютеров будущего.

В течение последних десятилетий мы являемся свидетелями «второй весны ИИ». Первая такая весна была в 50-е годы, и тогда казалось, что интеллектуальные задачи, которые решает человеческий мозг, скоро поддадутся компьютеру. Но этого не случилось. Недавно мы наблюдали прорыв в решении ряда задач (например, компьютер обыграл человека в го, игру, в которую человек играет хорошо, а компьютер всегда играл плохо). То есть, ситуация меняется, и для этого есть три причины. Это (1) повышение производительности компьютеров; (2) создание архитектур для решения специфических задач (раньше были центральные процессоры, CPU, потом GPU, и сейчас самое новое поколение — тензорные процессоры); (3) увеличение размеров обучающих корпусов (с развитием интернета появилось огромное количество информации в цифровом виде; автоматизация бизнес-процессов обеспечила большой объём доступных данных, например записей разговоров кол-центров). Последний фактор — (4) прогресс в области алгоритмов: были созданы многослойные рекуррентные нейронные сети — революционный метод обработки данных.

Есть четыре категории задач, которые можно решать с помощью нейронных сетей. Это (1) прогнозирование продолжительной величины (например, можно на основе вашей фотографии спрогнозировать возраст); (2) создание новой информации на основе обучающего корпуса данных (этим занимаются т. н. генеративные модели); (3) задача классификации данных (например, отличить картинки кошечек от собачек); (4) задача перевода последовательности одних данных в последовательность других (sequence to sequence, seq2seq), например, машинный перевод. Кстати, наша жизнь — это тоже почти задача seq2seq: органы чувств генерируют векторы активности, описывающие движения мышц, а наш мозг на их основе генерирует выходные данные — сигналы к действию.

Идея свёрточных сетей не нова, — их математическая модель подражает структуре сетчатки глаза. Свёрточные нейронные сети явились огромным прогрессом, позволившим достичь паритета с человеком в задаче распознавания речи, в задаче классификации (распознавание образов, аудио и т. д.), в задаче перемещения стиля и в ряде других задач. Рекуррентные нейронные сети достигли рекордных успехов в задаче машинного перевода, построения чат-ботов (см. «Достижения в машинной обработке естественного языка»). Все лучше и лучше получается синтезировать речь (см. Сергей Марков. «Искусственный интеллект, литературное творчество и естественный язык»).

Сейчас у каждого человека есть носимое мобильное устройство, в котором есть акселерометр и гироскоп. По снимаемым с них данным можно сказать очень много о вас и вашей деятельности. Когда телефон находится в кармане, можно угадать, стоит ли человек, бежит по лестнице или спит. Какую бы сферу мы ни взяли, мы найдём много применений технологии нейронных сетей. Например, для медицины это поиск новых препаратов, диагностика лечения, анализ медицинских текстов, распознавание медицинских изображений (например, фМРТ). Это гораздо дешевле, гораздо точнее и гораздо быстрее, чем человеческий труд (подробнее — «Искусственный интеллект в медицине»).

Что нас ждёт в ближайшие несколько лет и что может усилить эффект от существующих достижений? Крупные компании, которые специализируются на производстве процессоров, ввязались в гонку по изготовлению специализированных устройств для нейронных сетей. Идёт работа над нейроморфическими импульсными процессорами (TrueNorth), над тензорными процессорами Google (которые, кстати, лежат в основе недавней победы шахматной программы AlphaZero). Когда это все придёт в пользовательский сегмент, оно серьёзно изменит технологический ландшафт.

Интерес к нейронным сетям (НС) всегда имел волнообразный характер. На пике каждой волны интереса (60-е, 80-е) думали, что скоро «наступит эра, когда кончится борьба человека за ресурсы, когда всё будет в изобилии». Но этого каждый раз не случилось, то же самое будет и с нынешним бумом. Всё дело в том, что подход НС не предполагает участия обучаемого объекта (робота, машины, алгоритма) в реальном мире. Поэтому ИИ умеет хорошо решать логические задачи, а такие задачи, которые человек решает не задумываясь (например, доехать от ст. м. «Октябрьская» до ст. м. «Калужская»), выполнить не может.

Есть альтернативный подход. Можно сделать робота, который будет иметь способность учиться, и который будет свободно двигаться в реальном мире. Он, конечно, будет сенсорно ограничен, но будет иметь базовые функции сенсомоторной координации (осознания того, как сенсорный вход связан с движением). Это важно, потому что сенсомоторная координация лежит в основе сознания. Движение — сложная задача, которую решает и человеческий мозг, и мозг животных. Она — решающая в основе эволюции интеллекта. Чувство непрерывности, ощущение трёхмерного пространства, — все это основывается на основе ощупывания тела, на основе проприоцепции, конвергенции в мозге тактильной информации и информации о длине мышц ощупывающей руки.

Важно, что сенсорные сигналы от наших движений меняются больше, чем сигналы, которые происходят от изменений внешнего мира. Я двинул глаза, и у меня кардинально поменялся сенсорный вход — то, что приходило на одни части сетчатки, приходит теперь на другие. Понять, что изменения сенсорного входа исходят от собственного тела, а не от изменения окружающей среды — это задача, определяющая возможность выжить. Изменения собственного тела безопасны, а изменения окружающей среды могут нести потенциальную опасность. Без различения характера сенсорного входа ни одна жертва не сможет избежать хищника, и хищник — увидеть жертву. При решении задачи сенсомоторной координации в мозге генерируется ожидаемый сигнал внешнего мира, который произойдёт в результате определённого движения. Если ожидаемое не совпадает с действительным, значит во внешнем мире что-то произошло.

Мы с коллегами занимаемся нейрокомпьютерными интерфейсами (BCI, brain-computer interface). Наша задача — исследовать, как их применить в задаче реабилитации постинсультных больных. У нас есть неинвазивный интерфейс BCI, энцефалографическая шапка, которая надевается на голову и распознаёт намерение человека совершить движение (например, раскрытие кисти левой или правой руки). Когда намерение раскрыть кисть распознаётся, сигнал идёт на экзоскелет кисти, который действительно её раскрывает. Если бы у меня была возможность делать проект, то я бы делал сенсомоторную координацию у роботов, воспитал бы ощущение собственного тела, ощущение «Я». Я бы покрыл робота тактильной чешуёй, чтобы за счёт его касаний у него сформировалась схема тела, чтобы он мог любую точку тела достать из любого положения руки. На этом я бы стал наращивать зрительную систему, как у человека.

Комментарий Сергея Маркова: Есть обучение с подкреплением, это направление занимается тем, что ИИ обучается не на основе выборок, где известно правильное решение, а на основе взаимодействия со средой. Нейронные сети не являются полной противоположностью описанному вами подходу.

Недавно рынок шоу-бизнеса и звукозаписи «упал». Всю дополнительную маржу, которую могли бы получать звукозаписывающие компании, правообладатели, производители дисков и упаковки, стали забирать высокотехнологичные компании. Корпорации Google, Amazon, Facebook заняли львиную долю медиарынка, вытеснив многие другие компании. Это гиганты капитализации, у них большой денежный поток и много активов, которые используются для выкупа перспективных стартапов. Потом эти стартапы используются для того, чтобы увеличить капитализацию, и так по кругу. Перейдя на цифровое обеспечение товаров и услуг, мы потеряли сотни тысяч рабочих мест — очень быстро стали не нужны ретейлеры, производители дисков и упаковки. Появились новые рабочие места, но их на несколько порядков меньше. Таким образом, технологии стимулируют социальное неравенство.

По данным исследований, технологический процесс приводит к «перекосу» в себестоимости продукта (если мы определяем её как труд + капитал): стоимость капитала становится всё больше, а стоимость труда — всё меньше. Если не будут придуманы механизмы перераспределения доходов, мы все будем стоить всё меньше, а те, кто контролирует капитал, будут получать всё больше дохода. Это ещё один шаг в сторону увеличения неравенства.

В целом, многие товары, например музыкальные треки или поездки на такси (Uber), аренда жилья (AirBnB), стали дешевле. Но при этом тот, кто создаёт товары и услуги, получает хоть что-то, а бывшая цепочка посредников — пропадает. Это явление в экономике называется уберизация. Сначала цены падают, а потом появляется либо монополия, либо олигополия — несколько компаний вытесняют с рынка всех остальных, и дальше они могут спокойно поднимать цены на продукцию, получая для себя дополнительную маржу. То, что придёт какой-то конкурент — маловероятно, так как благодаря уберизации большая часть рынка занята. Если вдруг появится конкурент, у которого есть инновационная технология, то лидер на рынке может либо присоединить его к себе, либо переманить к себе оттуда кадры, либо просто его «закрыть». Например, когда американские инвесторы купили фирму Nokia, Финляндия потеряла много рабочих мест, и это никому не понравилось.

Важно понимать, что когда вы покупаете электронный продукт, вы влияете не на рост, а на снижение ВВП. Если вы купите бумажную книгу, вы заплатите лесопереработке, целлюлозно-бумажной и картонной промышленности, заплатите за ритейл и упаковку. В случае электронной книги вы заплатите издательству и универсальному посреднику, например Amazon. Это, конечно, дешевле и удобнее, но ликвидируется много рабочих мест, и через три года это коснётся каждого.

Каково место человека в будущей экономике? Можно сказать «есть же идея базового безусловного дохода, и если он будет, то всё может выровняться». Но если он и будет, то в первую очередь в самых богатых государствах. Конечно, новые работы будут более интересными. Например, будут востребованы художники — нам важно художественное видение, его машина не может воспроизвести. А строители и трактористы нам будут больше не нужны — интернет вещей позволит минимизировать участие человека в работе строительства, агропрома и многих других отраслей. 15 миллионов работников сельскохозяйственного сектора окажутся невостребованными. И переучить их на исследователей нейросетей — не получится по многим причинам.

Комментарий Сергея Маркова: В начале 2-го века нашей эры считалось, что в будущем навоз завалит улицы городов и сделает их непроходимыми. Сейчас прогнозирование содержит такое же логическое противоречие, так как не понятно, переживёт ли рыночная экономика прогресс в области роста эффективности решения интеллектуальных задач.

Что может немного улучшить ситуацию — это бизнес-инновации, новые бизнес-методы. Но люди не хотят внедрять новые способы работы и мышления, потому что это требует больших усилий. Компании, которые внедряют бизнес-инновации, обычно находятся в состоянии конкуренции, а после уберизации у нас не остаётся конкуренции. Монополистам новые методы управления не нужны, им выгодно внедрять только технологические инновации.

Все идёт к тому, что к 2020—35-му году многие профессии исчезнут, а вузы не будут играть существенную роль в оценке кандидатов на рабочее место. Если раньше мы работали всю жизнь, то теперь мы будем всю жизнь учиться. Главное свойство новой системы образования — человек будет субъектом, а не объектом образовательного процесса. В современной системе образования человек является объектом, на него «спускают» методички, ему говорят, что правильно и что — нет. В будущем человек будет сам решать, что ему нужно учить сейчас. При этом для решения своей судьбы, людям потребуется разбираться во многих разных вещах. Погружение в профессию будет происходить рано — человека будут «закидывать» в профессию и давать ему реальные задачи. Люди будут работать непрерывно, но в каком-то другом виде, отличном от того, который мы имеем сейчас. И, в отличие от современного образования, новое образование будет давать целостную картину мира.

Будут развиваться психологические и нейротехнологии, они помогут в обучении. Например, будут созданы нейропротезы, и мы сможем сказать, что если некоторой психологической функции у человека нет, то мы «отрастим» её. Например, функцию работы с большими потоками данных. Сейчас краткосрочная память человека — это всего семь символов, а для работы с большими данными надо помнить гораздо больше. Мы можем помочь человеку запоминать больше символов при помощи экзокортекса.

Среди новых профессий, которые будут востребованы, можно выделить, например, таких как системный биотехнолог (архитектор живых систем) или тренер творческих состояний, который будет обучать людей переключать себя из расслабленного состояния в состояние, в котором хорошо слушать лекцию, или в состояние, в котором можно решать интеллектуальные задачи, и т. д.

Подведение итогов

Мы все понимаем, что рисуем «дивный новый мир» со многими изменениями, каждое из которых будет настолько радикально, что мы сейчас не способны охватить все его последствия, и наши прогнозы не стоят ничего. Если мы говорим об ИИ, есть два конкурирующих сценария, первый — ИИ будет надстройкой над человеческим мозгом, второй — ИИ будет развиваться сам, и возможно, захватит мир, как говорят нам алармисты. Мы точно не можем сказать, что будет, но можем с уверенностью сказать, что все зависит от системы общественных отношений, от того фреймворка, в котором существует технологический процесс. Есть очень много неприятных вопросов экономического и социального толка, и удобные ответы на них дать сложно. Но пытаться решать проблему, отталкиваясь от индивида и его качеств, думая, что это решит системные проблемы без регулирующей целенаправленной политики — это заблуждение.

Вряд ли можно ожидать, что люди каким-то образом начнут самосовершенствоваться. Не будет такого общества, где все будут всё понимать. Альтернатива — вмешательство сторонних сил, которые будут регулировать общественные процессы. Важно не одевать розовые очки. Что бы мы ни говорили, это наше будущее, и то, каким оно будет, зависит от нас. То, что будет всем лучше, — не факт. Уже сейчас экономисты говорят, что поколение миллениалов будет жить хуже, чем мы. Готовым к этому быть непросто — профессий новых будет немного, но переобучаться не все готовы.

Но мы точно знаем, что люди не обойдутся без комплексных инструментов для решения интеллектуальных задач. Усилив мозг, мы сможем решать сложные интеллектуальные задачи и возможно будем жить всё-таки в лучшем обществе, чем сейчас, вопреки мнению экономистов.