Предлагаем вашему вниманию работу шотландского исследователя Пола Кокшотта (William Paul Cockshott), экономиста и специалиста по компьютерным наукам, которой Кокшотт возражает американскому экономисту Питеру Бёттке (Peter Boettke), развивающему хайековскую критику социалистического планирования и утверждающему, что даже искусственный интеллект не сможет преодолеть существенные ограничения планирования, так как ИИ, как и естественный интеллект сегодня, неминуемо упрётся в тот факт, что любой набор правил будет недостаточным в силу недоучитывания конкретного контекста и постоянной эволюции последнего.
1. Аргументация Бёттке
Философия, писал Альтюссер (Althusser) (Альтюссер, 1971b), представляет политику науке и науку политике. Она очерчивает границы дозволенного знания и дозволенного исследования. Это особенно ярко проявилось в философских опытах таких экономистов, как Хайек (Hayek) и Бёттке (Boettke) (Бёттке и Сабрик (Subrick), 2001). Всеобъемлющий проект Хайека должен был обосновать его утверждение о том, что пришло время признать непреодолимую ограниченность нашей способности управлять сложными явлениями — в частности, экономикой. Бёттке стремится использовать философские доводы Сёрла (Searle) против ИИ (искусственного интеллекта), чтобы отвергнуть как неосуществимое, с научной точки зрения, любое предложение создать современную плановую экономику на основе компьютерных технологий. При этом он опирается на философские рассуждения о природе знания и пределах вычислений. Его аргументация не отличается строгостью, она иносказательна, но, даже считая это допустимым, следует, по нашему мнению, сказать, что она покоится на существенном недопонимании природы информации и вычислений.
Бёттке использует сёрловскую критику сильных версий искусственного интеллекта, чтобы развить хайековскую критику социалистического планирования, объяснить чрезвычайно проблемный характер перехода плановой экономики в рыночную в Восточной Европе и на территории бывшего СССР. Вкратце аргументацию Бёттке можно изложить так:
- Согласно Сёрлу, синтаксис существенно отличается от семантики.
- Согласно Хайеку, формы экономических организаций существенно отличаются от исходных социальных основ реальных экономик.
- Таким образом, изменение «синтаксиса» экономики от планового к рыночному, осуществляемое без изменения «семантики» исходной социальной формации, ведёт к тому, что в обществах, переходящих к рыночным отношениям, капитализм принимает форму хаоса.
Бёттке использует эту аргументацию, критикуя предложенную Кокшоттом (Cockshott) и Коттреллом (Cottrell) (Кокшотт и Коттрелл, 1992; Кокшотт и Коттрелл, 1997) обновлённую форму социалистической экономики, основанную на распределённом планировании. В отличие от других критиков планирования (Ноув (Nove, урожд. Александр Яковлевич Новаковский), 1983), Бёттке допускает, что проблемы планирования, связанные с вычислениями, больше не являются неразрешимыми. Скорее, утверждает он, идя по стопам Хайека, загвоздка в другом: в невозможности полностью охватить «значения», необходимые для плановой экономики, в виде набора правил, не зависящих от индивидов, создающих эту экономику.
Мы материалисты в традиционном марксистском смысле. Мы также материалисты в смысле традиции, заложенной Тьюрингом. В нашей критике Бёттке мы будем использовать аргументацию в русле обеих указанных традиций. Наши аргументы, представленные далее, можно обобщить так:
- Мы проведём критический анализ существенной разницы между синтаксисом и семантикой, о которой говорит Сёрл.
- Мы также собираемся подвергнуть критике беспроблемность переноса таких понятий, как синтаксис и семантика, из области теории формальных языков в существенно иную область социально-экономических явлений.
- В противовес Хайеку, который подчёркивает ведущую роль человеческой субъективности и акцентирует внимание на ограничениях, налагаемых этим обстоятельством на социологические исследования, мы выставляем модель, в которой человеческие субъекты действуют под влиянием социальных производственных отношений.
2. Формальная семантика и интерпретация
Рассуждая о Хайеке, Сёрле и социальном контексте экономической деятельности, Бёттке использует термин «семантика» в трёх взаимно противоречащих смыслах, но мы рассмотрим это несколько позже. Аргументация Бёттке зиждется на утверждении о том, что символы охватывают область семантики неадекватно. Возражая, мы будем опираться на замечательные достижения британского математика Алана Тьюринга (Alan Turing), в чьих пионерских трудах нашлось место и формальной характеристике семантики, и описанию связи между искусственным и естественным интеллектом. Для этого нам следует кратко изложить существенные моменты развития математической логики и философии 1930-х и 1950-х годов.
Немецкий математик Гильберт (Hilbert) сформулировал амбициозную программу полной формализации математики. Он, в частности, рассчитывал продемонстрировать последовательность последней (неспособность доказывать противоречивые положения), полноту (способность доказывать все истинные теоремы) и разрешимость (наличие механических средств установления истинности или ложности произвольной формулы). Парадокс Рассела (Russell) показал, что адекватно описывающий математику формализм, основанный на теории множеств, определённо может содержать противоречия. Единственным выходом был бесконечный, по всей видимости, регресс в сторону всё более и более сильных систем. Теоремы Гёделя (Gödel) показали, что адекватно описывающий математику формализм может быть либо последовательным, либо полным, но не тем и другим вместе. В поисках последовательности (непротиворечивости) математики вынуждены были признать, что существуют теоремы, истинность или ложность которых нельзя установить. Между прочим, Бёттке ссылается на неправомерное использование Пенроузом (Penrose) результатов, полученных Гёделем, для доказательства того, что люди представляют собой нечто большее, чем машины. Мы обсудим это ниже.
Как парадокс Рассела, так и теоремы Гёделя зависят от формального языка математики — языка, который способен описывать сам себя. Именно это свойство станет основой нашего опровержения утверждения Бёттке о том, что семантика лежит за пределами символов.
Тьюринг подошёл к проблеме разрешимости со стороны исчислимости, пытаясь выяснить характерные черты тех математических результатов, которые можно получить механически, путём применения правил к последовательностям символов. Он придумал удивительно простую, работающую по правилам машину, известную ныне как машина Тьюринга (МТ) (Тьюринг, 1937).
У МТ есть бесконечная лента, разделённая на ячейки. Каждая ячейка может хранить произвольный символ (на деле достаточно «0» и «1»). Кроме того, есть некая считывающая головка, способная обследовать одну ячейку ленты. После обследования ленту можно переместить на одну ячейку влево или вправо по отношению к головке. МТ работает по правилам перехода. В каждый момент времени она находится в определённом состоянии, что означает наличие конкретного подмножества правил перехода, которые уместно считать рассмотренными. Каждое правило гласит:
если МТ находится в состоянии X с символом Y на ячейке, пребывающей под считывающей головкой, то символ Y следует заменить новым символом Y′, переместить ленту на одну ячейку влево или вправо и изменить состояние на X′.
Теперь произвольное множество правил может быть само записано в виде последовательности символов на ленте МТ. Тьюринг использовал это свойство для создания универсальной МТ (УМТ), которая представляет собой МТ, способную имитировать произвольную МТ по её описанию на ленте. Такой результат не должен казаться странным для того, кто знаком со способностью ДНК кодировать саму себя. Здесь перед нами фундаментальное биологическое свойство, рефлексивно отражённое в абстрактном математическом артефакте.
Чтобы вернуться к программе Гильберта, Тьюринг использовал свою МТ для определения границ формальной характеристики исчислимости. Он показал, что, даже несмотря на возможность сконструировать УМТ, которая будет вести себя как произвольная МТ, невозможно сконструировать МТ, которая сможет определить, остановится ли когда-то произвольная МТ на произвольной ленте. И снова этот дезорганизующий результат зависит от способности формальной системы описывать саму себя.
Помимо Тьюринга, многие другие учёные исследовали исчислимость. Они создали собственные формальные модели, весьма непохожие на МТ. Таковыми, в частности, являются теория рекурсивных функций Клини (Kleene), лямбда-исчисление Чёрча (Church) и системы перехода Маркова. Любопытно, что все эти модели эквивалентны МТ и, следовательно, друг другу в том смысле, что любое исчисление, которое можно описать в одной формальной системе, можно с той же точностью описать в любой другой. Такие системы называют тьюринг-полными (ТП). Согласно тезису Чёрча — Тьюринга, все будущие расчёты исчислимости будут ТП. До сих пор дело обстоит именно так. В частности, МТ эквивалентны машинам фон Неймана (von Neumann) с бесконечной памятью, а все существующие или разрабатываемые цифровые компьютеры — машины фон Неймана.
Важно отметить, что Тьюринг стремился также определить, в каких границах человек способен выполнять вычисления. В частности, он хотел показать, что есть вычисления, которые люди проводить не могут, и МТ должна была стать непосредственной помощницей человека, выполняющего вычисление. Предположим, что у человека есть карандаш и листок бумаги, он знаком со школьной арифметикой и желает перемножить два восьмизначных числа. В каждый момент времени он может держать в мозгу лишь малую часть вычисления и должен использовать бумагу для записи промежуточных результатов. Он знает таблицу умножения и способен перемножить в уме пару цифр, чтобы получить одно- или двузначный результат. Он записывает два исходных числа, одно над другим, и затем начинает с умножения первого числа на последнюю цифру второго. В свою очередь, чтобы сделать это, ему сначала нужно умножить последнюю цифру первого числа на последнюю цифру второго. Получив двузначное число, человек записывает его последнюю цифру, запоминает переносимую первую, умножает предпоследнюю цифру первого числа на последнюю второго, прибавляет перенесённую цифру и так далее. Таким образом, на любой стадии ему нужно помнить одну или две цифры, которые соответствуют отдельным внутренним состояниям МТ. Листок бумаги соответствует ленте МТ, а таблица умножения — правилам перехода МТ из одного состояния в другое.
Математик, доказывающий теорему, действует в сходных рамках. Он может помнить на любой стадии лишь малую часть доказательства и должен использовать карандаш и бумагу для записи промежуточных шагов. Более того, на любой стадии, чтобы продвинуться вперёд, ему нужно применить какое-то правило вывода, а выбирать он может лишь из фиксированного набора правил.
Теперь обратимся к семантике. Современные варианты формальной семантики опираются на работы Тарского (Tarski), предложившего использовать метаязык — язык для описания других языков. Метаязык связывает общие синтаксические конструкции того языка, который он описывает, с их значениями. Концепция семантики, предложенная Тарским, декларативна: в ней последовательности символов однозначно обозначают предметы в некотором абстрактном пространстве. Напротив, Витгенштейн (Wittgenstein) предлагает более процедурный вариант семантики, предполагающий применение правил к последовательностям символов.
Он уделял особое внимание роли интерпретации правил в языковых играх, где участники общения должны придерживаться согласующихся интерпретаций общих правил использования последовательностей символов, чтобы значения оказались одинаковыми. Таким образом, в семантике существует три уровня: последовательности символов, для которых должны быть установлены значения, правила установления значений и механизм применения правил к последовательностям символов.
Как же можно охарактеризовать механизмы применения правил? Похоже, здесь имеет место бесконечный регресс слоёв метаправил. Однако на примере УМТ видно, что метаправила не отличаются от любых других правил и, в свою очередь, могут быть представлены в виде последовательностей символов. Таким образом, нет никакой необходимости в телеологическом обращении за помощью к семантике, выходящей за пределы символов, если есть материальные устройства, способные интерпретировать последовательности символов как правила самокодирования по отношению к другим последовательностям символов. Компьютеры — один из классов таких устройств. Клетки с ДНК — другой. Человеческий мозг — третий.
Бёттке усиленно подчёркивает важность контекста для правильного понимания. При этом он проводит аналогию с различием между синтаксисом и семантикой, утверждая, что компьютеры работают чисто синтаксически и, следовательно, пренебрегают контекстом. Но данное утверждение опирается на крайне упрощённую трактовку синтаксиса. Синтаксис, игнорирующий контекст, конечно же, является очень ограниченным. Хомский (Chomsky) (Хомский, 1956) различает три различных модели грамматик, которые могут использоваться в языках: от простейшей грамматики с конечным числом состояний к грамматике с фразовой структурой (грамматике непосредственных составляющих) и далее — к самой сложной, трансформационной (порождающей) грамматике. Хомский утверждает, что лишь последняя обладает достаточной мощью для представления английского языка.
Грамматике каждого из этих уровней соответствует особый класс автоматов, способный её распознавать (?). Конечные автоматы могут распознавать грамматики с конечным числом состояний, автоматы с магазинной памятью могут распознавать грамматики с фразовой структурой. Например, в простом карманном калькуляторе с четырьмя действиями работает конечный автомат, и команды, которые можно отдавать, нажимая на кнопки, представляют собой язык, использующий грамматику с конечным числом состояний. Более сложный научный калькулятор, в который можно загружать формулы в скобках, использует автомат с магазинной памятью. Грамматики с конечным числом состояний и с фразовой структурой, о которых писал Хомский, являются контекстно свободными системами для порождения или деривации предложений, и языки, построенные на их основе, называют контекстно свободными.
Бёттке пишет:
Правил недостаточно. Символов недостаточно. Нужно ещё и понимать, как правила взаимодействуют и как со временем они и символы эволюционируют.
Это весьма солидная характеристика пределов контекстно свободных языков. Но такие языки, как C++ или Java, которые применяются для программирования компьютеров общего назначения (эквивалентных УМТ), не используют контекстно свободные грамматики. В этих языках существуют фразы, значение которых можно установить только с учётом контекста, в который они встроены. Такие языки позволяют вводить в текст новые слова и новые классы объектов. Значение этих слов можно определить только на основе анализа отдалённых частей текста или даже совсем других текстов, в которых даны определения этим словам или объектам.
Если бы Бёттке был прав, то компьютеры были бы неспособны работать с контекстно зависимыми языками. Но они способны. Они обеспечивают добротный грамматический анализ контекстно зависимых языков при наличии оперативной памяти или какой-нибудь ленты для чтения-записи, предложенной Тьюрингом.
Утверждения Бёттке о контекстных ограничениях компьютеров справедливы только в отношении машин, которые проще, чем УМТ.
3. Интеллект и «китайская комната»
Второй крупный научный вклад Тьюринг внёс в дело создания искусственного интеллекта (Тьюринг, 1950), разработав «тест Тьюринга» для выяснения, обладает ли контактирующий объект интеллектом. Бёттке опирается на сёрловское опровержение Тьюринга при помощи «китайской комнаты». Мы обсудим аргументацию Сёрла после краткого описания теста Тьюринга. Хороший обзор литературы, посвящённой этому тесту, сделан Хаузером (Hauser) [1].
Отправной точкой стала для Тьюринга «игра в имитацию», в которой «следователь», задавая вопросы двум лицам, должен выяснить, кто из них мужчина, а кто женщина. Сделать это сложно, так как «следователь» не может видеть или слышать своих собеседников. Он общается с ними при помощи записок [2].
Тьюринг предлагает игру с некоторым объектом, который может быть либо человеком, либо машиной, а взаимодействие осуществляется посредством телетайпа. Тест считается успешно пройденным, если машине удалось выдать себя за человека. Важной особенностью теста Тьюринга является то, что он предлагает чисто поведенческое мерило интеллектуальности, не требующее выяснять внутреннее строение объекта. Тьюринг указывает на то, что мы приписываем интеллект другим людям, пользуясь именно этим мерилом; никаким иным образом нельзя узнать, что значит быть другой персоной. Отвергая поведенческий критерий интеллектуальности, мы скатываемся к солипсизму.
Тьюринг решительно отстаивает тезис о том, что на пути создания машины, способной пройти его тест, непреодолимых препятствий нет. Он приводит и опровергает семь аргументов против искусственного интеллекта. Один из них — математический. Согласно этому аргументу, полученная при выводах неразрешимость говорит об ограниченности формальных вычислений, но не людей, поскольку люди способны осмыслить такого рода ограниченность. Бёттке использует математический аргумент в усиленной версии, которую предложил Пенроуз. Вот ответ Тьюринга:
… Установлено, что возможности любой машины ограничены, но то, что подобных ограничений не существует для человеческого интеллекта, — всего лишь голое утверждение. Однако я не думаю, что его легко можно сбросить со счетов. Всякий раз, когда какой-то машине задают уместный критичный вопрос и получают от неё определённый ответ, который, как нам известно, ложный, мы испытываем чувство превосходства. Не иллюзорно ли это чувство? Оно, без сомнения, подлинное, однако, на мой взгляд, ему не стоит предавать слишком большое значение. Мы сами так часто неправильно отвечаем на вопросы, что нашей бурной радости при виде оплошавшей машины вряд ли есть оправдание. Кроме того, в данной ситуации наше чувство превосходства уместно лишь в отношении одной машины, над которой мы одержали нашу маленькую победу. Разумеется, оно было бы уместным и тогда, когда нам удалось показать своё интеллектуальное превосходство сразу над всеми машинами. В общем, может найтись человек, оказавшийся умнее любой существующей машины, но после может появиться машина, которая умнее него, и так далее вновь и вновь.
По нашему мнению, этот ответ Тьюринга полностью опровергает аргумент Пенроуза.
Позднее для критики теста Тьюринга Сёрл придумал свою «китайскую комнату». Он предложил представить закрытую комнату, в которую передают вопросы, написанные на китайском языке, и из которой получают ответы, написанные на этом же языке. В комнате находится не говорящий по-китайски человек, который понимает английский язык и использует набор правил, написанных по-английски, с китайскими иероглифами, предназначенными для записи ответов.
3.1. Сёрл и «системное возражение»
Рассмотрим ответ Сёрла тем из его критиков, которые «системно возражали» на аргумент «китайская комната». По утверждению этих критиков, даже если сам Сёрл, как предписывает его эксперимент, не понимает китайский язык, тем не менее, всю систему, использующую для операций китайские символы и включающую в себя Сёрла, вполне можно охарактеризовать как понимающую китайский. У Сёрла есть два возражения. Во-первых, он находит этот ответ совершенно неправдоподобным. Почему, спрашивает он, дополнение в виде вспомогательного аппарата, который сам по себе, как и его оператор, явно не представляет собой местонахождение сознания, делает более вероятным наличие понимания? Это весьма шаткое возражение. Как известно, материалисты (а Сёрл, по его утверждению, один из них) не могут не признавать, что даже в тех случаях, когда понимание несомненно имеет место, оно является результатом действия подсистем, которые сами по себе не обладают пониманием. (Понимают ли клетки головного мозга? А нейроны? А атомы углерода?) Но ответ Сёрла звучит так, будто бы он опрометчиво склоняется к точке зрения, согласно которой если подсистемам не свойственно понимание, то оно не может быть свойственно и системе в целом.
Во-вторых, Сёрл пытается опровергнуть «системное возражение», слегка подправив свой мысленный эксперимент. Ну, что ж, говорит Сёрл, раз вы склонны полагать, что системе Сёрл-плюс-дополнительный-аппарат может быть свойственно понимание, давайте всего-навсего устраним вспомогательный аппарат. «Пусть индивид освоит все элементы системы» (все банки данных, наборы правил и т. д.). Итак, теперь нам следует вообразить Сёрла, способного совершенно адекватно отвечать на китайские вопросы по китайской тематике без помощи книг с правилами, картотек, заполненных китайскими символами, и т. д. — всё, в чём он нуждается, есть в его голове. По условию эксперимента, он не понимает ни слова по-китайски, но не нарушено ли теперь это условие, не стала ли картина эксперимента странной? Конечно, Сёрл может запомнить какие-то типичные ответы на какие-то типичные вопросы, и это не тянуло бы на «понимание китайского языка», но это и не облегчило бы прохождение теста Тьюринга.
Предположим, что Сёрл начал излагать аргумент «китайская комната» так: «Очевидно, что понимание не может состоять просто в следовании правильной программе, даже если программа в состоянии дублировать внешние проявления понимания. В конце концов, вы можете представить меня, говорящего на прекрасном китайском, благодаря правильной программе, позволяющей мне издавать звуки, соответствующие тем звукам китайской речи, которые я слышу, в то время как на деле я не понимаю ни слова по-китайски». Сочли бы мы такое начало удачным?
И, если нет, не помогло бы Сёрлу такое вот продолжение: «Конечно, если вам трудно вообразить то, о чём я сказал, просто представьте, что я усвоил систему, в которой у меня есть все эти картотеки китайских иероглифов плюс огромная книга с правилами и т. д.»? (Подробности в диалоге, приведённом ниже.)
3.2. Сёрл и аргумент «другие умы»
Рассмотрим также ответ Сёрла на аргумент «другие умы», суть которого состоит в следующем: если вы отказываете китайской комнате в понимании, то вы не можете быть уверенными в том, что кто-то, кроме вас, вообще что-то понимает, поскольку всё, с чем вы имеете дело, — это только поведение. Сёрл отметает этот аргумент слишком беспечно. Если мы, как и он, примем за истину, что существуют личности, способные безупречно «симулировать» понимание китайского языка, то откуда мы можем знать, что все окружающие нас люди не являются такого рода симулянтами?
Одна из тем, к которым то и дело возвращается Сёрл, — «каузальная мощь головного мозга», то есть способность мозга выстраивать причинно-следственные цепочки. Чтобы возникло понимание, говорит он, недостаточно просто-напросто выполнить правильную программу; напротив, породить его может лишь то, что обладает такой же каузальной мощью, как и человеческий мозг.
Возможно, к пониманию могут вести не только те физические и химические процессы, которые происходят в клетках человеческого мозга; возможно, например, марсианам также свойственна интенциональность, но их мозги сделаны из другого материала. Этот вопрос имеет эмпирический характер, подобно вопросу о том, можно ли осуществлять фотосинтез с помощью не хлорофилла, а какого-то другого химического вещества.
Но какое дело Сёрлу до эмпирической стороны вопроса о понимании?
Как эмпирически отличить инопланетян, обладающих подлинной интенциональностью, от инопланетян, которые просто дублируют её внешние проявления (проходят тест Тьюринга и т. д.), тогда как внутри у них идут лишь операции с неинтерпретированными символами?
С другой стороны, любой процесс, порождающий все внешние проявления фотосинтеза, есть не что иное, как фотосинтез, независимо от того, каков его химизм.
3.3. Дискуссия о картезианстве
Ещё один аспект сёрловского аргумента заслуживает обсуждения. На наш взгляд, стремление отделить «истинное понимание» от его поведенческого проявления делает весьма уместным заявление о том, что позиция Сёрла сродни картезианской: понимание становится чем-то таинственным и скрытым от глаз. Но Сёрл пытается перевести стрелки на своих оппонентов из числа сторонников ИИ, обвиняя их в пропаганде утончённого картезианства. Обратите внимание, говорит он, мы не склонны путать такие материальные процессы, как горение или пищеварение, с их компьютерными симуляциями. Тем более, продолжает он, нам не следует путать компьютерное моделирование понимания с действительным пониманием. Однако, с точки зрения сторонников ИИ, понимание, по-видимому, уникально: оно единственно, оно является, его можно отделить от его естественной материальной реализации (в функционирующем головном мозге человека), поскольку его моделирование требует, чтобы оно было реальным. Утверждение о том, что понимание или интенциональность могут осуществляться в любой среде, способной к выполнению необходимой для этого программы, — уже, как утверждает Сёрл, картезианство, та его форма, в которой духовное обладает особыми привилегиями.
Этот аргументация остроумна, но неубедительна. Возьмём компьютерное моделирование процесса переваривания бутерброда с ветчиной. Здесь исходная информация — формально-структурное описание бутерброда с ветчиной, различных ферментов и других веществ, необходимых для переваривания, а результат — формальное описание сахаров, аминокислот и других веществ, являющихся продуктами пищеварительного процесса. В случае естественного пищеварительного процесса вначале — бутерброд и ферменты, а в конце — естественные продукты биологического разложения. Ясно, что никто не хочет путать описание бутерброда с ветчиной (хотя бы и весьма аппетитное) с настоящим бутербродом.
Теперь рассмотрим, как осуществляется понимание (истории, аргумента, новости, уловки в разговоре). Здесь исходная информация — звуковые колебания воздуха, записи на бумаге, паттерны (образы) на экране, а существенные видимые «результаты» — опять же звуки или записи того или иного рода. Более того, если меня попросят продемонстрировать понимание, физическая среда, в которой я получаю вопросы, и физическая среда, в которой я посылаю свои ответы, в определённых пределах не имеют значения. Тут важно, что при «компьютерном моделировании» понимания существенная информация на входе и выходе является (или легко может стать) точно такой же, как и в случае с человеческим пониманием. Не важно, что у людей на входе и выходе именно слова, а у компьютеров всего лишь формальные описания слов. И те, и другие принимают и производят паттерны, представленные в различных физических средах, и эти паттерны можно интерпретировать как слова. Сёрл мог бы возразить, что только человеческий головной мозг или объекты с эквивалентной «каузальной мощью» могут «действительно» проинтерпретировать паттерны как слова. Но тут не могут не возникнуть вопросы. Во всяком случае, такое возражение делает неуместной аналогию (или дизаналогию), которой пытается придерживаться Сёрл: различая действительное пищеварение и его компьютерную модель нет необходимости настаивать на том, что только человеческие желудки (или органы с эквивалентной «каузальной мощью») действительно способны интерпретировать кусочки мяса, между ломтиками намазанного маслом хлеба как бутерброды с ветчиной. Бутерброды с ветчиной и их формальное описание совершенно и бесспорно различные вещи, в то время как отметки на бумаге, сделанные человеком при помощи пишущей машинки, и отметки на бумаге, сделанные компьютерной системой, могут быть совершенно неразличимыми.
Поскольку и люди, и другие (гипотетические) кандидаты на прохождение теста Тьюринга, независимо от их внутреннего строения, используют на входе и выходе один и тот же набор типичных физических носителей информации, дело выглядит так, будто вполне уместно, по аналогии, заявить, что симулятор нашего пищеварения действительно принимает бутерброды с ветчиной и производит сахара, аминокислоты и так далее. Но тогда не стоит ли говорить об «искусственном пищеварении», а не просто об «имитации пищеварения»? (Впрочем, мы, пожалуй, отказались бы от данного предложения, столкнувшись с таким вот незатейливым трюком: бутерброд с ветчиной прямиком поступает в блок утилизации, а из блока с припасами машина тут же выдаёт сахара и т. д.) В этой ситуации Сёрлу, по-видимому, не остаётся ничего другого, кроме как утверждать, что существенным «результатом» процесса понимания является не набор наблюдаемых ответов (вербальных и/или поведенческих), а внутренне присущее состояние понимания. Тогда можно было бы смело отрицать возможность такого рода состояния у компьютера, внутренняя структура которого коренным образом отличается от структуры человеческого мозга. И пусть компьютер выдаёт правильные наблюдаемые ответы — это ничего не меняет. Однако в аргументации Сёрла такая позиция, каковы бы ни были её достоинства, явно не представлена: она всего лишь подразумевается.
Вряд ли ярым сторонникам ИИ стоит сильно опасаться того, что обвинение в картезианстве, предъявленное им Сёрлом, лишит их статуса полномочных представителей материализма. Да, они, несомненно, мыслят менталитет как нечто особенное. Они приписывают ему формальные свойства и считают, что эти свойства имеют для него первостепенное значение, а потому его характеристики не имеют жёсткой привязки к конкретной физической реализации. Тем не менее, сторонники ИИ не считают, конечно, что менталитет может функционировать вообще без какой-либо физической реализации и что для него в равной степени годятся любые физические носители.
И, кроме того, кто сказал, что материалисты должны отстаивать точку зрения, согласно которой в менталитете или в сознании нет ничего особенного? Что они действительно должны делать, так это показывать, как особенности менталитета позволяют ему играть роль одной из функций конкретной формы организации материи. Что касается позиции самого Сёрла, то ничего антиматериалистического или картезианского в акцентировании особой «каузальной мощи» человеческого мозга нет, если он представлен как продукт эволюции и как состоящий из того материала, из которого он действительно состоит. Если же, однако, сказано, что каузальная мощь порождает особое «внутреннее» состояние, а именно интенциональность, природа которого совершенно неизвестна естественным наукам, тогда позицию Сёрла — не важно, истинная она или ложная, картезианская или некартезианская — весьма затруднительно характеризовать как материалистическую, во всяком случае, в том смысле, в каком термин «материализм» принято использовать в современной философии сознания.
Диалог. Сцена: после прохождения теста Тьюринга. Для удобства роль «китайца» играет Сёрл. Он только что обвёл вокруг пальца Тьюринга в ходе их псевдоанглийской беседы. Воодушевлённый успехом своего обмана, Сёрл не смог удержаться от того, чтобы спросить (конечно, с помощью переводчика): «Я действительно провёл вас, Тьюринг, не так ли?» После этого беседа возобновляется на английском языке, причём «китаец» Сёрл, прежде чем ответить, консультируется со своим внутренним справочником.
Тьюринг: Что это значит — «провёл»?
Сёрл: Ну, вы подбросили мне кучу сложных историй, задали о них вопросы и так далее, и я, вроде бы, их понимал.
Тьюринг: Вы хотите сказать, что, на самом деле, не понимали?
Сёрл: Ни слова! Видите ли, в действительности, я вообще не говорю по-английски, но не в прямом смысле. Я всего лишь сумел запомнить чрезвычайно сложный алгоритм сопоставления английских входных символов и английских выходных символов.
Тьюринг: А как же в данный момент? По-моему, вы говорите вполне вразумительно, хотя и странно, пожалуй.
Сёрл: Мой дорогой Тьюринг, у меня нет ни малейшего понятия, о чём мы говорим. Замечательно, не правда ли? Алгоритм, который я усвоил, делает за меня всю работу, производя ответы, которые сопрягаются с вашей стороной беседы, но позвольте мне заверить вас: я вообще не понимаю английский. Для меня это всего лишь неинтерпретированные символы.
Тьюринг: Это очень странно. Я собрал данных о том, что вы понимаете английский, не меньше, чем собирал в любой другой беседе с любым другим собеседником, говорившим по-английски. Чего может не хватать в вашем случае? Мне кажется, что ваш алгоритм, каким бы он ни был, — это понимание.
Сёрл: Чего не хватает? Всего лишь самого главного: действительного, внутреннего понимания. Внутренняя интенциональность, мой дорогой Тьюринг, — вот что начисто отсутствует на моей стороне беседы, поскольку она идёт на английском.
4. Централизация
«Тот же аргумент (не похожий, а именно тот же), который препятствует пониманию экономической проблемы, бросающей вызов обществу, как проблемы, которую можно решить только посредством централизованного планирования, препятствует и пониманию ума как иерархической системы под командованием одной-единственной объединяющей воли» (стр. 6)
Мы, как и большинство оппонентов Сёрла, таких как Деннет (Dennet) (Деннет, 1980; Деннет, 1991) или Чёрчленды (Churchlands) (Чёрчленд и Чёрчленд, 1998), предпочитаем придерживаться точки зрения, согласно которой ум не является системой, находящейся под командованием одной-единственной объединяющей воли.
В общем-то, данный вопрос не имеет отношения к спору между Сёрлом и другими о возможности создания искусственного интеллекта. Так же, как и понятие одной-единственной объединяющей воли и/или «централизованного» планирования, существенное для предложений Кокшотта и Коттрелла. Представление о социализме как обществе, находящемся под контролем одной-единственной воли, теория социализма с толстяком-директором во главе, берёт своё начало в трудах фон Мизеса (von Mises) (фон Мизес, 1935; фон Мизес, 1949), а не Маркса. Маркс же нигде не заявлял о том, что будущая социалистическая экономика должна подчиняться «одной-единственной воле».
Кокшотт и Коттрелл выступают за экономическое планирование под демократическим контролем на базе современных компьютерных технологий. Будет ли это реализовано с использованием центральных суперкомпьютеров, или распределённой сети локальных машин, или же какой-то комбинации первой и второй схем — вопрос сугубо прагматический. Его решение зависит от доступных технологий, но, каким бы оно ни было, централизация средств вычисления и контроля принесёт с собой ряд практических преимуществ.
Скорость функционирования аппарата для принятия сложных решений зависит как от того, насколько быстро он может пропускать через себя информацию, так и от того, насколько быстро реагируют на эту информацию его отдельные компоненты. Один из аргументов против рынка состоит в том, что рыночные ценовые сигналы имеют, за исключением финансовых рынков, относительно низкую скорость распространения. Причина проста: изменение цены происходит под влиянием изменений в сфере производства, а их частота ограничена скоростью корректировки производственных мощностей. Этим объясняется относительно большая и очень дорогостоящая продолжительность цикла: обычно циклы деловой активности длятся от 3 до 7 лет. Напротив, кибернетическая система планирования могла бы рассчитать, как скажется изменение потребительского спроса на полуфабрикатах и средствах производства, всего лишь за часы или дни. Скорость её работы зависит от того, какую вычислительную сеть — распределённую или централизованную — она использует.
Один компонент кибернетической системы управления должен быть распределён. Ясно, что на заводах компании Airbus есть информация о том, какие детали используются для изготовления лайнера A340, а на автомобильных заводах — о деталях для изготовления автомобиля Mondeo. Эта информация близка к той, которую Бёттке и австрийская экономическая школа называют контекстуальным знанием, но теперь это, конечно, не человеческое знание. Теперь никто в буквальном смысле слова не знает, из каких деталей состоит A340. Информация, которая столь велика, что человек не может с ней справиться, хранится в реляционной базе данных. На более раннем этапе индустриального развития для работы с такой базой данных понадобилась бы сложная система бумажной документации. Опять же, знание было бы объективным — находящимся в объектах, а не в человеческом мозге. Существование такой объективированной информации обусловливает саму возможность крупномасштабной, скоординированной производственной деятельности.
На кооперирующих заводах компании Airbus Industrie информация для создания чертежа с пространственным разнесением деталей генерируется компьютеризированным процессом проектирования. В социалистической экономике с кибернетическим управлением данные о деталях для A340 вместе с данными о деталях для других продуктов будут скомбинированы, с вычислительной точки зрения, с целью получить сбалансированный производственный план.
Это вычисление можно выполнить либо распределённо, либо централизованно. В первом случае будет происходить обмен информацией между локальными компьютерами, во втором случае данные о деталях будут поступать в единый процессинговый центр для обработки высокопараллельными суперкомпьютерами.
При использовании широко распределённых параллельных процессоров скорость вычислений нередко заметно меньше, чем при использовании сильносвязанных параллельных машин. Если вычисление требует обширного обмена информацией, как это имеет место при экономической балансировке, оно существенно зависит от скорости передачи информации от одной части вычислительной системы к другой. Сильносвязанная вычислительная система с n процессорами, как правило, вычисляет быстрее, чем распределённая система с n эквивалентными процессорами. Это объясняется тем, что в сильносвязанной системе каналы связи между процессорами короче и, как следствие, сообщения, движущиеся со скоростью света, проходят между процессорами за меньшее время. Кибернетическая система экономического управления, использующая компьютерные технологии, будет работать быстрее рыночной, поскольку электронная передача информации между её вычислительными центрами осуществляется на порядки быстрее, чем процесс корректировки цен, вызванный ростом или падением спроса. При этом наибольшие преимущества даёт кибернетической системе централизующая часть её вычислительного процесса, так как передача электронных сообщений ограничена скоростью света.
Бёттке оспаривает единство человеческого сознания и концепцию, согласно которой внутри каждого из нас одна-единственная управляющая нашими действиями воля. Эта точка зрения согласуется с исследовательской программой вычислительной неврологии. Её создатели подчёркивают, что работой головного мозга управляет процесс преобразования вектора в вектор, осуществляемый синаптической матрицей с массовым параллелизмом [3]. Но, хотя нейронные системы высокопараллельны, те из них, где параллелизм наиболее развит, — а это головной мозг представителей некоторых семейств класса млекопитающих, — вдобавок демонстрируют высокую степень централизации. Нашу центральную нервную систему можно противопоставить нервной системе, например, многоножек. У многоножек распределённая нервная система с сегментарными ганглиями, ответственными за управление четырьмя ножками каждого сегмента. Поведенческий репертуар этих животных по сравнению с высшими позвоночными довольно скудный.
В принципе, такие животные, как мы, могли бы иметь децентрализованную нервную систему с большим количеством распределённых ганглиев, разбросанных по всему телу. Расплачиваться за это пришлось бы замедленной реакцией, большей массой аксонов и более энергоёмкой передачей нервных импульсов. Давление со стороны указанных эволюционных факторов противодействовало развитию сложных форм поведения у организмов, чьё строение включает распределённую нервную систему.
Бёттке так описывает нервную систему человека:
Мы не строим нашу картину мира из изолированных фактов, размещая их вместе, а затем придавая им смысл и значение. Люди не идут тем путём, каким, по-видимому, вынужден идти машинный интеллект, — от изолированной части к целому. Вместо этого человеческий интеллект начинает, видимо, со схватывания целого, а затем, по мере необходимости, анализирует изолированные части в свете целого.
Работа зрительного восприятия описана здесь односторонне. Оно не смогло бы охватить целое, не зафиксировав составляющие его части. В распоряжении науки всё больше экспериментальных данных, говорящих о том, что в действительности процесс визуального восприятия идёт снизу вверх. Сетчатка работает с использованием торможения по принципу центр — периферия, чтобы собрать крошечные контрастные компоненты. Первичная зрительная кора кодирует области поля зрения в локальные признаки, например края при определённых ориентациях градиентов или пространственные частоты. Затем они проходят через последовательные слои, если были обнаружены статистические данные или свойства более высокого порядка.
Ошибочным является и утверждение Бёттке и Сабрика о том, что машинный интеллект должен работать исключительно снизу вверх. Компьютеры — универсальные информационные процессоры, они могут выполнять алгоритмы распознавания снизу вверх или сверху вниз. Недавний прогресс в области машинного зрения был достигнут благодаря распознаванию снизу вверх и одновременно сосредоточению внимания на направлении взгляда. Путём моделирования зрительной системы приматов (Баласурия (Balasuriya), 2006) и проектирования статистических данных высокого порядка локальных объектов в то, что называют «пространством Хафа», становится возможным автоматически распознавать признаки объекта, которые являются инвариантными относительно пространственного перевода и вращения.
Субъективно может казаться, что мы просто осознаём объект как целое, а не его низкоуровневые визуальные компоненты. Но тот факт, что нижние этапы визуального распознавания мы проходим неосознанно, не делает их менее реальными.
Большинство или почти все процессы когнитивной обработки уже выполнены, когда объекты возникают в сознании и доступны для манипулирования. Так или иначе, уже слишком поздно, чтобы увидеть, как это произошло. Мы замечаем лишь то, что произошло.
(?), стр. 115.
5. Мотивация
Со времени падения коммунизма страны бывшего советского блока переживают чрезвычайно трудные времена, продвигаясь к рыночной экономике.
Так начинается раздел 4 статьи Бёттке и Сабрика. Здесь мы обнаружили то, что послужило мотивом для написания этой статьи. Авторы стремятся объяснить, откуда взялись отмеченные ими «чрезвычайно трудные времена». Западные экономисты, критиковавшие социалистическую систему как неэффективную, ожидали, что поворот к рыночной экономике приведёт СССР к ускоренному экономическому росту. Но преемницей этой сверхдержавы стала страна-попрошайка, в которой расцвёл бандитизм. Отрасли её экономики рухнули, миллионы граждан настигла преждевременная смерть, о чём свидетельствует статистика шокирующего падения средней продолжительности жизни.
Учёные, не столь уверенные в себе, как экономисты, усомнились бы в своей исходной гипотезе, если бы в ходе эксперимента выяснилась её полная несостоятельность. Вместо этого Бёттке и Сабрик пытаются использовать сёрловское различие между синтаксисом и семантикой, чтобы объяснить, почему не сработали их экономические рекомендации. Они утверждают, что шоковая терапия в СССР изменила синтаксис экономики, но не семантику: «То, что рухнула политическая структура, ещё не означает, что с социальной структурой произошло то же самое. Социальные порядки, существовавшие до падения коммунизма, сохранились и после. Реформаторы и западные советники не смогли осознать, что освобождённые страны не tabula rasa, что в них живут люди с устоявшимися взглядами на мир и структуру общества». Затем эти взгляды и отношения, оставшиеся в наследство от социализма, объявлены виновниками экономического краха [4].
Здесь не место обсуждать российскую экономику 90-х годов, поэтому мы ограничимся методологическими вопросами. Говоря об экономике, уместно ли проводить различие между синтаксисом и семантикой так, как это сделали Бёттке и Сабрик?
В лингвистике у термина «синтаксис» есть чёткое определение. Синтаксис — это система правил, согласно которым символы объединяются в строки. Но есть ли подобное определение в экономической науке?
Если нет, то всё, что написали о синтаксисе Бёттке и Сабрик, — всего лишь литературная аллюзия, а не теория. В австрийской экономической школе, из которой вышли эти авторы, при исследовании экономики не принято использовать аппарат формального синтаксиса: правила создания строк, правила вывода и т. д. По иронии судьбы, чтобы найти что-то подобное, нужно обратиться к марксистской экономике. Маркс прошёл школу гегелевской логики, и, возможно, поэтому в его «Капитале» (Маркс, 1954) при анализе товарного обмена и обращения капитала используется формальный аппарат, весьма похожий на тот, который имеет место в порождающих грамматиках.
Он вводит понятие кругооборота капитала в виде формулы Д → Т → Д′, где Д — исходная сумма денег, Д′ — возросшая сумма денег, а Т — товары, купленные на исходные деньги. Если мы перепишем эту формулу как
Т → Д′,
тогда, по терминологии Хомского, мы получим деривационную грамматику непосредственных составляющих, которая будет порождать язык Д, Т, Д′, Т′, Д″, Т″, Д′″, …, моделирующий процесс роста капитала.
То, о чём пытаются говорить Бёттке и Сабрик, проводя по отношению к обществу различие между синтаксисом и семантикой, очень похоже на то, о чём говорил Маркс, различая базис и надстройку [5]. Маркса с самого начала интересовал исторический процесс смены форм экономики — способов производства. В процессе создания теории, адекватной этой задаче, он вынужден был пойти на эпистемологический разрыв (Балибар (Balibar), 1978; Башляр (Bachelard), 1970) с гуманистическими концепциями экономики, созданными до него (Альтюссер и Балибар, 1970). По мнению Альтюссера, суть этого эпистемологического разрыва в том, что в социальной сфере, которую описывали с позиций идеологии, был обнаружен самостоятельно действующий материальный процесс. Дарвинистская революция открыла автономный материальный процесс — эволюцию путём естественного отбора, порождающую явления, ранее объяснявшиеся в терминах божественной воли, великой цепи бытия и т. д.
Автономия, о которой идёт речь, не есть автономия людей, участвовавших в данном открытии: они, конечно же, находятся под влиянием той или иной идеологии, определяющей их нейронное «программное обеспечение». Речь о материальном процессе, который исследует наука. Эволюция идёт независимо от человеческих намерений и даже от существования человеческого рода.
Точно так же движение планет и звёзд не зависит от существования человечества и не даёт никаких привилегий миру, в котором мы живём. Это движение не является результатом действий богов — воображаемых проекций монархов на звёзды. Научная астрономия исследует небесную сферу не как отражение социальных отношений, а как объективный процесс.
Применительно к экономике открытие автономного материального процесса позволилозаменить концепцию, в центре которой находится человеческий субъект, на концепцию, в центре которой объект, и этот объект исследования — способ производства и социальная формация. Способ производства порождает и классы экономических агентов, и технологические изменения. Результирующая классовая борьба и обновление способа производства — автономный каузальный процесс, происходящий независимо от человеческого знания о нём. С этой точки зрения, человеческие субъекты и формы субъективности создаются социальной структурой. Их следует объяснять, а не брать за отправную точку. Социальные формы товарного обращения рассматриваются здесь как то, что лежит в основе и юридической, и психологической субъектности (Альтюссер, 1971a).
Параллель между материалистической теорией исторического процесса и теорией разума Тьюринга или Деннета очевидна. Идеологии, которые создают субъективность, — это программное обеспечение, применяемое вычислительными устройствами в головах людей. Контраст между материалистическим подходом к истории и конститутивным субъективизмом австрийской школы тоже очевиден.
Став сторонниками социальной инженерии, австрийские экономисты взялись обсуждать, пусть и в противоположном направлении, традиционную тему марксистской политэкономии — смену способов производства. Однако они применили к ней теорию, несовместимую с объектом исследования. Работа Бёттке и Сабрика, в которой они пытаются провести конъюнктурный анализ постсоветской экономики, проникнута, как и прежние их работы, субъективизмом, а потому свелась к заимствованным из лингвистики метафорам.
Примечания
1. В китайской комнате Сёрла: Критика эксперимента с китайской комнатой, Minds And Machines 7:199—226, 1997 (http://members.aol.com/lshauser2/chinabox.html).
2. Эта игра, возможно, весьма подходила для Тьюринга: он был гомосексуалистом, а в те времена мужской гомосексуализм считался преступлением и часто ассоциировался с «женственностью».
3. Яркими представителями данного подхода являются Чёрчленды, чья книга «On the Contrary» — это изложение коннекционизма и полемика против Сёрла.
4. Это напоминает о том, как «ядовитые сорняки прошлого» в умах людей были объявлены причиной экономических проблем Китая во время «культурной революции».
5. Можно возразить, что у Маркса это различие имело характер метафоры. Так оно и было. Но после Маркса его ученики-марксисты, более века занимаясь теоретической работой, снабдили то, что когда-то было всего лишь архитектурной метафорой, солидным обществоведческим содержанием. Посмотрим, сумеет ли австрийская школа обеспечить такое же теоретическое развитие дихотомии синтаксис — семантика, которую использует Бёттке.
Литература
Althusser, L.: 1971a, Ideology and ideological state apparatuses, Lenin and philosophy, New Left Books.
Althusser, L.: 1971b, Lenin and philosophy, Lenin and philosophy, New Left Books.
Althusser, L. and Balibar, E.: 1970, Reading Capital, New Left Books.
Bachelard, G.: 1970, La philosophie du non: essai d’une philosophie du nouvel esprit scientifique, Presses Universitaires de France, Paris.
Balasuriya, L. S.: 2006, A Computational Model of Space-Variant Vision Based on a Self-Organised Artificial Retina Tessellation, PhD thesis, University of Glasgow Dept of Computing Science, Glasgow, Scotland.
Balibar, E.: 1978, From Bachelard to Althusser: The concept of ‘epistemological break’, Economy and Society 7(3), 207—237.
Boettke, P. J. and Subrick, J. R.: 2001, From the philosophy of mind to the philosophy of the market, CAHIERS D’EPISTEMOLOGIE 2001—03(276), 3—18.
Chomsky, N.: 1956, Three models for the description of language, IRE Trans. on Information Theory 2(3), 113—124.
Churchland and Churchland: 1998, Could a machine think, On the Contrary, MIT Press.
Cockshott, P. and Cottrell, A.: 1997, Information and economics: a critique of Hayek, Research in Political Economy 18(1), 177—202.
Cottrell, A. and Cockshott, P.: 1992, Towards a New Socialism, Vol. Nottingham, Bertrand Russell Press.
Dennet, D.: 1980, The milk of human intentionality, Behavioural and Brain Sciences 3, 429—430.
Dennet, D.: 1991, Consciousness Explained, Little Brown, Boston.
Marx, K.: 1954, Capital, Vol. 1, Progress Publishers, Moscow. Original English edition published in 1887.
Nove, A.: 1983, The Economics of Feasible Socialism, London: George Allen and Unwin.
Turing, A.: 1937, On computable numbers, with an application to the entscheidungsproblem, Proceedings of the London Mathematical Society 42, 230—65.
Turing, A.: 1950, Computing machinery and intelligence, Mind LIX(236).
Von Mises, L.: 1935, Economic calculation in the socialist commonwealth, in F. A. Hayek (ed.), Collectivist Economic Planning, London.
Von Mises, L.: 1949, Human Action, Hodge and Company, London.
