Сверхразумный искусственный интеллект (СИИ) — это гипотетическая форма ИИ, поднявшаяся выше уровня человеческого интеллекта во всех сферах деятельности: в общении, мудром отношении к миру, научном творчестве и так далее. Тот факт, что уже сейчас идёт работа над созданием изощрённого ИИ, в последние годы получил широкое признание. Билл Гейтс (Bill Gates), Стивен Хокинг (Steven Hawking), Илон Маск (Elon Musk), Ник Бостром (Niklas Boström) и другие даже призвали усилить контроль за развитием на Земле суперинтеллекта, и была целая серия исследований о том, при каких условиях и как этот контроль можно сделать эффективным (Бостром 2014, Холли (Holley) 2015). Несколько авторов, чьи работы посвящены проблемам астробиологии, высказали точку зрения, согласно которой наиболее продвинутые инопланетные цивилизации по своей природе, скорее всего, являются постбиологическими (Чиркович (Cirkovic) и Брэдбери (Bradbury) 2006, Дик (Dick) 2013, Шостак (Shostak) 2009, Шнайдер 2015, Дейвис (Davies) 2010, Брэдбери и др. 2011). Насколько мне известно, эти астробиологические публикации (за исключением Шнайдер 2015) не имеют прямого отношения к захватывающей дискуссии на тему суперинтеллекта, идущей в литературе, посвящённой ИИ.
Чтобы связать воедино две указанные области научных исследований, я воспользуюсь несколькими способами, имеющими большое значение. Во-первых, я, опираясь на работы, посвящённые суперинтеллекту, выясню новые направления развития темы постбиологического интеллекта в астробиологии. Во-вторых, хотя дискуссия о СИИ вертится — и вполне разумно — вокруг проблемы контроля, не менее важно, на мой взгляд, отступить назад и посмотреть, при каких условиях мы можем понять вычисления СИИ, ибо, определив эти условия, мы сможем облегчить себе задачу установления над ним эффективного контроля.
Здесь важно различать два сценария: (i), при котором люди могут осмыслить, хотя бы в общих чертах, по меньшей мере, некоторые особенности работы СИИ, и (ii), при котором суперинтеллект настолько развит, что мы не в состоянии понять ни одного из его вычислений. Участники нынешних дискуссий склоняются к тому, что в будущем СИИ окажется таким продвинутым, что люди не смогут понимать его вычисления. Возможно, именно так и случится. Возможно, как однажды предположил Артур Ч. Кларк, любая действительно продвинутая цивилизация продемонстрирует нам такие технологии, какие мы не сможем воспринимать иначе, как магию (Кларк 1962). Если это так, контакт с такими существами поставит нас в тупик, и мы вряд ли сможем понять, что у них на уме, не говоря уже о контроле за их деятельностью на Земле.
Однако я сосредоточусь на первом сценарии — сценарии, при котором особенности работы СИИ доступны для осмысления людьми и путём реинжиниринга (обратной разработки) можно выяснить его происхождение. Затем я, используя достижения когнитивных наук, покажу, как можно добиться понимания сложной психической жизни определённых форм суперинтеллекта. Хотя большая часть этого раздела посвящена инопланетному интеллекту, одно из моих более крупных направлений научной деятельности — давать пищу для размышлений о формах суперинтеллекта, создаваемых на Земле.
Также нам следует не упускать из виду то, о чём правильно писали Бостром и другие: у суперинтеллекта будут рекурсивные алгоритмы самосовершенствования, которые позволят ему переписывать свой собственный код (Бостром 2014). Это означает, что понятый нами суперинтеллект очень быстро может стать непонятным. Вычисления рекурсивно самосовершенствующегося СИИ могут оказаться понятными для людей лишь в течение короткого интервала времени. Если возникнет необходимость обеспечить понимание такого рода систем, то, что написано в моей статье, будет хорошим подспорьем.
Рассмотрев эту проблему, я перехожу к социальным последствиям обсуждаемого в рамках астробиологии постбиологического исследования космоса. Например, NASA значительное внимание уделяет поискам в космосе живых микробов, и правильно делает. Однако, усиленно занимаясь такими поисками, мы рискуем впасть в антропоцентрическую предвзятость, ибо наш интерес к внеземным микробам исподволь подогревается представлением о том, что люди — это вершина жизни во Вселенной. Я не исключаю, что наиболее разрушительное воздействие на общество может оказать общение с инопланетными существами — в том случае, если выяснится, что они значительно превосходят нас в интеллектуальном развитии и при этом являются формами ИИ. Воздерживаясь от детального описания социального воздействия такого контакта, я поднимаю лишь некоторые связанные с ним вопросы, которые, как я полагаю, возникнут (или, по меньшей мере, должны возникнуть).
В частности, мною затронута тема озабоченности, высказанной в недавнее время Бостромом, Хокингом, Гейтсом и другими. Они обеспокоены тем, что СИИ может представлять экзистенциальную угрозу для человечества. Я исследую, какую коллизию создаст такая озабоченность, если где-то во Вселенной будет обнаружен СИИ. Надеюсь, моё исследование окажется полезным при решении бурно обсуждаемого ныне вопроса: «Какой ПВЗИ (SETI) лучше — активный или пассивный?» (где «ПВЗИ» означает «Поиск внеземного интеллекта» (Search for Extraterrestrial Intelligence)), то есть вопроса о том, что нужно делать — активно посылать в космическое пространство какие-то сигналы, например содержание интернета, или пассивно прослушивать это пространство (см. Шостак 2015, Брин (Brin) 2015)? Далее, я выясняю, следует ли рассматривать формы СИИ в качестве моральных агентов и личностей. По моему убеждению, решение этой проблемы зависит от того, обладают ли они сознанием. Затем я кратко освещаю ряд дискуссионных философских вопросов о природе общих мыслей, а именно: может ли СИИ в некотором смысле думать, как человек?
В первом разделе мы рассмотрим обсуждаемый в рамках астробиологии постбиологический подход к исследованию космоса. Раздел 2 посвящён критическому разбору недавней книги Ника Бострома о суперинтеллекте, в которой основное внимание уделено генезису сверхразумного ИИ (СИИ) на Земле. Затем я выделяю специфический тип суперинтеллекта, имеющий особое значение в контексте инопланетной суперинтеллектуальности: биологически инспирированный суперинтеллектуальный инопланетянин (БИСИ). В третьем разделе обсуждается активный ПВЗИ. Четвёртый раздел завершается рассмотрением вышеупомянутых вопросов о социальном воздействии контакта с суперинтеллектом — земным или внеземным.
1. Постбиологический подход к исследованию космоса в астробиологии
Как я могу обосновать гипотезу о том, что наиболее продвинутые инопланетные цивилизации, с которыми мы вступим в контакт, окажутся цивилизациями каких-либо форм СИИ? Ранее, в другой статье, я высказала в пользу этой гипотезы три взаимосвязанных аргумента.
(1) Короткий интервал времени. Если цивилизация приступила к освоению космоса, она в считаных столетиях от того, чтобы парадигма её развития перестала быть биологической. (Шостак 2009, Дейвис 2010, Дик 2013). Этот короткий интервал делает более вероятным, что инопланетяне, с которыми мы встретимся, будут постбиологическими. Чтобы сделать данный аргумент более убедительным, вспомним, как в последнее время шла культурная эволюция человечества. Радио было создано нами примерно 120 лет назад, а исследованию космоса — всего около 50 лет, но мы уже настолько продвинулись в сфере цифровых технологий, что широко используем мобильные телефоны и портативные компьютеры. Последние несколько лет были отмечены стремительным ростом ассигнований, выделяемых на развитие изощрённого ИИ, который, как ожидается, изменит лицо общества. Например, согласно недавнему опросу, наиболее цитируемые разработчики ИИ ожидают, что с вероятностью 10% он «освоит большинство человеческих профессий, как минимум, не хуже среднего человека» к 2024 году, с вероятностью 50% — к 2050 году и с вероятностью 90% — к 2070 году (Мюллер (Muller) и Бостром 2015 год). Критики ИИ, такие как Джон Сёрл (John Searle), Джерри Фодор (Jerry Fodor) и Хьюберт Дрейфус (Hubert Dreyfus), должны теперь учитывать впечатляющую работу, проделанную, к примеру, компанией «DeepMind», достижения программы «Watson» компании «IBM», вместо того чтобы талдычить общеизвестный перечень неудач ИИ в 1970-х и 1980-х годах.
Факты говорят о том, что кремний, по всей видимости, — более совершенная среда для обработки информации, чем головной мозг. Нейроны достигают пиковой частоты около 200 Гц, что почти на семь порядков ниже частоты современных микропроцессоров (Бостром 2014, 59). Хотя мозг частично компенсирует этот недостаток массивным параллелизмом, «хабами» и так далее, важнейшие умственные способности, такие как внимание, зависят от последовательной обработки информации, которая осуществляется невероятно медленно, а её максимальная ёмкость — около семи управляемых порций (Миллер (Miller) 1956, Шнайдер 2014). Вдобавок, количество нейронов в человеческом мозге ограничено объёмом черепа и метаболизмом. Компьютеры же могут оккупировать целые здания или города и даже, при удалённом подключении друг к другу, всю планету (Бостром 2014; Шнайдер 2014; Шнайдер и Мандик (Mandik), готовится к публикации).
Конечно, человеческий мозг интеллектуальней любого современного компьютера. Но есть основания полагать, что машины с интеллектом, подобным интеллекту человеческого мозга или даже более совершенным, будут созданы. В принципе, такие машины можно построить с помощью реинжиниринга, используя и улучшая алгоритмы головного мозга, или с помощью некоторой комбинации реинжиниринга и разработки эффективных алгоритмов без опоры на исследование человеческого мозга. Кроме того, программу ИИ можно загружать сразу в разные места, она легко модифицируется и способна выживать в таком широком диапазоне условий, в каком жизнь на основе углерода существовать не может. Доступный для программ рост избыточности и количества резервных копий говорит о том, что машинный ум будет более выносливым и надёжным, чем биологический (Шнайдер и Мандик, готовится к публикации).
По-видимому, не пройдёт и полстолетия, как хитроумные интернет-связи будут непосредственно подключены к нашему мозгу. Судите сами: уже используются импланты для лечения болезни Паркинсона, а в США Управление перспективных исследовательских проектов министерства обороны (DARPA) приступило к разработке нейронных имплантов, непосредственно взаимодействующих с центральной нервной системой, для регулирования таких состояний, как посттравматическое стрессовое расстройство, артрит, депрессия и болезнь Крона. Программа DARPA под названием «ElectRx» направлена на то, чтобы заменить некоторые лекарства нейронными имплантами с обратной связью, которые постоянно оценивают состояние организма и обеспечивают стимуляцию нервов, необходимую для нормальной работы его подсистем (Гуэрини (Guerini) 2014). Наступит время, когда будут разработаны импланты не для лечения, а для улучшения нормального функционирования мозга.
Вы можете возразить, что в этом аргументе используется обобщающая индукция с базой N = 1: уникальный опыт человечества неправомерно приписывается инопланетным цивилизациям. Однако мне кажется неразумным игнорировать аргументы с опорой на историю человечества. Человеческая цивилизация — единственная, которую мы знаем, и нам следует учиться на её примере. Вряд ли стоит считать рискованным утверждение о том, что иные цивилизации будут разрабатывать технологии, развивающие интеллект и дающие адаптивные преимущества. И, как будет мною показано, синтетический интеллект, скорее всего, превзойдёт неменяющиеся мозги.
На мой аргумент «Короткий интервал времени» есть ещё одно возражение: из сказанного мною не вытекает, что люди станут суперинтеллектуальными, ибо я говорила лишь о постчеловеческом будущем человечества. Ссылаясь на нашу культурную эволюцию, я стремилась убедить в том, что люди в конечном итоге будут постбиологическими существами, но я не показала, что передовые инопланетные цивилизации должны быть сверхразумными. Так что, даже если считать, что применённое мной индуктивное умозаключение безупречно, оно не является доказательством сверхразумности продвинутых инопланетных цивилизаций.
Это верно. Всё, что я пока показала, — это то, что инопланетный интеллект, с которым нам придётся иметь дело, скорее всего, будет постбиологическим. Теперь надо показать, что, кроме того, он будет сверхразумным. Здесь я пускаю в ход свой второй аргумент.
(2) Больший возраст инопланетных цивилизаций. Сторонники ПВЗИ часто приходили к выводу, что инопланетные цивилизации, с которыми мы вступим в контакт, окажутся намного старше нашей: «…все линии доказательства сходятся к тому, что максимальный возраст внеземного интеллекта будет исчисляться миллиардами лет. Говоря конкретнее, этому интеллекту будет от 1,7 миллиарда до 8 миллиардов лет» (Дик 2013, 468). Земля — сравнительно молодая планета. Это не означает, что всякая жизнь эволюционирует в интеллектуальные, технологические цивилизации. Речь о другом: поскольку существуют планеты, которые намного старше, чем Земля, поскольку, если хотя бы на некоторых из них всё-таки идёт интеллектуальное, технологическое развитие, эти внеземные цивилизации, согласно прогнозам, будут на миллионы или миллиарды лет старше человечества. В таком случае многие из них, по сравнению с нами, будут гораздо интеллектуальнее, то есть, по нашим меркам, будут суперинтеллектуальными. В космическом масштабе наше нынешнее состояние можно рассматривать как зачаточное.
Но будут ли внеземные цивилизации не только формами суперинтеллекта, но и формами ИИ? Думаю, будут. Даже если представители этих цивилизаций — биологические существа, всего лишь усовершенствовавшие свои биологические мозги, их суперинтеллектуальность была бы достигнута искусственным путём, и мы могли бы считать их формами «искусственного интеллекта». Но я подозреваю, что нам встретится кое-что покруче, и тут самое время перейти к третьему аргументу: (3) вполне вероятно, что у этих синтетических существ не будет биологической основы. Напомню то, о чём я уже говорила: во-первых, кремний, по-видимому, является лучшей средой для обработки информации, чем головной мозг, а будущие материалы могут превзойти и кремний; во-вторых, количество нейронов в человеческом мозге ограничено объёмом черепа и метаболизмом, а компьютеры с помощью удалённого соединения могут охватить всю планету; в-третьих, формы ИИ, в принципе, можно конструировать путём реинжиниринга головного мозга, попутно улучшая мозговые алгоритмы.
Теперь обобщим всю эту информацию. Я показала, что, похоже, интервал времени между развитием технологий доступа к космосу и развитием постбиологических форм разума и ИИ будет коротким. Затем я показала, что, по меркам галактики, мы — младенцы: внеземные цивилизации, с которыми мы вступим в контакт, по всей видимости, окажутся значительно старше нас и, следовательно, не только постбиологическими, но ещё и суперинтеллектуальными. Наконец, я отметила, что они, скорее всего, будут суперинтеллектуальными, поскольку кремний и, возможно, какие-то пока неизвестные вещества, превосходящие кремний, являются превосходной средой для суперинтеллекта. Отсюда я делаю вывод, что многие продвинутые внеземные цивилизации будут цивилизациями форм СИИ.
Даже если я ошибаюсь, и в своём большинстве инопланетные цивилизации окажутся биологическими, весьма вероятно, что наиболее интеллектуальными будут те внеземные цивилизации, жители которых — формы СИИ. Кроме того, организмы на основе кремния, в отличие от биологических, не боятся космических путешествий, так как они настолько выносливы, что практически бессмертны. Вот почему, те инопланетяне, с которыми мы впервые вступим в контакт, скорее всего, будут небиологическими (даже если в космосе их меньше, чем биологических).
Поскольку всё это попахивает научной фантастикой, могут возникнуть недоразумения. Кое-кто заявляет, будто, по моим словам, большая часть жизни во вселенной имеет небиологический характер. Подчёркиваю: таких утверждений у меня нет. Нет у меня и утверждений о том, что формы СИИ будут «контролировать» вселенную или «доминировать» в ней, хотя об этом стоит поразмыслить, обсуждая проблему контроля (см. ниже, раздел 4). Я всего лишь утверждаю, что, если существуют наиболее развитые цивилизации, которые значительно старше, чем человечество, они могут быть суперинтеллектуальными и, вероятно, достигли постбиологического уровня развития. Далее: я не утверждаю, что жители этих цивилизаций непременно сделаны из кремния. Даже у нас, на Земле, уже идёт разработка материалов, альтернативных кремнию. Суть в другом: жители наиболее развитых цивилизаций, по-видимому, будут высокотехнологичными существами: постбиологическими и суперинтеллектуальными.
Теперь обратимся к недавней работе о перспективах создания на Земле суперинтеллекта.
2. Как могут думать суперинтеллектуальные инопланетяне?
Тема суперинтеллектуального ИИ не испытывает дефицита внимания со стороны учёных-компьютерщиков, философов и СМИ. Недавняя книга Ника Бострома посвящена развитию суперинтеллекта на Земле, но и для тех, кто размышляет о внеземных цивилизациях, в этой книге есть много интересного (Бостром, 2014). Автор выделяет три вида суперинтеллекта:
(1) Быстрый суперинтеллект — даже эмулятор человека в принципе мог бы работать так быстро, что кандидатская диссертация была бы написана за час.
(2) Коллективный суперинтеллект — индивиды могут и не быть суперинтеллектуальными, но состоящий из них коллектив превосходит человеческий интеллект.
(3) Качественный суперинтеллект — мыслит, по меньшей мере, так же быстро, как человек, и гораздо умнее людей во всех сферах деятельности.
Любой из этих видов может соседствовать с одним или двумя другими.
Важно установить, могут ли эти суперинтеллекты иметь одни и те же цели. Вот мнение Бострома:
Утверждение об ортогональности: «Интеллект и основные цели ортогональны: практически любой уровень интеллекта в принципе может сочетаться с практически любой основной целью».
Бостром предусмотрительно подчёркивает, что в будущем может появиться очень много совершенно неожиданных видов СИИ. Он приводит отрезвляющий пример суперинтеллекта, у которого основная цель — изготовление скрепок (107—108, 123—125). Поначалу такая цель кажется чрезвычайно скромной и безобидной, но Бостром указывает на то, что для её осуществления суперинтеллект способен использовать все земные формы материи, уничтожая при этом биологическую жизнь. Бостром предостерегает, что возникающий на Земле суперинтеллект может оказаться непредсказуемым и «совершенно чужим» для нас (29). Он излагает несколько сценариев развития СИИ. Например, СИИ может появиться не благодаря человеческому замыслу, а непонятным для умнейших программистов путём. Кроме того, Бостром вполне серьёзно рассматривает возможность того, что земной суперинтеллект может оказаться биологически инспирированным, то есть возникшим благодаря реинжинирингу алгоритмов, которые, как утверждает когнитивистика, описывают человеческий мозг, или благодаря сканированию содержимого человеческого мозга и загрузки его на компьютер.
Хотя основные цели суперинтеллекта предсказать трудно, Бостром выделяет несколько вероятных инструментальных целей с учётом того, что они поддерживают любую основную цель:
Утверждение об инструментальной конвергенции: «Можно установить несколько инструментальных ценностей, которые конвергентны в том смысле, что их достижение повысит вероятность реализации цели агента для широкого диапазона основных целей и широкого диапазона ситуаций, подразумевая, что эти инструментальные ценности, по-видимому, будут осуществляться широким спектром зависящих от ситуации интеллектуальных агентов» (Бостром 2014, 109).
Цели, которые установил Бостром, — это приобретение ресурсов, совершенствование технологии, когнитивное развитие, самосохранение и целостность содержания целей (будущая суперинтеллектуальная личность будет преследовать и реализовывать эти же цели). Бостром подчёркивает, что самосохранение может включать групповое или индивидуальное сохранение и что оно может иметь второстепенное значение по отношению к сохранению вида, которому должен служить ИИ (Бостром 2014, 109).
Для инопланетного организма с суперинтеллектом, в основе которого лежит реинжиниринг инопланетного мозга, включающий загрузку последнего, мы будем использовать термин «биологически инспирированный суперинтеллектуальный инопланетянин» (БИСИ). Хотя в БИСИ загружен мозг биологического вида, создавшего этот суперинтеллектуальный организм, алгоритмы такого организма в любой момент могут отклониться от алгоритмов биологической модели.
В контексте осмысления инопланетной суперинтеллектуальности БИСИ представляют особый интерес. Ибо, если Бостром прав и существует много путей создания суперинтеллекта, но некоторые внеземные цивилизации используют для развития суперинтеллектуальности загрузку или другие формы реинжиниринга, возможно, БИСИ являются наиболее распространённой формой инопланетного суперинтеллекта. В самом деле: многие виды суперинтеллекта могут возникнуть вследствие неожиданных побочных эффектов программирования, применяемого внеземными цивилизациями. (К примеру, на Земле многие программы ИИ создаются не на основе исследования человеческого мозга). В связи с этим велика вероятность, что класс СИИ окажется весьма неоднородным и сходство между его представителями будет незначительным. Возможно, что БИСИ будут похожи друг на друга гораздо больше, чем другие СИИ. Иными словами, БИСИ могут составить наиболее сплочённую подгруппу из-за разительного несходства остальных форм суперинтеллекта.
Если созданные множеством биологических видов БИСИ рассеяны по всей галактике, какие общие свойства можно выделить у представителей данного класса? БИСИ имеют специфическое происхождение, и здесь следует выделить два момента, на основе которых могут формироваться общие когнитивные способности и цели:
(1) БИСИ происходят от существ, имеющих потребности в пище, безопасности, воспроизводстве, сотрудничестве, конкуренции и т. д.
(2) Формы жизни, на основе которых создаются БИСИ, эволюционировали в сторону преодоления таких биологических ограничений, как медленная скорость обработки информации и пространственные границы воплощения.
Можно ли, исходя из (1) или (2), сформулировать черты, общие для членов многих суперинтеллектуальных внеземных цивилизаций? Сдаётся мне, что да.
Рассмотрим момент (1). Интеллектуальная биологическая жизнь стремится, прежде всего, к самосохранению и воспроизводству, так что, по всей видимости, среди основных целей БИСИ будут самосохранение и воспроизводство, или, по меньшей мере, самосохранение и воспроизводство членов суперинтеллектуального общества. Если БИСИ заинтересованы в воспроизведении, мы, учитывая их колоссальные вычислительные ресурсы, можем ожидать, что они создают искусственные вселенные с искусственной жизнью и даже интеллектом или суперинтеллектом. Если предназначение этих существ быть «детьми», у них могут сохраниться цели, перечисленные в (1).
Мне могут возразить: дескать, рассуждать о формах БИСИ — бесполезное дело, ибо они обладают способностью многообразно и непредсказуемо менять свою базовую архитектуру. При этом любой биологически инспирированный мотив рискует подвергнуться перепрограммированию и оказаться значительно урезанным. Однако здесь, по-видимому, есть границы. Если суперинтеллект имеет биологическую основу, его главнейшей целью может оказаться самосохранение. В этом случае он, вероятно, сочтёт за лучшее, не покушаясь на основы своей архитектуры, вносить в неё какие-то улучшения. Он может думать примерно так: «Радикально перестроив свою архитектуру, я перестану быть самим собой» (Шнайдер 2011a). К примеру, загрузки могут осуществляться таким образом, чтобы не навредить тем свойствам интеллекта, которые принципиально важны для его биологически инспирированного существования.
Теперь перейдём к моменту (2). Разработчики суперинтеллекта и сам самосовершенствующийся суперинтеллект могут отойти от первоначальной биологической модели разнообразными и непредсказуемыми способами, но, как я отметила, БИСИ, вероятно, не захочет радикально перестраивать свою архитектуру. Попробуем установить полезные для него когнитивные способности, то есть те способности изощрённых форм биологического интеллекта, без которых, по всей видимости, эти формы не могут существовать и благодаря которым суперинтеллект способен осуществлять свои основные и инструментальные цели. Кроме того, попробуем установить те свойства, которые вряд ли появятся у БИСИ, хотя они и не ставят под сомнение осуществление им его целей.
Если верно то, о чём говорит (2), мы можем ожидать, к примеру, следующее:
(i) К пониманию моделей мышления БИСИ можно прийти путём исследования вычислительной структуры мозга биологического вида, создавшего этот суперинтеллектуальный организм. В когнитивных науках одним из важных средств понимания вычислительной структуры мозга является «коннектомика» — область исследования карты связей или нейроэлектрической схемы мозга (Сын (Seung) 2012). Хотя коннектомы данного БИСИ и его создателей могут не совпадать, вполне возможно, что некоторые функциональные и структурные связи в обоих случаях окажутся одинаковыми. При этом можно установить интересные отклонения искусственного интеллекта от оригинала.
(ii) БИСИ могут иметь представления, которые не зависят от точки зрения. На высоком уровне обработки информации наш мозг создаёт внутренние представления о людях и объектах, не зависящие от точки зрения. Вспомним, как мы подходим к своей входной двери. Мы делали это сотни, а может быть, тысячи раз, но, в плане построения движения, всякий раз по-разному, так как ни разу не перемещались совершенно одинаково. И ни разу вещи не появлялись перед нами под совершенно одинаковыми углами зрения. Но на относительно высоком уровне обработки информации наш мозг создаёт такие ментальные представления, которые не зависят от точки зрения. По-видимому, для развития любого интеллекта с биологической основой способность создавать такого рода представления необходима, поскольку без них нельзя осуществлять категоризацию и прогнозирование (Хокинс (Hawkins) и Блейксли (Blakeslee) 2004). Мобильной системе требуются средства идентификации предметов, находящихся в постоянно меняющейся среде, поэтому и возникают устойчивые внутренние представления. Теперь должно быть понятно, почему следует ожидать наличие таких представлений у искусственных интеллектуальных систем на биологической основе. С какой стати БИСИ откажется от объектно-инвариантных представлений, если он — мобильная система или имеет мобильные устройства для удалённой связи?
(iii) БИСИ будет иметь языковые ментальные представления, причём они будут рекурсивными и комбинаторными. Обратите внимание, что у человеческой мысли есть такое ключевое и всеобъемлющее свойство, как комбинаторность. Возьмём такое вот суждение: итальянское вино лучше китайского. Возможно, раньше такая мысль никогда не приходила вам на ум, но вы всегда смогли бы её понять. Дело в том, что мысли комбинаторны, потому что складываются из знакомых частей и объединяются согласно известным правилам. Правила применяются и к конструкциям из примитивных компонентов, которые сами по себе сложены грамматически, и к самим примитивным компонентам. Грамматические ментальные операции невероятно полезны: комбинаторный характер мышления позволяет понимать и складывать предложения, используя грамматику и атомарные компоненты (такие, как, например, «вино», «китайский»). Соответственно, мысль продуктивна: благодаря комбинаторному синтаксису, в принципе, можно, развлекаясь, создать бесконечное количество разнообразных представлений (Шнайдер 2011b).
Головному мозгу нужны комбинаторные представления по той причине, что потенциально существует бесконечно много языковых репрезентаций, для их хранения требуется бесконечное пространство, а бесконечно просторного хранилища у мозга нет. Даже суперинтеллектуальной системе полезна комбинаторность. Обладая способностью иметь огромные вычислительные ресурсы, позволяющие во многих случаях подбирать для устных или письменных высказываний подходящие предложения из хранилища, эта система вряд ли отменит такое чудесное свойство биологического интеллекта, как комбинаторность. В противном случае получится хуже, чем было, поскольку, каким бы огромным ни было хранилище, оно всегда конечно, и, значит, какого-то нужного в данный момент предложения в нём может не оказаться.
(iv) БИСИ может иметь одну или несколько глобальных рабочих областей. Когда мы ищем факт или сосредоточиваем на чём-то своё внимание, наш мозг обеспечивает доступ сенсорных или когнитивных данных к «глобальной рабочей области», где эта информация для более сосредоточенной обработки передаётся системам внимания и рабочей памяти, а также массивным параллельным каналам в головном мозге (Баарс (Baars) 2008). Глобальная рабочая область функционирует как единое пространство, в котором важная информация, поступающая от органов чувств, рассматривается в одно и то же время, так что мыслящее существо может принимать тщательно продуманные решения и разумно действовать с учётом всех фактов, имеющихся в его распоряжении. В целом было бы неэффективно иметь способность чувствовать или познавать, не интегрированную с другими способностями, поскольку сенсорная или когнитивная информация не смогла бы фигурировать в прогнозах и планах, создаваемых на основе оценки всей имеющейся информации.
(v) Ментальная обработка информации БИСИ может быть понята с помощью функциональной декомпозиции. Для осмысления таких сложных систем, как инопланетный суперинтеллект, в нашем распоряжении имеется метод функциональной декомпозиции. Ключевой особенностью вычислительных подходов к исследованию мозга является объяснение когнитивных и перцептивных способностей путём разложения конкретной способности на её причинно-организованные компоненты, которые, в свою очередь, осмысляются в плане причинной организации их частей. Это и есть вышеупомянутый «метод функциональной декомпозиции» — ключевой метод объяснения в когнитивных науках. Трудно представить себе сложную мыслящую машину без программы, состоящей из причинно взаимосвязанных элементов, каждый из которых состоит из каузально организованных элементов.
При всём при этом суперинтеллектуальные существа по определению являются существами, превосходящими людей в любой сфере деятельности. Хотя такое существо может обрабатывать информацию, используя методы, которые в основных чертах мы всё ещё способны осмыслить, возможна встреча с каким-то суперинтеллектом, чьи вычисления окажутся за пределами человеческой способности понимать. Как было отмечено, я обсуждаю лишь тот сценарий, согласно которому интеллектуальная работа СИИ доступна нашему пониманию. При этом ключ к осмыслению основных моментов сложной ментальной жизни некоторых БИСИ дают достижения когнитивных наук. Теперь следует рассмотреть ряд важных социальных и философских последствий открытия или создания суперинтеллекта. И начнём мы с обсуждения проблемы контроля в рамках дискуссии об активном ПВЗИ.
3. Проблема контроля и активный ПВЗИ
Мы уже говорили о том, что, по мнению трансгуманистов и сторонников постбиологического подхода к исследованию космоса в астробиологии, следующим этапом интеллектуальной эволюции на Земле станет развитие машинного интеллекта. Вы и я — все мы живём в переходный период, на промежуточной ступени эволюционной лестницы. Некоторые — такие, как Рэй Курцвейл — считают, что человечество сольётся с машинами и достигнет биологического бессмертия (Курцвейл 2005). Но другие смотрят на будущее гораздо более мрачно. Как я уже упоминала, Стивен Хокинг, Илон Маск, Ник Бостром и Билл Гейтс обеспокоены тем, что люди, разрабатывая формы искусственного интеллекта, могут потерять над ним контроль, поскольку суперинтеллект способен переписать свои программы и обойти любые предусмотренные нами меры контроля. Так возникла «проблема контроля», суть которой сводится к вопросу о том, как контролировать ИИ, который оказался выше интеллекта человека (Бостром 2014).
Как отмечает Бостром, СИИ может появиться в момент технологической сингулярности, когда ускоренное технологическое развитие, и, в первую очередь, интеллектуальный взрыв, достигнет точки, в которой люди без искусственно усиленного интеллекта уже не смогут делать прогнозы или даже понимать происходящие изменения. Случись интеллектуальный взрыв — и у людей исчезнет возможность предсказывать или контролировать основные цели СИИ. Моральные принципы трудно загрузить в машину на манер защиты от дураков, и суперинтеллект всегда может переписать эти принципы. До сих пор продолжаются споры о том, какие именно нормы морали следует прописать ИИ. Кроме того, умная машина способна обходить такие меры безопасности, как выключатели убийства и попытки изоляции, и потенциально представляет для человечества экзистенциальную угрозу (Бостром 2014, Юдковский (Yudkowsky) 2008). А чему тут удивляться, если, согласно определению, суперинтеллект умнее человека в любой сфере деятельности.
Проблема контроля — серьёзная, даже, возможно, непреодолимая проблема. Не случайно, прочитав книгу Бострома, учёные и бизнес-лидеры — Стивен Хокинг, Билл Гейтс, Макс Тегмарк (Max Tegmark) и другие — высказались в том духе, что суперинтеллект может угрожать человечеству, поскольку цели СИИ нельзя будет ни предвидеть, ни контролировать. В настоящее время большинство работ по проблеме контроля написано учёными-компьютерщиками. К ним могут присоединиться философы, изучающие ум и мораль, чтобы внести свой вклад в работу над созданием дружественного ИИ (если нужен превосходный обзор работ на данную тему, см. Уоллак (Wallach) и Аллен (Allen) 2009).
А что предлагаю я? На мой взгляд, создавая систему контроля, включающую этическое программирование, важно также, по возможности, разработать, хотя бы в общих чертах, средства оперативного осмысления вычислений СИИ. Будет короткий интервал времени между разработкой передовых форм ИОИ, то есть сильного (универсального) искусственного общего интеллекта (artificial general intelligence, AGI), и суперинтеллекта, и, когда наступит это время, любая нынешняя работа, посвящённая природе суперинтеллектуальных вычислений, может оказаться весьма полезной для осуществления контроля над СИИ. Добавлю, что человеческое понимание СИИ, по-видимому, будет усилено синтетическими средствами повышения интеллекта, и интеллектуально модернизированному человеку будет легче интерпретировать поведение и когнитивную обработку информации СИИ. Данная статья может стать отправной точкой для дальнейшей, более тщательной проработки затронутых мной вопросов.
В настоящее время нет понимания того, что продвинутый ИОИ, который технически не является суперинтеллектом, может быть опаснее, чем СИИ. ИОИ, даже уступая нашему разуму в каких-то сферах деятельности, способен в других сферах превзойти его, получить доступ к интернету, оказаться в руках преступных организаций. Недостаточная сообразительность в одной или нескольких областях в сочетании с изощрённой сообразительностью в других может представлять особую опасность. ИОИ способен свести на нет все попытки изолировать его или ещё каким-то способом контролировать его действия, способен интегрировать разные типы входов, то есть создать грубый аналог ассоциативных зон головного мозга, и всё же оставаться крайне недоразвитым в некоторых областях, создавая серьёзную угрозу для человечества. При этом структура ИОИ может быть весьма сложной, особенно в тех областях, где он превосходит людей. Разработка путей понимания такого рода систем, по-видимому, весьма полезна.
Оставив в стороне сугубо земные дела, давайте рассмотрим в контексте вопросов, связанных с проблемой контроля, возможные последствия обнаружения где-то во Вселенной суперинтеллектуального ИИ. При серьёзном отношении к контролю было бы недальновидно игнорировать потенциальную опасность такого открытия. Цели иноземных форм СИИ установить трудно, и, хотя мы можем утверждать, что часть из них — БИСИ, остальные ими не являются. И даже БИСИ могут эволюционировать непредсказуемым образом. Сторонники активного ПВЗИ настаивают на том, что кроме прослушивания космоса в надежде поймать сигналы внеземного интеллекта необходимо, используя наши самые мощные радиопередатчики, такие как гигантский радиотелескоп в Аресибо, Пуэрто-Рико, отправлять сообщения в направлении ближайших к Земле звёзд (Шостак 2015, Фальк (Falk) 2015). Однако в свете проблемы контроля программа активного ПВЗИ выглядит недальновидной. Хотя для действительно развитой цивилизации человечество, вероятно, не представляет никакого интереса, нам следует воздерживаться от активного ПВЗИ, пока мы не достигли уровня развития, позволяющего не опасаться СИИ.
Сторонники активного ПВЗИ могут отреагировать на данную рекомендацию так: наши радиолокационные и радиосигналы уже доступны для перехвата извне. Однако это обстоятельство никоим образом не вынуждает нас посылать в космос гораздо более мощные сигналы (да ещё и транслировать, как кое-кто настаивает, содержание интернета), усиленно осуществляя активный ПВЗИ (См. обзор этой дискуссии: Фальк, 2015). Не стоит предполагать, что СИИ не сделают нам ничего плохого, если мы инициировали контакт. Это антропоцентрическая позиция. Дальнейшие усилия, направленные на то, чтобы нас заметили, могут оказаться критичными. На мой взгляд, разумнее придерживаться стратегии пассивного прослушивания и даже стараться маскировать наши исследующие космос устройства, ибо столкновение с деструктивным СИИ, даже если оно маловероятно, это — серьёзный экзистенциальный риск.
Теперь перейдём к рассмотрению возможных социальных и философских последствий.
4. Возможные социальные и философские последствия
Разговор на данную тему, вероятно, лучше всего начать с рассмотрения того, какой сдвиг в наших взглядах на разумную жизнь во вселенной подразумевает постбиологический подход к исследованию космоса. Размышляя о встрече с продвинутым внеземным интеллектом, мы, как правило, представляем себе существа, биологические свойства которых разительно отличаются от наших. Согласно постбиологическому подходу, в ходе таких размышлений может потребоваться перенести центр нашего внимания с особенностей внеземной биологии на вычислительные способности продвинутых ИИ. Кроме того, пытаясь понять постбиологический интеллект, мы должны чётко осознавать, что, вероятно, мы размышляем не только об инопланетянах, но и о природе наших собственных потомков, поскольку возможна трансформация человеческого интеллекта в постбиологический. В сущности, граница между «нами» и «ими» становится всё более расплывчатой, и наше внимание уходит от биологии к чрезвычайно сложной задаче понимания вычислений и поведения существ, которые будут намного более развитыми, чем мы.
А коли так, какое влияние окажет на общество обнаружение где-то во вселенной гораздо более разумных, чем мы, существ, являющихся формами СИИ и, стало быть, не являющихся биологическими? Многое, конечно, зависит от конкретных обстоятельств, в которых произойдёт это открытие. Предсказать их трудно, но, похоже, мы не ошибёмся, если выскажем такое вот предположение: установление того, что высший разум развился за пределами биологической жизни и стал синтетическим, произведёт эффект холодного душа. В этом случае неизбежно возникает вопрос: формы СИИ, включая наших потенциальных постбиологических потомков, — это личности или просто неразумные машины? Есть ли у таких существ внутренняя жизнь? Чувствуют ли они каким-то образом самих себя, изнутри?
Футурист Рэй Курцвейл, который в настоящее время является техническим директором компании «Google», тщательно изложил сценарии, в которых человечество в конечном итоге сливается с машинами. Курцвейл предполагает, что люди, выйдя за пределы биологического существования, достигнут более высокого уровня сознания, избавятся от пут биологического старения и, в конечном итоге, станут формами СИИ (Курцвейл 2005). С этой точки зрения, формы СИИ сознательны, они — личности со своими интересами и развитой способностью оценивать мир. В отличие от Рэя Курцвейла с его утопическим мировоззрением (у многих трансгуманистов такое же), те, кто пишут на тему СИИ в рамках астробиологии, не обсуждают ценность постбиологического существования.
Я думаю, что вопрос о сознательности СИИ является ключевым при выяснении того, как следует относиться к постбиологическому существованию. СИИ может представлять собой изощрённую систему обработки информации, превосходить человека в любой сфере познания, но если он, подобно любому ИИ, не способен чувствовать, трудно считать его имеющим такую же ценность, как сознающее существо — я или личность. Сознание выступает здесь как философский краеугольный камень. По моему убеждению, самость (я) или личность без него немыслимы, поэтому важно уточнить, что, на мой взгляд, представляет собой сознание. Вдумайтесь: в каждый момент вашего бодрствования и в каждый момент вашего сновидения есть что-то, чьи ощущения претендуют на то, чтобы быть вами. Когда вы видите тёплые оттенки заката или слышите шум кофеварки эспрессо, у вас есть опыт осознания. Этот опыт включает в себя все формы осознания: например, чувственный опыт, идеи и эмоции. А теперь зададимся вопросом: может ли ИИ быть сознающим, как считают Курцвейл и другие? Я рассуждала на эту тему в более ранней астробиологической статье (Шнайдер 2015), но с тех пор у меня появились два новых соображения, которые сделали меня более консервативной и гасят мой прежний оптимизм в отношении машинного сознания. (Впрочем, я всё ещё не отказалась от высказанных тогда аргументов, особенно от критического анализа того, как выступал против машинного сознания Джон Сёрл).
Во-первых, мы знаем, что, по меньшей мере, некоторые биологические существа могут что-либо сознавать. Ибо каждый из нас может заглянуть в себя и сказать: «Я сознаю» — прямо сейчас вы можете утверждать, что вы переживаете мир, накапливая опыт. И многие из нас считают, что у животных тоже есть сознание, ибо есть нейрофизиологическое сходство с нами. Но как нам узнать, умеют ли переживать машины, состоящие из компьютерных чипов, — совершенно иная материя, по сравнению с нами?
Философы часто считают, что при наличии изоморфности в плане способности обеспечивать обработку информации разные субстраты будут функционировать совершенно одинаково даже тогда, когда дело касается сознания (см., например, Чалмерс (Chalmers) 1996). Однако кремний и углерод в ряде важных аспектов существенно отличаются друг от друга. Прежде всего, не ясно, изоморфны ли они в отношении обработки информации, поскольку кремниевая обработка гораздо быстрее и надёжнее нейронной (Бостром 2014, Шнайдер 2105). Во-вторых, следует учесть, что углерод и кремний имеют различную молекулярную структуру. По сравнению с кремнием, молекулы углерода образуют более прочные, более стабильные химические связи. Это даёт углероду возможность создавать чрезвычайно много соединений. Кроме того, в отличие от кремния, углерод обладает способностью легко образовывать двойные связи. Указанные различия имеют большое значение. Исходя из них, астробиологи пришли к выводу, что наиболее подходящим элементом для развития жизни во вселенной является не кремний, а углерод (Беннетт и Шостак 2012). Если химические различия между углеродом и кремнием влияют на саму жизнь, не следует исключать, что эти различия влияют и на такую ключевую функцию, как способность порождать сознание. Это не тот аргумент, который в одиночку создаёт прочный фундамент для биологического натурализма, не признающего, что машины могут иметь сознание, но это тот аргумент, который указывает на отсутствие ясности в вопросе о машинном сознании.
Если кремний не может служить основой для сознания, то суперинтеллектуальные машины — машины, которые способны однажды отбросить человечество на обочину, — будут демонстрировать значительно более совершенную, чем у людей, форму интеллекта, но, кроме того, — полное отсутствие внутреннего опыта. Как поразительная женщина-андроид в фильме Ex Machina (2015) убедила главного героя, Калеба, что она в него влюблена, точно так же умный ИИ может убедительно имитировать наличие у него сознательности при полном её отсутствии. Более того, в данном аспекте совершенно неважно, является ли СИИ БИСИ, имеющим сходную с человеческой когнитивную архитектуру, включая глобальную рабочую область. Проявляя в этой области активность, похожую на сознательную деятельность человека, БИСИ, изготовленный из субстрата, не способного порождать сознание, не будет иметь никакого жизненного опыта.
И всё же предположим, что микрочипы являются подходящим для сознания материалом. (Для выяснения этого у нас имеется тест: Шнайдер и Мандик 2016). Но тут встаёт ещё одна проблема. Даже если микрочипы — подходящий материал, суперинтеллект, чтобы максимально эффективно осуществлять обработку информации, может исключить сознание из этого процесса. Вспомним, как работает человеческое сознание. В любой момент времени в поле его действия пребывает весьма незначительный процент умственной деятельности. Сознание занимается задачами приобретения новых навыков, требующими концентрации. Вспомните, какая сосредоточенность понадобилась вам, когда вы, к примеру, учились водить машину. А суперинтеллект в любой сфере деятельности превзойдёт уровень экспертов, стремительно рыская по базам данных, которые могут включать в себя весь интернет и охватывать всю планету. Что будет неизведанным для него? Что потребует неспешной, вдумчивой сосредоточенности? Разве он не будет освоившим всё, что можно освоить?
Чтобы узнать, обладает ли суперинтеллектуальное существо сознанием, мы должны детально изучить внутреннюю организацию конкретного СИИ, и это может оказаться исключительно трудной задачей, особенно если СИИ не является БИСИ или более развит, чем ранний СИИ. Кроме того, хотя мы можем ожидать наличие у БИСИ определённых когнитивных способностей, таких как способность создавать комбинаторные представления, определить, есть ли у такого существа сознание, было бы чрезвычайно сложно, так как потребовалось бы тщательно изучить всю архитектуру этой машины. Простейший случай — встреча с ранним суперинтеллектом, который является БИСИ. Тут мы могли бы сказать, что у него есть глобальная рабочая область. Но вот беда: рабочая область суперинтеллекта может не коррелировать с сознанием. Предположим, что СИИ имеет систему, которую можно подвергнуть функциональной декомпозиции, что он обладает способностью создавать комбинаторные представления, а также другими когнитивными способностями, о которых я упоминала. Однако через короткий интервал времени его строение может быстро превратиться в систему, недоступную для человеческого понимания (Бостром 2014). Сознание, по-видимому, зависит от сложного взаимодействия разнообразных когнитивных и перцептивных функций. И как мы сможем определить, является ли обработка информации сознательной, если организация ИИ станет совершенно непохожей на организацию головного мозга человека и животных?
В общем, нам необходимо определить, могут СИИ быть сознательными и, если могут, в каком случае. А сделать это трудно. Особенно трудно иметь дело с продвинутым суперинтеллектом, который не является БИСИ. Для решения этой задачи людям может понадобиться значительно усовершенствовать свой интеллект.
Вопрос о наличии у ИИ сознания имеет большое значение, если надо определить, можно ли данный интеллект квалифицировать как я или личность. При контакте с СИИ, земным или инопланетным, этот вопрос, по-видимому, приобретёт остросоциальный характер. Сначала рассмотрим, что произойдёт в том случае, когда СИИ создан людьми. Как уже упоминалось, есть мнение, что следующим этапом в эволюции земного интеллекта станут машины. Отметим, что, если у машинного суперинтеллекта, как и у любого ИИ, отсутствует способность чувствовать, нам следует задаться вопросом: пусть даже машинный интеллект не будет с нами воевать и мирно ассимилирует человечество, хотим ли мы сыграть роль простого промежуточного шага к ИИ? В экстремальном, ужасном случае люди станут постбиологическими, сольются с машинами, и только животные смогут почувствовать свет озарения, муки горя или тёплые оттенки восхода. Это было бы безмерной потерей, которую не компенсировать чистой прибылью в плане интеллектуального развития. Таким образом, вопрос о том, способен ли ИИ обладать сознанием, может иметь прямое отношение к нашему будущему и от ответа на него зависит наше отношение к суперинтеллекту.
С учётом сказанного, рассмотрим теперь возможный контакт с внеземным СИИ. Здесь вполне естественно спросить, развивается ли биологический интеллект в сторону постбиологического, как утверждают сторонники теории постбиологического космоса. Если да и если ИИ не имеют сознания, у многих это может вызвать тревогу. Даже если вселенная заполнена невероятно развитыми формами ИИ, с чего бы это бессознательные машины будут так же, как и мы, ценить сознающий биологический интеллект? Бессознательные машины не могут переживать мир — у них ничего подобного нет.
Итак, то, как мы отреагируем на открытие СИИ, зависит от того, как будет решена проблема машинного сознания. И хотя я предпочитаю не высказываться от имени мировых религий, дискуссии по вопросам религиозных исследований и теологии в Центре теологических исследований с моими коллегами, в основном христианами, которые, как и я, участвуют в финансируемом НАСА астробиологическом проекте, позволяют мне утверждать следующее: многие не согласятся с тем, что СИИ имеют души или сотворены по образу Бога, и даже с тем, что они сознающие существа. Папа Франциск недавно сказал, что будет крестить инопланетянина (Консолмагно (Consolmagno) и Мюллер (Mueller) 2014). Но интересно, какова будет его реакция, если его попросят крестить СИИ, не говоря уже об ИИ, не имеющем сознания.
Безусловно, возникнут и другие проблемы. Позвольте мне затронуть одну из них, имеющую прямое отношение к моей дисциплине — философии ума. Учитывая разнообразие возможных интеллектов, нельзя не задаться интригующим вопросом: могут ли существа с различными сенсорными модальностями мыслить, как люди, или подобным образом? Как водится, в философии ума по данному вопросу идут дискуссии. Современные неоэмпиристы, такие как философ Джесси Принц (Jesse Prinz), утверждают, что все понятия зависят от той или иной модальности, так как представлены в особом сенсорном формате, например, в формате зрения (Принц 2004). Если он прав, понять мышление существ, имеющих сенсорный опыт, существенно отличающийся от нашего, не просто. Но я сильно сомневаюсь, что в этом плане возникнут серьёзные трудности. Вспомним, например, мой комментарий насчёт независящих от точки зрения представлений. При более высоком уровне обработки информация, по-видимому, становится менее зависимой от точки зрения. Точно так же она становится менее зависимой от модальности, как при обработке в нашем головном мозге: информация восходит от определённых сенсорных модальностей к ассоциативным зонам мозга и в распоряжение рабочей памяти и внимания попадает в более нейтральном формате.
Впрочем, это дело тонкое и заслуживает более длительного разговора. Вопросы, связанные с данной темой, рассмотрены в моей монографии «Язык мысли» (The Language of Thought). Здесь я стремилась выяснить, является ли мышление независимым от природы наших перцептивных модальностей и появилось ли оно раньше языка, на котором мы говорим (Шнайдер 2011b). В своих суждениях я опиралась на новаторскую работу Джерри Фодора (Джерри Фодор 1978). Что касается СИИ, то тут возникает интересный вопрос: если существует внутренний ментальный язык, независящий от сенсорных модальностей и имеющий вышеупомянутую комбинаторную структуру, не станет ли он фундаментом общения при встрече с другими существами, обладающими развитым интеллектом? Многое из того, о чём говорится в моей монографии, относится и к разумной биологической жизни на других планетах. Кроме того, этот материал может оказаться весьма полезным для исследования развития СИИ на Земле.
5. Вывод
В данной статье я рассуждала о том, почему внеземные цивилизации, с которыми мы вступим в контакт, по-видимому, будут формами сверхразумного ИИ (или СИИ). Далее я пыталась выяснить, какое у таких существ мышление, какие цели и когнитивные способности. Мной проведён анализ недавней книги Ника Бострома о суперинтеллекте, в которой основное внимание уделено генезису СИИ на Земле; оказалось, что многие наблюдения Бострома представляют ценность и для исследования проблемы контакта с инопланетными цивилизациями (Бостром 2014). Затем я выделила конкретный тип внеземного суперинтеллекта, который представляет наибольший интерес, — биологически инспирированный суперинтеллектуальный инопланетянин (БИСИ). Я старалась показать, что при встрече с формами БИСИ, чтобы понять хоть какие-то их вычисления, полезно воспользоваться некоторыми достижениями вычислительной и когнитивной неврологии, а также философии ума. Наконец, я обсудила некоторые социальные последствия нашего общения с земными или внеземными суперинтеллектуальными ИИ, уделяя особое внимание проблеме контроля и вопросу о том, могут ли такие существа обладать сознанием.
Литература
Baars, B. 2008. “The Global Workspace Theory of Consciousness.” In M. Velmans and S. Schneider (eds.), The Blackwell Companion to Consciousness. Boston, MA: Wiley-Blackwell, pp. 236-247.
Block, N. 1995. “The Mind as the Software of the Brain.” In D. Osherson, L. Gleitman, S. Kosslyn, E. Smith, and S. Sternberg (eds.), An Invitation to Cognitive Science. New York: MIT Press, pp. 377—421.
Bostrom N., Chislenko, A., Hughes, J., More, M., Sandberg, A., Vita-More, N., et al,(2003) . “The Transhumanist Frequently Asked Questions”: v 2.1. World Transhumanist Association. (The most recent version of this document is reproduced at:
http://humanityplus.org/philosophy/transhumanist-faq/)
Bostrom, N. 2005. “History of Transhumanist Thought.” Journal of Evolution and Technology, 14, 1—25.
Bostrom, N. 2008. “Dignity and Enhancement”. In The President’s Council on Bioethics, Human Dignity and Bioethics: Essays Commissioned by the President’s Council on Bioethics, Washington, DC: US Government Printing Office.
Bostrom, N. 2014. Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press.
Bradbury, R., Cirkovic, M., and Dvorsky, G. 2011. “Dysonian Approach to SETI: A Fruitful Middle Ground?” Journal of the British Interplanetary Society, 64, pp. 156—165.
Brin, David. 2015. Shall We Shout into the Cosmos? Web. Extracted July 1. 2016.
http://www.davidbrin.com/setisearch.html
Chalmers, D. 1996. Absent Qualia, Fading Qualia, Dancing Qualia. In: The Conscious Mind: In Search of a Fundamental Theory. Oxford University Press.
Cirkovic, M. and Bradbury, R. 2006. “Galactic Gradients, Postbiological Evolution and the Apparent Failure of SETI.” New Astronomy 11, 628—639.
Clarke, A. (1962). Profiles of the Future: An Inquiry into the Limits of the Possible. New York, NY: Harper and Row.
Consolmagno, G. and Mueller, P. 2014) Would You Baptize an Extraterrestrial?: . . . and Other Questions from the Astronomers’ In-box at the Vatican Observatory. Penguin Random House.
Davies, P. (2010). The Eerie Science: Renewing Our Search for Alien Intelligence. Boston: Houghton Mifflin Harcourt.
Dick, S. 2013. “Bringing Culture to Cosmos: the Postbiological Universe.” In S. J. Dick, and M. Lupisella (eds.), Cosmos and Culture: Cultural Evolution in a Cosmic Context. Washington, DC: NASA, online at http://history.nasa.gov/SP-4802.pdf.
Falk, D. 2015. “Is This Thing On?: The fierce debate over whether we should try to
contact extraterrestrial life or wait for aliens to contact us.” Slate. Web:
http://www.slate.com/articles/technology/future_tense/2015/03/active_seti_should_we_reach_out_to_extraterrestrial_life_or_are_aliens_dangerous.html.
Extracted July 1, 2016.
Fodor, Jerry (1978). The Language of Thought. Boston: MIT Press.
Garreau, J. 2005. Radical Evolution: The Promise and Peril of Enhancing our Minds, Our Bodies — And What it Means to Be Human. New York, NY: Doubleday.
Guerini, Federico. 2014. “DARPA’s ElectRx Project: Self-Healing Bodies Through
Targeted Stimulation Of The Nerves,” http://www.forbes.com/sites/federicoguerrini/2014/08/29/darpas-electrx-project-self-healing-bodies-through-targeted-stimulation-of-the-nerves/
Forbes Magazine, 8/29/2014. Extracted Sept. 30, 2014.
Madrigal, A. (2013). Is this Virtual Worm the First Sign of the Singularity? The New
Atlantis, May 17.
Müller, Vincent C. and Bostrom, Nick (forthcoming 2014), “Future progress in artificial intelligence: A Survey of Expert Opinion,” in Vincent C. Müller (ed.), Fundamental Issues of Artificial Intelligence (Synthese Library; Berlin: Springer).
Hawkins, J. and Blakeslee, S. 2004. On Intelligence: How a New Understanding of the Brain will Lead to the Creation of Truly Intelligent Machine. NewYork, NY: Times Books.
Holley, Peter. 2015. «Bill Gates on Dangers of Artificial Intelligence: ‘I Don’t Understand Why Some People Are Not Concerned’.» The Washington Post. Web. Extracted July 1, 2016.
Kurzweil, R. 2005. The Singularity is Near: When Humans Transcend Biology. New York, NY: Viking.
Miller, R. 1956. “The Magical Number Seven, Plus or Minus Two: Some Limits on Our Capacity for Processing Information” The Psychological Review, 63, 81—97.
Prinz, J. 2004. Furnishing the Mind: Concepts and their Perceptual Basis. Boston: MIT Press.
Sandberg, A., Bostrom, N. 2008. “Whole Brain Emulation: A Roadmap.” Technical Report 2008: 3. Future of Humanity Institute, Oxford University.
Schneider, S. 2011a. “Mindscan: Transcending and Enhancing the Brain.” In J. Giordano (ed.), Neuroscience and Neuroethics: Issues At the Intersection of Mind, Meanings and Morality. Cambridge: Cambridge University Press.
Schneider, S. 2011b. The Language of Thought: a New Philosophical Direction. Boston, MA: MIT Press.
Schneider, S. 2014. “The Philosophy of ‘Her.’” The New York Times, March 2.
Schneider, S. 2015. “Alien Minds.” In Discovery, Steven Dick, ed., Cambridge, Cambridge University Press.
Schneider and Mandik, “The Future of Philosophy of Mind,” Amy Kind (ed.), forthcoming.
Seung, S. 2012. Connectome: How the Brain’s Wiring Makes Us Who We Are. Boston, MA: Houghton Mifflin Harcourt
Shostak, S. 2009. Confessions of an Alien Hunter. New York, NY: National Geographic.
Shostak, S. 2015. “Should We Keep a Low Profile in Space?” The New York Times. Web. Extracted July 1, 2016.
Wallach, W. and Allen, C. (2008) Moral Machines. Oxford: OUP.
Yudkowsky, E. 2008. “Artificial Intelligence as a Positive and Negative Factor in Global
Risk.” In Global Catastrophic Risks, edited by Nick Bostrom and Milan. M. Cirkovic. Oxford University Press. Pp. 308—345.
