Сейчас стоит обратиться к недавнем исследовании перспектив создания суперинтеллекта на Земле.

Как могут думать суперинтеллектуальные инопланетяне?

Тема суперинтеллектуального искусственного интеллекта не испытывает дефицита внимания со стороны учёных-компьютерщиков, философов и СМИ. Недавняя книга Ника Бострома посвящена развитию суперинтеллекта на Земле, но и для тех, кто размышляет о внеземных цивилизациях, в этой книге есть много интересного. Автор выделяет три вида суперинтеллекта:

(1) Быстрый суперинтеллект — даже эмулятор человека в принципе мог бы работать так быстро, что кандидатскую диссертацию можно было бы написать за один час.
(2) Коллективный суперинтеллект — индивиды могут и не быть суперинтеллектуальными, но состоящий из них коллектив превосходит человеческий интеллект.
(3) Качественный суперинтеллект — по меньшей мере, мыслит настолько же быстро, как мыслит человек, и намного умнее во всех сферах деятельностилюдей.
Любой из этих видов может соседствовать с одним или двумя другими.

Необходимо установить, могут ли данныесуперинтеллекты иметь одинаковые цели. Вот мнение футуролога Бострома:

Утверждение об ортогональности: «Интеллект и основные цели ортогональны: почти любой уровень интеллекта может в принципе сочетаться с почти любой основной целью».
Бостром подчёркивает тот факт, что в будущем может возникнуть очень много совсем неожиданных видов сверхразумного искусственного интеллекта. Он приводит отрезвляющий пример суперинтеллекта, у которого основной целью является изготовление скрепок. Вначалеподобная цель может показаться слишком безобидной и скромной, но Бостром обращает внимание на то, что для её осуществления суперинтеллект может использовать все земные формы материи, при этом уничтожая биологическую жизнь. Бостром предостерегает, что суперинтеллект,возникающий на Земле, может оказаться непредсказуемым и «совсем чужим» для нас.
Он рассказывает о нескольких сценариях развития сверхразумного искусственного интеллекта. К примеру, сверхразумный искусственный интеллект способен появиться не благодаря человеческому замыслу, а путём, который непонятен для умнейших программистов. Более того, Бостромсовершенно серьёзно рассматривает вероятность того, что земной суперинтеллект способен оказаться биологически инспирированным, то есть возникшим благодаря реинжинирингу алгоритмов, которые, как говорит когнитивистика, описывают человеческий мозг, или благодаря сканированию содержимого человеческого мозга и загрузки его на компьютер.
На протяжении всего своеготрудаБостром подчёркивает, что, так каксуперинтеллект непредсказуемый, и его действия довольно сложно контролировать, он может представлять очень серьёзный экзистенциальный риск для нашего вида, и, соответственно, нам необходимо быть всегда настороже. Это должно сильно остудить наш пыл и в контексте поиска контакта с инопланетянами.
Хотя труднопредсказатьосновные цели суперинтеллекта, Бостром выделяет несколько возможных инструментальных целей с учётом того, что они поддерживают любую основную цель:
Утверждение об инструментальной конвергенции: «Можно установить несколько инструментальных ценностей, которые конвергентны в том смысле, что их достижение повысит возможность реализации цели агента для широкого диапазона основных целей и большого диапазона ситуаций, подразумевая, что, по-видимому, данные инструментальные ценности будут осуществляться широким спектром зависящих от ситуации интеллектуальных агентов».
Цели, установленныеБостромом, — это совершенствование технологии, приобретение ресурсов, когнитивное развитие, целостность и самосохранение содержания целей (будущая суперинтеллектуальная личность станет эти же целипреследовать и реализовывать). Бостром подчёркивает, что самосохранение способно включать индивидуальное или групповое сохранение и что оно может обладать второстепенным значением по отношению к сохранению вида, которому должен служить искусственному интеллекту.
Для инопланетного организма с суперинтеллектом, в основе которого лежит реинжиниринг инопланетного мозга, который включает загрузку последнего, мы станем использовать термин «биологически инспирированный суперинтеллектуальный инопланетянин» или БИСИ. Хотя в БИСИ загружен мозг биологического вида, который создалданный суперинтеллектуальный организм, алгоритмы подобного организма в любой момент могут отклониться от алгоритмов биологической модели.
В контексте осмысления инопланетной суперинтеллектуальности биологически инспирированного суперинтеллектуального инопланетянина представляют особый интерес. Так как, если Бостром прав и существует много путей создания суперинтеллекта, но некоторые внеземные цивилизации пользуются для развития суперинтеллектуальности загрузку или прочие формы реинжиниринга, вероятно, биологически инспирированныесуперинтеллектуальные инопланетяне представляют собой самой распространённой формой инопланетного суперинтеллекта. В самом деле: многие виды суперинтеллектаспособны возникнуть по причине неожиданных побочных эффектов программирования, которое применяется внеземными цивилизациями. (Например, на Земле многие программы искусственного интеллектасоздаются не на основе исследования человеческого мозга). В связи с этим большая вероятность того, что класс сверхразумного искусственного интеллектабудеточень неоднородным и между его представителями сходство окажется очень незначительным. Вероятно, что БИСИ окажутся друг на другапохожиминамного больше, чем прочиесверхразумные искусственные интеллекты. Иначе говоря, биологически инспирированные суперинтеллектуальные инопланетяне могут составить очень сплочённую подгруппу из-за разительного несходства остальных форм суперинтеллекта.
Если созданные множеством биологических видовбиологически инспирированные суперинтеллектуальные инопланетяне рассеяны по всей галактике, какие можно выделить общие свойства у представителей этого класса? биологически инспирированные суперинтеллектуальные инопланетяне имеют специфическое происхождение, и здесь стоит выделить два момента, на основе которых могут формироваться общие когнитивные способности и цели:

(1) БИСИ происходят от существ, имеющих потребности в пище, безопасности, воспроизводстве, сотрудничестве, конкуренции и т. д.
(2) Формы жизни, на основе которых создаются БИСИ, эволюционировали в сторону преодоления таких биологических ограничений, как медленная скорость обработки информации и пространственные границы воплощения.
Можно ли, исходя из (1) или (2), сформулировать черты, которые общие для членов многих суперинтеллектуальных внеземных цивилизаций? Сдаётся мне, что да.
Рассмотрим следующий момент (1). Интеллектуальная биологическая жизнь стремится, прежде всего, к воспроизводству и самосохранению, так что, по всей видимости, среди основных целей БИСИ окажутся воспроизводство и самосохранение, или, по крайней мере, самосохранение и воспроизводство членов суперинтеллектуального общества. Если биологически инспирированные суперинтеллектуальные инопланетяне заинтересованы в воспроизведении, мы, учитывая их колоссальные вычислительные ресурсы, можем ожидать, что они создают искусственные вселенные с искусственной жизнью и даже интеллектом или суперинтеллектом. Если предназначение этих существ быть «детьми», у них могут сохраниться цели, перечисленные в пункте 1.
Мне могут здесь возразить: мол, рассуждать о формах БИСИ — это совершенно бесполезное дело, ибо они обладают способностью многообразно и непредсказуемо менять свою базовую архитектуру. При этом любой биологически инспирированный мотив рискует подвергнуться перепрограммированию и оказаться значительно урезанным. Но здесь, кажется, имеются границы. Если у суперинтеллектесть биологическая основа, его главной целью может быть самосохранение. В этом случае он, возможно, сочтёт за лучшее, не покушаясь на основы своей архитектуры, вносить в неё какие-то улучшения. Он может думать приблизительно таким образом: «перестроив свою архитектурурадикально, я перестану быть самим собой». Например, загрузки могут осуществляться так, чтобы не навредить тем свойствам интеллекта, которые очень важны для его биологически инспирированного существования.
Теперь перейдём ко второму моменту. Сам самосовершенствующийся суперинтеллект и разработчики суперинтеллекта могут отойти от первоначальной биологической модели разнообразными и непредсказуемыми способами, но, как я отметила, биологически инспирированные суперинтеллектуальные инопланетяне, возможно, не захочет радикально перестраивать свою архитектуру. Попробуем установить полезные для него когнитивные способности, то есть те способности изощрённых форм биологического интеллекта, без которых, по всей видимости, эти формы не способны существовать и благодаря которым суперинтеллектможет осуществлять свои главные и инструментальные цели. Кроме того, постараемся установить те свойства, которые вряд ли возникнут у БИСИ, хотя они и не ставят под сомнение осуществление им его целей.
Если верно то, о чём говорит второй пункт, мы можем ожидать, например, следующее:
1. К пониманию моделей мышления биологически инспирированных суперинтеллектуальных инопланетян можно прийти путём исследования вычислительной структуры мозга биологического вида, создавшего этот суперинтеллектуальный организм. В когнитивных науках одним из важных средств понимания вычислительной структуры мозга является «коннектомика» — область исследования карты связей или нейроэлектрической схемы мозга. Хотя коннектомы данного БИСИ и его создателей могут не совпадать, вполне возможно, что некоторые функциональные и структурные связи в обоих случаях окажутся одинаковыми. При этом можно установить интересные отклонения искусственного интеллекта от оригинала.
2. БИСИ могут иметь представления, не зависящие от точки зрения. На высоком уровне обработки информации наш мозг создаёт внутренние представления об объектах и людях, не зависящие от точки зрения. Вспомним, как мы подходим к своей входной двери. Мы делали это сотни раз, а может быть, и тысячи, но, в плане построения движения, всякий раз по-разному, так как ни разу не перемещались совершенно одинаково. И ни разу вещи не появлялись перед нами под совершенно одинаковыми углами зрения. Но на относительно высоком уровне обработки информации наш мозг создаёт такие ментальные представления, которые не зависят от точки зрения. По-видимому, для развития любого интеллекта с биологической основой способность создавать такого рода представления необходима, поскольку без них невозможно осуществлять категоризацию и прогнозирование. Мобильной системе необходимы средства идентификации предметов, которые находятся в постоянно меняющейся среде, поэтому и возникают устойчивые внутренние представления. Теперь должно быть понятно, почему стоит ожидать наличие таких представлений у искусственных интеллектуальных систем на биологической основе. С какой статибиологически инспирированные суперинтеллектуальные инопланетяне откажется от объектно-инвариантных представлений, если он — мобильная система или имеет мобильные устройства для удалённой связи?
3. БИСИ станет обладать языковыми ментальными представлениями, причём они будут комбинаторными и рекурсивными. Стоит обратить внимание на то, что у человеческой мысли имеется такое всеобъемлющее и ключевое свойство, как комбинаторность. Возьмём следующее суждение: итальянское вино лучше китайского вина. Вероятно, прежде подобная мысль никогда вам на ум не приходила, но вы всегда смогли бы её понять. Дело в том, что мысли комбинаторны, потому что складываются из знакомых частей и объединяются согласно известным правилам. Правила применяются и к конструкциям из примитивных компонентов, которые сами по себе сложены грамматически, и к самим примитивным компонентам. Грамматические ментальные операции очень полезные: комбинаторный характер мышления дает возможность понимать и складывать предложения, используя грамматику и атомарные компоненты (такие, как, к примеру, «вино», «китайский»). Так что мысль продуктивна: благодаря комбинаторному синтаксису, в принципе, можно, развлекаясь, создать бесконечное количество разнообразных представлений.
Головному мозгу нужны комбинаторные представления по той причине, что потенциально существует бесконечно много языковых репрезентаций, для их хранения требуется бесконечное пространство, а бесконечно просторного хранилища у мозга нет. Даже суперинтеллектуальной системе полезна комбинаторность. Обладая способностью иметь огромные вычислительные ресурсы, позволяющие во многих случаях подбирать для устных или письменных высказываний подходящие предложения из хранилища, эта система вряд ли отменит такое чудесное свойство биологического интеллекта, как комбинаторность. В противном случае получится хуже, чем было, поскольку, каким бы огромным ни было хранилище, оно всегда конечно, и, значит, какого-то нужного в данный момент предложения в нём может не оказаться.
4. БИСИ может иметь одну или несколько глобальных рабочих областей. Когда мы ищем факт или сосредоточиваем на чём-то своё внимание, наш мозг обеспечивает доступ сенсорных или когнитивных данных к «глобальной рабочей области», где эта информация для более сосредоточенной обработки передаётся системам внимания и рабочей памяти, а также массивным параллельным каналам в головном мозге. Глобальная рабочая область функционирует как единое пространство, в котором важная информация, поступающая от органов чувств, рассматривается в одно и то же время, так что мыслящее существо может принимать тщательно продуманные решения и разумно действовать с учётом всех фактов, имеющихся в его распоряжении. В целом было бы неэффективно иметь способность чувствовать или познавать, не интегрированную с другими способностями, поскольку сенсорная или когнитивная информация не смогла бы фигурировать в прогнозах и планах, создаваемых на основе оценки всей имеющейся информации.
5. Ментальная обработка информации БИСИ может быть понята с помощью функциональной декомпозиции.Для осмысления таких сложных систем, как инопланетный суперинтеллект, в нашем распоряжении имеется метод функциональной декомпозиции. Ключевой особенностью вычислительных подходов к исследованию мозга является объяснение когнитивных и перцептивных способностей путём разложения конкретной способности на её причинно-организованные компоненты, которые, в свою очередь, осмысляются в плане причинной организации их частей. Это и есть вышеупомянутый «метод функциональной декомпозиции» — ключевой метод объяснения в когнитивных науках. Трудно представить себе сложную мыслящую машину без программы, состоящей из причинно взаимосвязанных элементов, каждый из которых состоит из каузально организованных элементов.
При всём при этом суперинтеллектуальные существа это по определению существа, которые превосходят в любой сфере деятельности людей. Хотя подобное существо может обрабатывать информацию, пользуясь методами, которые в основных чертах мы всё ещё способны осмыслить, вероятна встреча с каким-то суперинтеллектом, чьи вычисления будут сильно за пределами человеческой способности понимать. Как было отмечено, я рассматриваютолько тот сценарий, согласно которому интеллектуальная работа сверхразумного искусственного интеллекта может быть оступна нашему пониманию. При этом ключ к осмыслению основных моментов сложной ментальной жизни некоторых биологически инспирированные суперинтеллектуальные инопланетяне дают достижения когнитивных наук. Далее нам необходимо рассмотреть несколько важных социальных и философских последствий открытия или создания суперинтеллекта. И начнём мы с обсуждения проблемы контроля в рамках дискуссии об активном поиске внеземного интеллекта.