Сверхразумный искусственный интеллект  — это гипотетическая форма искусственного интеллекта, которая поднялась во всех сферах деятельности выше уровня человеческого интеллекта: в общении, в мудром отношении к миру, в научном творчестве и прочее. Тот факт, что в настоящий момент уже идёт работа над созданием изощрённого искусственного интеллекта, в последние годы стал широко известен. Илон Маск, Билл Гейтс, Ник Бостром,Стивен Хокинги другие ученые и футурологи даже говорили о необходимости усиления контроляза развитием на Земле суперинтеллекта, и было целой серией исследований о том, при каких условиях и как этот контроль можно сделать эффективным. Несколько исследователей и писателей, чьи работы обращены к проблемам астробиологии, выразили точку зрения, согласно которой самые продвинутые инопланетные цивилизации по своей природе, вероятнее всего, постбиологические (об этом есть в текстах Чирковича и Брэдбери, Дика, Шостака, Шнайдера, Дейвиса, Брэдбери и других). Насколько известно, эти астробиологические публикации не имеют прямого отношения к захватывающей дискуссии на тему суперинтеллекта, которая идет в  посвящённой искусственному интеллекту литературе.
Для того, чтобы воедино связать две эти области научных исследований, стоит воспользоваться несколькими способами, которые имеют большое значение. Во-первых, я, опираясь на работы, которые посвящены суперинтеллекту, выясню новые направления развития темы постбиологического интеллекта в астробиологии. Во-вторых, не менее важно отступить назад и поглядеть, при каких условиях мы можем понять вычисления сверхразумного искусственного интеллекта, так как, определив данные условия, мы сумеем себе облегчить задачу установления эффективного контроля над ним.
Здесь необходимо различать два сценария: первый - при котором люди способны хотя бы в общих чертах осмыслить некоторые, по меньшей мере, особенности работы сверхразумного искусственного интеллекта, и второй сценарий –это при котором суперинтеллект настолько развитый, что мы не можем понять ни одного из его вычислений. Участники современных дискуссий склоняются к тому, что сверхразумный искусственный интеллект в будущем окажется настолько продвинутым, что люди не будут понимать его вычисления. Вероятно, именно так и произойдет. Моет быть, любая по-настоящему продвинутая цивилизация нам продемонстрирует такие технологии, какие нам будут казаться магией и волшебством. Если это является правдой, то контакт с подобными существами нас поставит в тупик, мы скорее всего не сможем их понять, узнать, что у них на уме.
Но стоит сосредоточится на первом сценарии — сценарии, при котором особенности работы сверхразумного искусственного интеллекта доступны для осмысления людьми и путём реинжиниринга (обратной разработки) можно выяснить его происхождение.

Постбиологический подход к исследованию космоса в астробиологии

Как можно обосновать гипотезу о том, что самые продвинутые инопланетные цивилизации, с которыми мы вступим в контакт, будут цивилизациями каких-либо форм сверхразумного искусственного интеллекта?

1. Короткий интервал времени.

Если цивилизация начала освоение космоса, она практически в считаных столетиях от того, чтобы парадигма её развития перестала быть биологической. Этот маленький интервал делает более вероятным тот факт, что инопланетяне, с которыми мы встретимся, будут постбиологическими. Чтобы данный аргумент сделать более убедительным, стоит вспомнить, как в последнее время шла культурная эволюция человечества. Радио нами было создано почти120 лет назад, а исследованию космоса — всего около пятьдесят лет, но мы уже настолько продвинулись в сфере цифровых технологий, что используем широко компьютеры и мобильные телефоны. Последние несколько лет можно заметить стремительный рост ассигнований, которые выделяются на развитие изощрённого искусственного интеллекта, который, поожиданием, изменит лицо общества.
К примеру, согласно недавнему опросу, самые цитируемые разработчики искусственного интеллекта ожидают, что с вероятностью 10% он «освоит большинство человеческих профессий, как минимум, не хуже среднего человека» к 2024 году, с вероятностью 50% — к 2050 году и с вероятностью 90% — к 2070 году. Критики искусственного интеллекта, подобные ДжонуСёрлу, Джерри Фодору и Хьюберту Дрейфусу, теперь должны учитывать впечатляющую работу, которую проделала, например, компания «DeepMind», достижения программы «Watson» компании «IBM», вместо того чтобы повторять общеизвестный перечень неудач искусственного интеллектав 1970-х и 1980-х годах.
Факты говорят о том, что кремний является более совершенной средой для обработки информации, чем головной мозг. Хотя мозг компенсирует частично данный недостаток массивным параллелизмом, «хабами» и так далее, важные умственные способности, например, внимание, зависят от последовательной обработки информации, которая осуществляется очень медленно, а её максимальная ёмкость — около семи управляемых. Кроме того, количество нейронов в человеческом мозге ограничено метаболизмом и объёмом черепа. Компьютеры же могут занимать здания или целые города и даже, если они удалённо друг к другу подключены, то всю планету.
Безусловно, человеческий мозг интеллектуальней любого современного компьютера. Но можно полагать, что машины с интеллектом, таким как интеллект человеческого мозга или даже более совершенным, будут созданы. В принципе, подобные машины можно построить при помощи реинжиниринга, улучшая и используя алгоритмы головного мозга, или с помощью некоторой комбинации реинжиниринга и разработки эффективных алгоритмов без опоры на исследование человеческого мозга. Более того, программу искусственного интеллектаможно загружать сразу в разные места, она с легкостью модифицируется и может выживать в таком широком диапазоне условий, в каком жизнь на основе углерода существовать не может. Машинный ум будет более надёжным и выносливым, чем ум биологический.
По-видимому, не пройдёт и полстолетия, как хитроумные интернет-связи будут непосредственно подключены к нашему мозгу. Судите сами: уже используются импланты для лечения болезни Паркинсона, а в США Управление перспективных исследовательских проектов министерства обороны (DARPA) приступило к разработке нейронных имплантов, непосредственно взаимодействующих с центральной нервной системой, для регулирования таких состояний, как посттравматическое стрессовое расстройство, артрит, депрессия и болезнь Крона. Программа DARPA под названием «ElectRx» направлена на то, чтобы заменить некоторые лекарства нейронными имплантами с обратной связью, которые постоянно оценивают состояние организма и обеспечивают стимуляцию нервов, необходимую для нормальной работы его подсистем. Наступит время, когда будут разработаны импланты не для лечения, а для улучшения нормального функционирования мозга.
Вы можете возразить, что в этом аргументе используется обобщающая индукция с базой N = 1: уникальный опыт человечества неправомерно приписывается инопланетным цивилизациям. Однако мне кажется неразумным игнорировать аргументы с опорой на историю человечества. Человеческая цивилизация — единственная, которую мы знаем, и нам надо учиться на её примере. Вряд ли стоит считать рискованным утверждение о том, что иные цивилизации станут разрабатывать технологии, развивающие интеллект и дающие адаптивные преимущества. Исинтетический интеллект, скорее всего, превзойдёт неменяющиеся мозги.
На мой аргумент «Короткий интервал времени» имеется ещё одно возражение: из сказанного мною не вытекает, что люди станут суперинтеллектуальными, ибо я говорила лишь о постчеловеческом будущем человечества. Ссылаясь на нашу культурную эволюцию, я стремилась убедить в том, что в конечном итоге люди будут постбиологическими существами, но я не показала, что передовые инопланетные цивилизации должны быть сверхразумными. Так что, даже если считать, что применённое мной индуктивное умозаключение безупречно, оно не является доказательством сверхразумности продвинутых инопланетных цивилизаций.
Это верно. Всё, что я пока показала, — это то, что инопланетный интеллект, с которым нам придётся иметь дело, скорее всего, будет постбиологическим. Теперь надо показать, что, кроме того, он будет сверхразумным. Здесь я пускаю в ход свой второй аргумент.

2. Больший возраст инопланетных цивилизаций.

Сторонники ПВЗИ постоянно приходили к выводу, что инопланетные цивилизации, с которыми мы вступим в контакт, окажутся сильно старше нашей: «…все линии доказательства сходятся к тому, что максимальный возраст внеземного интеллекта будет исчисляться миллиардами лет. Говоря конкретнее, этому интеллекту будет от 1,7 миллиарда до 8 миллиардов лет». Земля — сравнительно молодая планета. Это не означает, что всякая жизнь эволюционирует в  технологические, интеллектуальные,  цивилизации. Речь о другом: так как существуют планеты, которые сильно старше, чем Земля, поскольку, если хотя бы на некоторых из них всё-таки идёт интеллектуальное, технологическое развитие, эти внеземные цивилизации, согласно прогнозам, будут на миллионы или миллиарды лет старше человечества. В таком случае многие из них, по сравнению с нами, будут гораздо интеллектуальнее, то есть, по нашим меркам, будут суперинтеллектуальными. В космическом масштабе наше нынешнее состояние можно рассматривать как зачаточное.
Но будут ли внеземные цивилизации не только формами суперинтеллекта, но и формами искусственного интеллекта? Думаю, будут. Даже если представители этих цивилизаций — биологические существа, всего лишь усовершенствовавшие свои биологические мозги, их суперинтеллектуальность была бы достигнута искусственным путём, и мы могли бы считать их формами «искусственного интеллекта». Но я подозреваю, что нам встретится кое-что покруче, и тут самое время перейти к третьему аргументу:

3. Вполне вероятно, что у этих синтетических существ не будет биологической основы.

Напомню то, о чём я уже говорила: во-первых, кремний, по-видимому, является лучшей средой для обработки информации, чем головной мозг, а будущие материалы могут превзойти и кремний; во-вторых, количество нейронов в человеческом мозге ограничено объёмом черепа и метаболизмом, а компьютеры с помощью удалённого соединения могут охватить всю планету; в-третьих, формы искусственного интеллекта, в принципе, можно конструировать путём реинжиниринга головного мозга, попутно улучшая мозговые алгоритмы.
Теперь обобщим всю эту информацию. Я показала, что, похоже, интервал времени между развитием технологий доступа к космосу и развитием постбиологических форм разума и  искусственного интеллектабудет коротким. Затем я показала, что, по меркам галактики, мы — младенцы: внеземные цивилизации, с которыми мы вступим в контакт, по всей видимости, окажутся значительно старше нас и, следовательно, не только постбиологическими, но ещё и суперинтеллектуальными. Наконец, я отметила, что они, скорее всего, будут суперинтеллектуальными, поскольку кремний и, возможно, какие-то пока неизвестные вещества, превосходящие кремний, являются превосходной средой для суперинтеллекта. Отсюда я делаю вывод, что многие продвинутые внеземные цивилизации будут цивилизациями форм сверхразумного искусственного интеллекта.
Даже если я ошибаюсь, и в своём большинстве инопланетные цивилизации окажутся биологическими, весьма вероятно, что наиболее интеллектуальными будут те внеземные цивилизации, жители которых — формы сверхразумного искусственного интеллекта. Кроме того, организмы на основе кремния, в отличие от биологических, не боятся космических путешествий, так как они настолько выносливы, что практически бессмертны. Вот почему, те инопланетяне, с которыми мы впервые вступим в контакт, скорее всего, будут небиологическими (даже если в космосе их меньше, чем биологических).
Поскольку всё это попахивает научной фантастикой, могут возникнуть недоразумения. Кое-кто заявляет, будто, по моим словам, большая часть жизни во вселенной имеет небиологический характер. Подчёркиваю: таких утверждений у меня нет. Нет у меня и утверждений о том, что формы сверхразумного искусственного интеллектабудут «контролировать» вселенную или «доминировать» в ней, хотя об этом стоит поразмыслить, обсуждая проблему контроля. Я всего лишь утверждаю, что, если существуют наиболее развитые цивилизации, которые значительно старше, чем человечество, они могут быть суперинтеллектуальными и, вероятно, достигли постбиологического уровня развития. Далее: я не утверждаю, что жители этих цивилизаций непременно сделаны из кремния. Даже у нас, на Земле, уже идёт разработка материалов, альтернативных кремнию. Суть в другом: жители наиболее развитых цивилизаций, по-видимому, будут высокотехнологичными существами: постбиологическими и суперинтеллектуальными.