Природа глобальных рисков

Главная задача человечества в XXI веке — избежание глобальной катастрофы, которая может привести к гибели цивилизации и вымиранию людей. К сожалению, технические средства для реализации антропогенной катастрофы доступны уже сейчас и станут в еще большей мере доступны в будущем, если развитие сверхтехнологий будет происходить стихийно и неконтролируемо.

Земная цивилизация сможет просуществовать тысячи и миллионы лет только при одном условии — если задача неуничтожимости цивилизации будет прописана как одна из главных.

Бессмертие человека и бессмертие цивилизации — это одна и та же задача, которая реализуется на разных уровнях.

Риски новых технологий

Наиболее очевидным источником глобальных рисков являются качественно новые объекты, создаваемые с помощью новых технологий, которые обладают одним общим свойством — способно- стью к неограниченной саморепликации:

• цепная реакция; 
• усиление интеллекта;
• размножение нанороботов; 
• распространение искусственного вируса; 
• рост гипотетической черной дыры в коллайдере.

Качественная новизна этих событий может обусловливать отсутствие у них естественных ограничителей.

Если контроль над развитием и использованием этих технологий будет утерян, именно они могут внести наибольший вклад в вероятность глобальной катастрофы.

РИСКИ, СВЯЗАННЫЕ С РАЗВИТИЕМ БИОТЕХНОЛОГИЙ

Основной риск состоит в одновременном попадании в окружающую среду нескольких десятков генетически модифицированных патогенов, способных поражать как людей, так и всю биосферу. Это может произойти в ходе войны или стать следствием деятель- ности нескольких независимых друг от друга биохакеров.

Таким образом, риск биотехнологий является наиболее «зрелым» и наиболее серьезным.

Отметим, что один-единственный вирус вряд ли сможет истребить все человечество, как это показывают в кинофильмах, поскольку всегда найдутся люди с эффективной иммунной системой против него.

РИСКИ, СВЯЗАННЫЕ С РАЗВИТИЕМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

1. Опасность того, что однажды созданный ИИ будет способен к быстрому, все более ускоряющемуся саморазвитию, в ходе которого «инстинкт самосохранения» может вытеснить в нем другие заложенные заранее системы цели, и он начнет воспринимать людей как угрозу для себя.

2. Опасность появления ошибочной системы команд для сверх- ИИ, которая побудит его захватить Землю и уничтожить людей.

3. Дополнительные риски связаны с войной между двумя сильными ИИ, а также состоят в утрате «необходимости в человеке» по мере замены всех его функций ИИ.

РИСКИ, СВЯЗАННЫЕ С РАЗВИТИЕМ НАНОТЕХНОЛОГИЙ

1. «Серая слизь» — гипотетический сценарий конца света, связанный с успехами молекулярных нанотехнологий и пред сказывающий, что неуправляемые самореплицирующиеся нанороботы поглотят всю биомассу Земли, выполняя свою программу саморазмножения. Термин впервые был использован Эриком Дрекслером в его книге «Машины созидания....» (1986).

2. Возможность создания способного к саморепликации нанотехнологического оружия — микроскопических, невидимых глазу нанороботов, которые могут скрытно распространяться по территории противника, а затем атаковать людей, впрыскивая им яды или проникая в мозг, или уничтожить всю технику, замыкая электрические линии связи.

3. Удешевление с помощью нанотеха производства любого другого оружия, в том числе ядерного.

РИСКИ, СВЯЗАННЫЕ С РАЗВИТИЕМ ЯДЕРНОГО ОРУЖИЯ

Вопреки распространенному мнению, «обычная» ядерная война между сверхдержавами вряд ли может привести к полному вымиранию человечества: большая часть населения Земли выживет, и многие страны сохранят технологический потенциал для дальнейшего развития. Главный риск — тотальное ядерное заражение в случае создания, а затем применения стационарной кобальтовой бомбы.

Дополнительные риски — пробуждение спящих сверхвулканов с помощью ядерных зарядов, тотальная ядерная война, ядерный терроризм в больших масштабах. Стоимость обогащения урана снижается по экспоненциальному закону, что делает подобное оружие все более доступным.

Природные катастрофы

Последняя глобальная природная катастрофа, поставившая человечество на грань вымирания, произошла примерно 74 000 лет на- зад и связана с извержением супервулкана Тоба на индонезийском острове Суматра. После этого резко упала численность предков человека. Их осталось примерно 20 000, что определяется метода- ми генетического анализа. Современная цивилизация могла бы пережить вулканическую зиму, хотя потери были бы огромны.

Другой широко известный глобальный риск — падение астероида. Астероиды диаметром около 10 км падают на Землю один раз в 30 млн лет. И даже такую катастрофу пережило бы некоторое количество людей. Полностью уничтожить род людской мог бы только астероид диаметром от 30 км, но его бы уже давно открыли.

Помимо астероидов опасность представляют кометы, особенно так называемые темные кометы — покрывшиеся темной коркой и потому невидимые. Однако выведенные на орбиту инфракрасные телескопы, такие как WISE, способны их обнаруживать.

Еще одна причина массовых вымираний в прошлом — это гамма- всплески. Правда, его воздействие будет коротким, так что обратная сторона планеты может уцелеть.

Непредвидимые последствия

Любое вмешательство в сложную систему может привести или не привести к желаемым ре- зультатам, но наверняка приведет к непредвидимым и часто нежелательным последствиям. Большинство экологических проблем являются примерами действия этого закона. Кроме того, к непредвидимым последствиям относятся возможные риски от научных экспериментов

Возможные типы катастроф, являющихся непредвидимыми последствиями:

1. Ошибка в программировании ИИ или сбой в его работе, когда он станет всемирным ИИ.

2. Неизвестность долгосрочных последствий накопления в биосфере множества искусственно производимых веществ.

3. Научные эксперименты с адронным коллайдером.

4. Сверхглубокое проникновение в недра Земли, способное спровоцировать гигантское вулканическое извержение.

5. Всемирный системный кризис, сопровождающийся исчерпанием ресурсов, экономическим кризисом, терроризмом, гонкой вооружений с применением всех видов новых технологий для создания оружия, борьбой за власть и мировой войной, в результате чего численность выживших упадет ниже определенной черты, за которой последует процесс самоподдерживающегося коллапса цивилизации.

6. Религиозные верования, в которых загробная жизнь считается предпочтительнее земной (например, террорист взрывает бомбу ради того, чтобы попасть в рай).

ГЛОБАЛЬНОЕ ПОТЕПЛЕНИЕ

Рано или поздно оно произойдет, вплоть до выкипания океанов. Рост светимости Солнца, связанный с ростом его радиуса, составляет 10% за миллиард лет. Поэтому в течение ближайшего миллиарда лет (плюс-минус несколько сот миллионов лет) температура на Земле станет неприемлемой для жизни. И основной вопрос не в том, будет ли глобальное потепление, а в том, не может ли оно по каким-то причинам произойти раньше этого срока.

Оценка рисков и необходимые меры

Одно из объяснений загадки молчания космоса, известное как парадокс Ферми, состоит в том, что все цивилизации, возникающие во Вселенной, с неизбежностью самоуничтожаются.

С 1990-х годов за рубежом опубликовано несколько работ, в которых исследуются глобальные риски такой катастрофы, которая может привести к полному необратимому уничтожению земной цивилизации. Общий вывод, который делают все авторы, — неуправляемое развитие новых технологий может привести к глобальной катастрофе. Оценки этих рисков довольно велики.

Для выживания цивилизации необходима эффективная футурология.

Удаленное будущее

Удаленным мы называем будущее, которое наступит после XXI века. Его главной особенностью будет неограниченная экспансия разума в космосе, в то время как основными событиями XXI века будут только создание и освоение сверхтехнологий. Мы исходим из того, что известные законы физики не могут быть изменены, в частности, скорость света навсегда останется макси- мально возможной скоростью путешествий. Историю земной цивилизации можно описать как путь пре- вращения ее в сверхцивилизацию.

Советский астроном Н. С. Кардашов в 1963 году ввел классификацию типов сверхцивилизаций по уровню их энергопотребления, которая была развита Карлом Саганом.

Очевидно, что скорость света ограничивает темп эволюции цивилизаций от одного типа к другому.

Переход к типу 3 потребует не менее 100 000 лет, а к типу 4 — миллиардов лет. Однако почти наверняка к концу XXI века мы станем цивилизацией 1-го типа, овладев всей энергией Солнца, которая падает на Землю. А при самом радикальном развитии событий, если начнется активная трансформация Солнечной системы с по- мощью роботов-репликаторов, мы можем приблизиться и ко 2-му типу, то есть начать строить сферу Дайсона и потреблять большую часть энергии Солнца.

Средства межзвездного транспорта

Необходимым атрибутом сверхцивилизации являются межзвездные путешествия.

Проекты межзвездного транспорта

1. Атомный «взрыволет» — проект «Орион». Использует энергию ядерных взрывов для движения вперед.

2. Термоядерный звездолет — проект «Дедал». Это более продвинутый проект, в котором используются несуществующие пока термоядерные реакторы.

3. Зонд фон Неймана — проект космического корабля, способного к самопрепликации.

4. Нанозвездолет, разгоняемый лазерным лучом, — устройство микроскопических размеров, разгоняемое до околосветовых скоростей.

5. Использование гравитационных маневров около искусственных черных дыр.

6. Использование новых физических эффектов, вероятно, связанных с гравитацией. Нельзя исключить того, что будут от- крыты новые физические процессы, позволяющие приблизиться к световому барьеру, а может даже и перепрыгнуть его.

7. Информационное распространение — радиоконтакт с удаленными другими цивилизациями и отправка им компьютерной про- граммы с ИИ и «описанием себя».

Наверняка в будущем станут возможны и другие способы межзвездного транспорта. В конце концов, продление жизни людей до 1000 лет, которое может оказаться более простой за- дачей, чем разгон до околосветовой скорости, позволит отказаться от больших скоростей перемещения и создавать более экономичные аппараты.

Астроинженерная деятельность

Еще один атрибут сверхцивилизации — способность манипулировать материей в гигантских масштабах. Наиболее очевидный для нас сейчас способ достичь этого — использование роботов-репликаторов, которые могут переносить небольшие кусочки материи, подобно муравьям в муравейнике.

Направления астроинженерной деятельности:

1. Создание сфер Дайсона вокруг поверхности звезды для улавливания всего ее излучения и преобразования в полезную энергию

2. Создание разгонных устройств для межзвездного транспорта или самих гигантских кораблей.

3. Преобразование планет под условия жизни человека (терроформирование) или создание чисто искусственных поселений в космосе, например под куполом на астероидах.

4. Разборка планет и астероидов на составляющие минералы для создания других астроинженерных объектов.

5. Создание маяков в помощь другим цивилизациям для установки контакта в процессе SETI. Или наоборот, полное сокрытие своей деятельности, если цивилизации не хотят, чтобы их обнаружили.

6. Создание «Юпитерианских мозгов» — суперкомпьютеров размером с целую планету, сферическая форма которых позволяет осуществлять наиболее быстрый обмен информацией.

7. Управление судьбами развития звезд. Это могут делать цивилизации галактического типа, например способствуя рождению сверхновых.

8. Создание новых вселенных и определение их физических законов.

Заключение.  Решающий век

Главная альтернатива будущего — это или превращение человечества в сверхцивилизацию, населенную бессмертными людьми и занимающуюся освоением Галактики, либо глобальная катастрофа в ближайшей исторической перспективе.

Развилка на пути может быть весьма незаметной. Она произойдет, когда факторы, способствующие одному из двух главных сценарив, начнут перевешивать. Этот выбор зависит от скорости развития технологий, от геополитической ситуации в мире и от господствующих ценностей. Мы полагаем, что выбор пути произойдет скоро, между 2017 и 2020 годами.

В этот промежуток времени могут произойти следующие важные позитивные события:

1. Будет создан экзофлопный (1018 флопс) компьютер, и станет ясно, что открыта прямая дорога к искусственному интеллекту.

2. Компьютеры научатся правильно понимать большую часть человеческой речи.

3. Станет ясно, найдено ли новое средство продолжить закон Мура, после того, как потенциал кремния будет исчерпан, а имен- но в виде графена, спинтроники и других технологий.

4. Будет создана международная система предотвращения биотерроризма.

5. Расшифровка генома людей станет массовой, а цена его рас- шифровки упадет до 100 долларов.

6. Будут получены убедительные доказательства продления жизни человека, и задача борьбы со старением станет мейнстримом науки .

7. Будет начата программа по созданию полноценного наноробота.

8. Окончательно закончится экономический спад, начавшийся в 2008 году. Все рассчитаются по своим долгам, будут найдены новые моторы роста.

9. Апокалиптические прогнозы («пик нефти», глобальное потепление) получат однозначное опровержение.

10. Расширится объединенная Европа и будут созданы вненациональные системы управления, ответственные за судьбы планеты и за предотвращение глобальных рисков.

11. Снизится международная напряженность, прекратятся войны и гонка вооружений.

12. Демократические партии одержат победу над авторитарными режимами в мире.

13. Задача неуничтожимости цивилизации будет признана одной из главных.

14. Трансгуманизм станет широким общественным движением.

Итак, от наших действий в ближайшие 5–10 лет зависит, как мы пройдем точку выбора пути, и каково будет дальнейшее будущее цивилизации.

Единственной альтернативой гибели цивилизации является превращение человечества в сверхцивилизацию. Чем быстрее мы достигнем стадии сверхцивилизации, тем больше у нас шансов избежать глобальной катастрофы. Промедление не поможет избежать рисков, а только увеличит период уязвимости.

Материалы взяты из книги Турчин А.В., Батин М.А. «Футурология. XXI век: Бессмертие или глобальная катастрофа?».

Опубликовано с официального разрешения издательства БИНОМ. Лаборатория знаний.