По мере того, как я изучал мир ИИ, я обнаружил, что много людей уверены, что его создание принесет нам только хорошее.

Все они там просто гудят от волнения. Их взор устремлен к хорошей стороне бревна, и они убеждены, что именно туда мы все и направляемся. Для них будущее — это все, на что они так сильно надеялись и все это подоспеет вовремя и как нельзя кстати.

Что отличает их от других мыслителей, мы обсудим чуть позже, но это не их жажда оказаться на другом краю бревна, а их уверенность, что мы непременно приземлимся с противоположной стороны.

Откуда берется такая уверенность – предмет отдельного спора. Критики считают, что те просто ослеплены своей взволнованностью по поводу будущего и не видят возможных негативных последствий. Сторонники же говорят, что предрекать судный день наивно, ведь технологии всегда в большей степени помогали нам, чем вредили.

Мы охватим мнения обеих сторон, и по прочтении вы сможете определиться с собственной точкой зрения, но на данном этапе отложите своей скептицизм. Давайте лучше посмотрим на хорошую сторону бревна баланса и постараемся принять факт, что то, о чем вы сейчас читаете, вполне может стать реальностью. Если бы вы рассказали охотнику–собирателю о нашем мире домашнего комфорта, технологий и бесконечного изобилия, ему бы это могло показаться выдумкой, так что давайте будем честны и признаем, что столь же непостижимая трансформация может произойти и в нашем будущем.

Ник Бостром описывает три возможных типа функционирования ИИ:

Оракул – с точностью отвечает почти на любой вопрос, включая и сложные для человека, например, как создать более эффективный автомобильный двигатель? Google представляет собой примитивный вид оракула.

Джинн – исполняет любую команду высокой сложности. Например: используй молекулярный ассемблер для создания боле эффективного автомобильного двигателя. После чего ждет новую команду.

Суверен — сам решает, как ему лучше действовать и какие решения принимать, функционирует независимо с целью выполнить широко поставленную задачу. Например – изобрети более быстрое, экономичное и безопасное средство для частного передвижения людей.

Такие вопросы и задачи кажутся нам очень сложными. Их выполнение для сверхинтеллекта будет чем то вроде того, как если бы нас попросили исправить ситуацию, в которой карандаш упал со стола, и мы бы с легкостью выполнили задачу, просто подняв и положив карандаш обратно на стол.

Элиэзер Юдковский, житель Тревожного проспекта нашей таблицы, хорошо подметил:

“Не существует сложных проблем, есть только проблемы, которые сложны для определенного уровня интеллекта. Поднимитесь малость вверх (по уровню интеллекта), и решение некоторых «невозможных» проблем резко станет «очевидным». Подниметесь на уровень значительно выше и все станет «очевидным»”

В Уверенном уголке прописалось множество непоседливых ученых, изобретателей и предпринимателей, но для экскурсии по самой светлой стороне горизонта ИИ мы бы предпочли, чтобы нашим гидом был только один человек.

Персона Рэя Курцвейла достаточно противоречива. Я натыкался на разные отзывы, одни ему поклоняются и боготворят его идеи, другие же с презрением закатывают глаза, услышав его имя. Некоторые находятся посередине, как писатель Дуглас Хофштадтер, который отозвался об идеях изложенных в книгах Курцвейла следующим красноречивым образом: «Это все равно что смешать хорошую еду с собачьими экскрементами, так что в итоге невозможно решить, хорошая она или нет».

Неважно, нравятся вам его идеи или нет, невозможно не согласиться с тем что личность Курцвейла, как минимум, впечатляет. Уже подростком он начал свою деятельность, а в последующие десятилетия сделал несколько прорывных изобретений, включая первый планшетный сканер, первый сканер–преобразователь текста в речь (позволяя слепым людям читать обычные книги), хорошо известный синтезатор Курцвейла (первое настоящее электрическое пианино) и первый коммерчески доступный распознаватель речи с большим словарным запасом.

Курцвейл написал 5 бестселлеров. Он хорошо известен за свои смелые прогнозы, значительная часть которых оказалось верна, например в 80–х, когда интернет еще был чем–то загадочным, он предсказал, что в 2000–х интернет станет глобальным феноменом. Wall Street Journal прозвал его «неугомонным гением», журнал Forbes — «потрясающей думающей машиной», журнал Inc – «законным наследником Эдисона», а Билл Гейтс отозвался о нем как о «лучшем провидце будущего ИИ из всех, кого он знает».

В 2012 соучредитель Google Ларри Пейдж пригласил Курцвейла занять должность технического директора. (прим.: в интервью Guardian Курцвейл объяснил свою миссию в Google: «моя основная задача заключается в том, чтобы заставить Google понимать естественный язык, и я решаю, каким образом этого достигнуть. Окончательная цель моего проекта состоит в том, чтобы поиск понимал настоящее значение слов. Компьютеры не способны воспринять идею этой статьи, и мы хотим, чтобы они на самом деле научились читать. Мы хотим, чтобы компьютеры прочитали все в интернете, каждую страницу каждой книги, для того чтобы вступить с нами в полноценный диалог и дать ответы на наши вопросы». И Google, и Курцвейл считают, что все дело в языке).

В 2011 году Курцвей стал соучредителем Университета Singularity, который находится под опекой NASA и частично финансируется Google. Такое количество достижений – точно неплохой результат для одной жизни.

Вся эта биографическая справка приводится мною неспроста. Когда Курцвейл формулирует свое видение будущего, он звучит как помешанный, но важно понимать, что это не так – он поразительно умен и эрудирован в этих вопросах. Короче, вам может показаться, что он не прав, но помните, что он далеко не дурак. Осознание того, что это вполне себе приличный мужик, делает меня счастливым, так как я очень хочу, чтобы его прогнозы оказались верны. И вы, наверное, тоже.

Несложно догадаться, почему у него так много страстных последователей, известных как Сингуляританцы. Большинство его прогнозов широко разделяют ученые из Уверенного уголка, среди которых Питер Диамандис и Бен Гёрцель. Вот что, по их мнению, должно произойти:

Хронология

Курцвейл считает, что к 2029 году мы создадим искусственный интеллект, равный человеческому, а к 2045 у нас будет не только сверхинтеллект, но и полномасштабный новый мир, и этот момент он называет сингулярностью. Такой расчет до сих пор продолжает казаться многим безумно преувеличенным (прим. технопредприниматель Мич Капор даже поспорил с Курцвейлом на 200 000 долларов, что мы не достигнем AGI к 2030 году), но с учетом того, как за последние 15 лет развились слабые системы ИИ, все больше экспертов соглашается с Курцвейлом. Его прогноз по–прежнему более амбициозный, чем прогноз среднего участника Бостромского опроса (AGI — 2040; ASI — 2060) но не так уж и сильно.

По мнению Курцвейла, к сингулярности в 2045 нас приведут три одновременные революции в биотехнологиях, нанотехнологиях и, в наибольшей степени, в области разработок ИИ.

Прежде чем мы двинемся далее, следует сказать, что нанотехнологии являются неотъемлемой частью всех разработок, касающихся ИИ, так что давайте сделаем небольшое отступление и обсудим нанотехнологии.

Отступление о нанотехнологиях

Нанотехнологии — термин для обозначения технологий, которые имеют дело с манипуляцией материи, чей размер варьируется между 1 и 100 нанометрами. Нанометр равен одной миллиардной части метра или миллионной части миллиметра. Под этот диапазон от 1 до 100нм попадают вирусы (длинною в 100нм), ДНК (10нм в ширину), а также молекулы гемоглобина (5нм), глюкозы (1нм) и многое другое. Если нанотехнологии станут подвластны нам, следующим шагом станет возможность манипулировать атомами, которые всего на один порядок величины меньше (~ 0,1нм). Следующий шаг будет намного сложнее — манипуляции субатомными частицами в ядре атома, протонами и нейтронами. Они намного меньше – диаметр протона составляет около 1,7 фемтометра, один фемтометр является одной миллионной частью нанометра.

Для того, чтобы понять, в чем состоит сложность манипуляции в подобных масштабах, давайте перенесем это в масштабы покрупнее. Международная Космическая станция находится на расстоянии в 431 км над поверхностью Земли. Если бы люди были великанами и доставали до МКС головой, то они были бы в 250 000 раз больше. Если увеличить что–то от 1 до 100 нанометров в 250 000 раз, вы получите 2,5 сантиметра. Продолжая сравнение, представьте, что такой гигант, цепляющий головой МКС, стал бы пытаться строить сложные объекты, используя инструменты размером с песчинку или глазное яблоко.

Для достижения следующего этапа, манипуляции атомами, великану бы пришлось аккуратно работать с объектами, которые по своему размеру составляют 1/40 миллиметра, настолько мелкими, что даже обычным людям нужен микроскоп, чтобы их разглядеть. Технология, которая позволит людям манипулировать отдельными протонами, сравнима с гигантом, чей рост равен расстоянию от Солнца до Сатурна, который работал бы с миллиметровой песчинкой. Земля бы по размеру составляла 1/50 мм и великану бы требовался микроскоп, чтобы ее разглядеть, и в таких условиях ему нужно было бы передвигать с точностью песчинки на Земле. Это все чтобы вы поняли, насколько мал по размеру протон.

Впервые о нанотехнологиях заговорил Ричард Филлипс Фейнман в 1959. Тогда он сказал следующее: «Законы физики, насколько я могу судить, не противоречат возможности манипуляции атомами. В принципе, физик смог бы синтезировать любое химическое вещество, записанное химиком. Каким образом? Расположив атомы там, где попросит химик». Вот так все просто. Если понять, как перемещать отдельные молекулы атомов, можно в буквальном смысле создать что угодно.

Серьезной сферой науки нанотехнологии стали в 1986 году, когда инженер Эрик Дрекслер положил основы для науки в своей книге «Машины творения». Сам Декслер советует всем, кому интересны современные концепции нанотехнологий, прочитать его новую книгу, вышедшую в 2013, — «Радикальное Изобилие».

Теперь мы сделаем небольшое отступление от отступления, что забавно.

Небольшое отступление о Серой Слизи

Я привел вас сюда, чтобы рассказать о невеселой части знания, связанной с нанотехнологиями. В предшествующих версиях теории нанотехнологий предлагался метод наносборки, который предусматривал создание триллионов нанороботов, работающих над чем–то вместе. Согласно одному способу создания триллиона таких роботов, предполагалось, что нужно сделать лишь одного, способного самовоспроизводиться и позволить ему делать это в геометрической прогрессии. Умно, не так ли?

Умно, пока это случайно не приведет к глобальной катастрофе. Мощь экспоненциального роста делает идею саморепликации очень привлекательной, но по этой же самой причине подобная перспектива является ужасающей. Что, если система заглючит и процесс саморепликации не остановится на паре триллионов? Для процесса саморепликации нанороботам необходимо потреблять углеродсодержащие материалы, но вся загвоздка в том, что жизнь на Земле основана на углероде. Биомасса Земли содержит около 10^45 степени атомов углерода.

Наноробот должен состоять из порядка 10^6 атомов углерода, поэтому 10^39 нанороботов уничтожат всю жизнь на Земле, и на это потребуется всего 130 репликаций (2^130 ~ 10^39), тогда океан нанороботов (это я и называю Серой слизью) наводнит планету. Ученые считают, что для саморепликации нанороботу потребуется около 100 секунд, и это означает, что такая ошибка уничтожит всю жизнь на планете за 3,5 часа.
Или сценарий еще хуже – террористы каким–то образом овладели технологией нанороботов, при этом они знают, как запрограммировать их таким образом, чтобы нанороботы за несколько недель незаметно распространились по всей планете, и потом одновременно нанесли неожиданный удар. Тогда бы им потребовалось всего 90 минут на то, чтобы уничтожить жизнь на Земле и никто не смог бы их остановить.


Эту страшилку широко обсуждали несколько лет, но хорошая новость заключается в том, что она вероятно была сильно преувеличена. Эрик Дрекслер, который ввел термин «серая слизь», прислал мне после этого поста имейл, в котором поделился своими мыслями о с серой слизи: «Люди любят страшилки, и этой место рядом с историями про зомби, идея сама по себе ест мозги».


Как только мы реально разберемся с нанотехнологиями, мы сможем использовать их для создания сложных технических устройств, одежды, еды, биопродуктов – искусственные клетки крови, микровируса, уничтожающего раковые клетки, мускульные ткани и т.д. — да что угодно, по сути. В мире, где будут широко применяться нанотехнологии, стоимость материалов будет определятся не по их дефициту или сложности производства, а по тому, насколько сложна их атомная структура. В мире нанотехнологий алмаз может быть дешевле, чем ластик.

Но пока мы до этого не добрались. И неясно, преувеличиваем ли мы или, наоборот, преуменьшаем трудность этого пути, но кажется, что мы не так далеко. По мнению Курцвейла, это произойдет к 2020–м. Правительства разных стран знают, что нанотехнологии могут изменить мир и поэтому инвестируют огромные деньги в их исследование (США, Евросоюз и Япония в совокупности потратили на это уже 5 миллиардов долларов).

Сложно даже представить, какие возможности откроются нам, если искусственный сверхинтеллект получит доступ к наноассемблеру. Но нанотехнологии придумал человек, пускай еще пока их и не освоил. Учитывая, что все, на что способен наш разум, для системы ASI будет смехотворным, нам остается предположить, что она разработает непостижимые нашему уму технологии. По этой самой причине оптимистичный сценарий революции ИИ сулит вещи, которые невозможно переоценить, учитывая их масштаб. Поэтому, если все это вам кажется чересчур надуманным, примите во внимание, что наш мозг даже не способен представить себе те вещи, которые могут произойти.

Что для нас может сделать ИИ?

Вооружившись сверхинтеллектом и всеми технологиями, которые он может создать, ASI, скорее всего, сможет решить абсолютно все проблемы человечества. Глобальное потепление? Система ASI могла бы остановить выброс углекислого газа и придумать более эффективный способ получения энергии, который не требовал бы использования природного сырья, после чего она создала бы инновационный способ устранения избытков углекислого газа из атмосферы. Рак и другие заболевания? Нет проблем, в здравоохранении произойдёт такая революция, что нам невозможно и представить. Мировой голод? ASI воспользуется нанотехнологиями для создания мяса, которое будет идентично настоящему, точнее, это будет настоящее мясо.

Нанотехнологии позволят преобразовать любой мусор так, что он станет мясом или любой другой едой (которая не должна обязательно обладать привычной формой — представьте квадратные яблоки) и распространить ее по всему земному шару, используя сверхулучшенные виды перевозок. И животным будет хорошо, их перестанут убивать ради мяса. ASI сможет предотвратить вымирание видов, находящихся под угрозой исчезновения и даже вернуть вымершие виды с помощью сохраненных образцов их ДНК. ASI разрешит все вопросы макроэкономики и мировой торговли, положит конец всем философским спорам, так как для ASI все это будет до боли очевидно.
Но есть одна чрезвычайно мучительная и манящая вещь, на которую способен ASI.

Сверхинтеллект может позволить нам победить смерть.

У эволюции не было причин делать наш жизненный цикл больше, чем он есть сейчас. Для эволюции достаточно того, что мы можем рожать детей и растить их до тех пор, пока они не смогут заботиться о себе сами. С эволюционной точки зрения 30 лет уже вполне достаточно для существования нашего вида, поэтому при естественном отборе для мутаций, которые позволяли бы нам жить дольше, не было причин. Как говорил поэт Уильям Батлер Йейтс: «исхитьте из дрожащей твари тленной усталый дух: да будет он храним». Ничего хорошего, в общем.
И, поскольку все всегда умирали, мы живем под страхом смерти и налогов, считая, что это неизбежно. Мы думаем о смерти как и о времени — как ни старайся, остановить их нельзя. Но такое представление неверно. Вот что пишет Ричард Фейнман:

«Самым удивительным в биологических науках является то, что нет ничего, что указывало бы на необходимость смерти. По мере открытия законов физики стало понятно, что создание вечного двигателя невозможно, иначе законы физики неверны. Но в биологии не было обнаружено ничего, что указывало бы на неизбежность смерти. Это наводит меня на мысль о том, что это лишь вопрос времени, прежде чем ученые откроют причину этой проблемы, и тогда это ужасное универсальное заболевание будет излечено».

Дело в том, что старение не связано со временем. Время продолжит свой ход, но старению это делать не обязательно. Если поразмыслить, это совсем не лишено смысла. Старение — это не больше чем изнашивание нашей физической оболочки. Детали автомобиля тоже со временем изнашиваются, но разве это неизбежно? Если идеально ремонтировать и вовремя менять части автомобиля, то он будет работать вечно. Человеческое тело в этом плане ничем не отличается, только оно намного сложнее.

Курцвейл рассуждает о разумных нанороботах, подключенных через Wi–Fi к кровеносной системе, которые были способны выполнять бесчисленные задачи по улучшению нашего здоровья, включая рутинную замену изношенных клеток в любой части нашего тела. Если довести такую разработку до совершенства (если ASI не придумает чего–то покруче), то наше тело не просто будет здоровым – мы обратим старение вспять. Разница между 60–летним телом и 30–летним телом заключается, по сути, в куче физических вещей, которые можно было бы менять, будь у нас такая технология. ASI мог бы сконструировать такой «освежитель возраста», зайдя в который, 60–летный вышел бы с телом и кожей 30–летнего. Возможности косметической хирургии стали бы безграничны. Даже деградирующий мозг можно было бы улучшить с помощью ASI, придумав такой способ, который бы не повредил хранящейся в нем информации (индивидуальности, воспоминаниям и т.д.). 90–летний старик, страдающий слабоумием, зайдя в такой аппарат, вышел бы из него с абсолютно ясным рассудком, готовый начать новую карьеру. Это может звучать абсурдно, но тело состоит из атомов, и для ASI не составило бы никакого труда ими манипулировать, так что это совсем не абсурдно.

Курцвейл на этом не останавливается. Он считает, что искусственно созданные материалы будут все чаще вживляться в человеческое тело. Сначала органы будут заменены сложными устройствами, которые будут работать вечно и безотказно. Затем мы станем вносить изменения в структуру тела, например заменим красные кровяные тельца усовершенствованными эритроцитами нанороботами, которые будут перемещаться самостоятельно, и сердце станет больше не нужным. Курцвейл не обделяет вниманием и мозг, утверждая, что мы сможем его усовершенствовать таким образом, что станем думать в миллиарды раз быстрее и получать информацию извне, потому что искусственно созданные части мозга позволят нам подключаться к облачному хранилищу информации.

Возможности станут для человечества безграничными. Людям удалось разграничить секс как способ получения удовольствия и средство для репродукции. Курцвейл верит, что тоже самое можно проделать и с едой. Нанороботы будут отвечать за доставку нужных питательных веществ клеткам организма,выводя из него все вредные вещества. Своего рода презерватив для питания. Теоретик в области нанотехнологий Роберт Фрейтас уже изобрел заменители человеческих клеток, если внедрить их в тело, они позволят человеку бежать 15 минут без единого вдоха. Нам остается только гадать, как ASI повлияет на наши физические возможности.

Виртуальная реальность приобретёт новый смысл – нанороботы в нашем организме смогут подавить сигналы, посылаемые нашими рецепторами и заменить их абсолютно иными, позволяя нам видеть, слышать и чувствовать совсем другой окружающий мир.

В конечном итоге, Курцвейл считает, что люди станут полностью искусственными, что, конечно, до конца не ясно, ведь, заменив все внутри себя, вы по–прежнему остаетесь собой, но это уже относится к вопросу сознания (о котором уже публиковался переводной текст на d3). Наступит время, когда мы, взглянув на биологические ткани, поразимся тому, насколько они примитивны. Мы будем читать в книгах о ранних стадиях развития, поражаясь тому как инфекции, болезни и обыкновенное старение могли убить организм человека против его воли. К этому моменту люди будут окончательно скрещены с искусственным интеллектом.

Так выглядят представления Курцвейла о будущем, когда люди покорят биологию и станут вечными и неуязвимыми. Это другая сторона бревна жизни, и мы до нее доберемся. Совсем скоро.

Вас не удивит, что идеи Курцвейла постоянно подвергаются суровой критике. Его предсказания о том, что к 2045 году мы достигнем сингулярности и откроем для себя возможность бессмертия, высмеивались как «грезы ботанов» или «разумное изобретение людей с IQ 140». Другие ставят под вопрос не только предложенную им хронологию событий, но и его понимание мозга и тела, а также и то, что он применяет закон Мура не только к развитию технического оборудования но и программному обеспечению и многим другим вещам. На каждого эксперта, считающего, что Курцвейл на верном пути, приходится трое убежденных в обратном.

Но меня удивило больше то, что большинство из несогласных с ним экспертов считают возможным многое из того, о чем говорит Курцвейл. Столкнувшись с таким необычным видением будущего, я ожидал, что критики будут говорить: «очевидно, что это невозможно», но они говорят что–то вроде «да, это все, конечно, возможно, если переход к ASI будет безопасным, что маловероятно». Бостром один из самых видных ученых, предупреждающих нас об угрозах ИИ, признает следующее:

«Сложно представить существование такой проблемы, которую не смог бы разрешить сверхинтеллект или помочь решить ее нам. Болезнь, бедность, разрушения окружающей среды и любые другие страдания: все это сможет устранить ИИ, оснащенный передовыми нанотехнологиями. Кроме того, сверхителлект смог бы продлить наш жизненный цикл на неопределенный срок, остановив для этого процесс старения, либо предоставив нам возможность загрузить себя в облако. Сверхинтеллект мог бы создать необходимые условия для увеличения наших интеллектуальных и эмоциональных возможностей, что поможет нам создать привлекательный мир, в котором мы бы жили играючи, посвящая себя личностному росту и жизни, близкой к нашим идеалам»

И эта цитата принадлежит человеку, который совсем не из Уверенного уголка. С подобным я сталкивался постоянно — специалисты, которые издеваются над Курцвейлом по множеству причин, не думают, что все, о чем он говорит, невозможно, если мы осторожно перейдем к ASI. Вот почему я нахожу идеи Курцвейла такими заразными – они концентрируются на яркой стороне и вполне реальны, но только в случае, если Бог окажется добрым.

Основная критика, звучавшая в адрес Уверенного уголка указывала на то, что там недостаточно хорошо понимают, какие проблемы могут возникнуть с появлением ASI. В своей книге «Сингулярность близка» из 700 страниц только 20 Курцвейл посвятил потенциальным проблемам. Ранее я уже заметил, что с появлением сверхмощи главный вопрос будет в том, какой будет ее мотивация и кто ей будет обладать. Курцвейл осторожно отвечает на обе части этого вопроса всего одним предложением: «ASI появится в результате многочисленных разрозненных усилий и будет глубоко интегрирован в инфраструктуру нашей цивилизации, он будет вживлен в наши организмы, и поэтому будет отражать наши ценности, мы станем одним целым».

Но если это действительно ответ на наш вопрос, то почему умнейшие люди мира так обеспокоены? Почему Стивен Хокинг говорит, что развитие ASI «можетозначать конец человеческой расы» а Билл Гейтс не понимает почему«некоторые люди этим не обеспокоены», Илон Маск опасается, что мы«призываем демона». И почему так много специалистов в этой области считают, что ASI представляет угрозу человечеству?

Все эти люди вместе с жителями Тревожного проспекта не ведутся на категорическое отрицание Курцвейлом потенциальных угроз. Они очень сильно обеспокоены революцией ИИ и концентрируются на нехорошей стороне бревна баланса. Они видят ужасающее будущее, и ух них нет никакой уверенности, что мы сможем его избежать.
 

https://interpreted.dirty.ru/perevod-revoliutsiia-iskusstvennogo-intellekta-684922