Революция искусственного интеллекта (Часть 1)

Дорога к сверхинтеллекту

Что такое ИИ?

Если вы похожи на меня, то для вас искусственный разум — это выдумка из мира фантастики, и вы не до конца понимаете суть, когда слышите, как это обсуждают серьезные ученые.

Есть несколько причин, по которым людей смущает термин ИИ.

1) Мы связываем его с фильмами. Звездные войны, Терминатор, Космическая одиссея–2001 с вымышленными персонажами — роботами, которые заставляют нас думать об ИИ как о каком–то художественном вымысле.

2) ИИ — очень широкая тема. Он может быть представлен как в виде калькуляторов, так и в виде самоуправляемых автомобилей или даже чего–то, что в будущем сильно изменит нашу жизнь. ИИ относится ко всем этим вещам, что и приводит к путанице.

3) Мы пользуемся им в повседневной жизни, не осознавая того, что это искусственный интеллект. Джон Маккарти, который в ввел термин "искусственный интеллект" в 1956 году, жаловался: "Стоит ему действительно заработать, как все сразу перестают называть его ИИ." Из–за этого феномена термин звучит больше как нечто из разряда фантастики. В тоже время это звучит и как популярная концепция, которая так и не была реализована. Курцвейл говорил, что часто слышит, как люди говорят что идея ИИ изжила себя еще в 80–х, таких людей он сравнивает с теми, кто утверждает, что интернет умер с пузырем доткомов.

Итак, давайте внесем некую ясность. Первым делом перестаньте думать о роботах. Робот — это всего лишь оболочка ИИ, которая иногда подражает человеческому образу, но ИИ — это только компьютер внутри робота. ИИ – это мозг, а робот — это тело, если оно вообще есть. Например, помощник в iOS Siri (которая, кстати, скоро заговорит по–русски — прим. пер. ) — это ИИ, а женский голос — это персонификация ИИ, и при этом нет никакого робота.

Во–вторых, вы наверное слышали термин «сингулярность» или «технологическая сингулярность». Этот термин используется в математике, чтобы описать ситуацию, при которой обычные законы уже не действуют. В физике он используется для того, чтобы описать феномены вроде черной дыры или состояния, в котором пребывала Вселенная до Большого Взрыва. В 1993–м году Вернор Виндж использовал этот термин в своем знаменитом эссе, чтобы описать поворотный момент в истории, когда искусственный интеллект превысит человеческий, то есть жизнь изменится, и обычные правила будут неприменимы. Рэй Курцвейл потом еще немного запутал все, определив сингулярность как момент, когда ускоряющаяся отдача достигнет такого пика, при котором технологический прогресс начнет происходить в бесконечном темпе, после чего мы будем жить в совершенно ином мире. Как я заметил, сегодняшние исследователи ИИ не особо прибегают к этому термину, в любом случае он всех запутывает, так что я не буду приводить его здесь часто (хотя мы сосредоточим наше внимание на этой идее на протяжении всего текста).
Наконец, существует множество различных видов и форм ИИ, и, как мы уже решили — это в целом очень широкое понятие. Критические категории, которыми нам следует мыслить в вопросах ИИ, можно разделить на три основных уровня:
1) Слабый Искусственный Интеллект (ANI) — это такой ИИ, который специализируется в одной области. Есть ИИ, способный победить в чемпионате мира по шахматам, но это все, что он умеет. Скажи ему организовать информацию на жестком диске удобным способом, и он посмотрит на тебя пустым 1010101–взглядом.
2) Сильный Искусственный Интеллект (AGI), также известный как ИИ человеческого уровня, — это компьютер, способный решить любую умственную задачу, которую способен решить человек. Создать AGI намного сложнее, чем ANI, и нам это только предстоит сделать. Профессор Линда Готтфредсон описывает интеллект как «очень общую психическую способность, которая, помимо всего прочего, включает в себя способность рассуждать, планировать, решать проблемы, мыслить абстрактно, понимать сложные идеи, быстро учиться и учиться на опыте» AGI будет справляться со всем этим с такой же легкостью, как и вы.
3) Искусственный сверхинтеллект (ASI). Оксфордский философ и ведущий мыслитель в области ИИ Ник Бостром определяет ASI как «интеллект, который намного умнее лучших человеческих умов практически в любой сфере, в том числе научного творчества и социальных навыков». ASI, в свою очередь, варьируются от компьютеров, которые немного умнее человека, до тех, которые превышают возможности человеческого разума по всем направлениям в триллионы раз. ASI – причина по который ИИ — настолько острая тема, что в этом посте скоро появятся слова «аморальность» и «вымирание».
На сегодняшний день люди покорили ИИ только самого мелкого калибра, ANI, и теперь они повсюду. Революция Искусственного интеллекта – это путь от ANI через AGI к ASI. Дорога, которую мы переживем, а может и нет, но в любом случае она изменит абсолютно все.

Давайте внимательно посмотрим на то, каким видят этот путь ведущие мыслители в этой области и почему эта революция может произойти намного раньше, чем вы могли бы себе представить:

Сейчас весь мир работает на ANI

ANI, слабый ИИ – это такой искусственный интеллект, который равен или превышает человеческий интеллект или производительность только в одной конкретной сфере.

Вот несколько примеров:

Автомобили напичканы системами ANI – от компьютера, который просчитывает, когда включать антиблокировочную тормозную систему, до компьютеров, которые настраивают параметры системы впрыскивания топлива. Самоуправляемый автомобиль Google, который сейчас тестируется, будет содержать мощные ANI системы, которые позволят автомобилю воспринимать окружение и вовремя на него реагировать.

Ваш телефон — это небольшая фабрика ANI. Когда вы используете навигацию, определяете автора песни с помощью Shazam или проверяете погоду на завтра, болтаете с Siri или совершаете десятки других операций, вы используете ANI.

Спам–фильтр на вашей электронный почте – классический тип ANI, он начинает работу с предустановленной возможностью распознавать спам и затем учится и адаптирует свой интеллект под ваши конкретные предпочтения.

Знаете это жутковатую тему, когда вы ищете товар на Amazon, а затем этот товар вам рекомендуют на совсем другом сайте. Или когда Facebook понимает, кого стоит советовать для добавления в друзья. Это целая сеть ANI–систем, которые работают вместе, чтобы собрать необходимую информацию о вас и решить, что показывать в дальнейшем. Так же на сайтах работает функция «Люди, купившие этот товар, также купили это», чтобы повышать продажи и заставлять вас покупать больше.

Google–переводчик — еще один классический ANI, который очень хорошо справляется с одной задачей. Распознавание голоса — это уже другой ANI, но многие программы используют их вместе, что позволяет вам произнести целое предложение, и ваш телефон воспроизводит его уже на другом языке.

Когда ваш самолет приземляется, то не человек выбирает выход на посадку, и не человек определил стоимость вашего билета.

Лучшие игроки в шахматы, шашки, нарды и скрэббл теперь ANI–системы.

Поиск Google — это одна большая ANI со сложными методами отбора порядка страниц, которая решает, что вам показать по вашему запросу в первую очередь.

И все это только из сферы потребления, ANI–системы широко применяются в военной технике, производстве и финансах (алгоритмические высокочастотные ИИ–трейдеры продают больше половины пакетов акций на рынках США). Существуют экспертные системы, которые помогают врачам ставить верные диагнозы. Вспомните Ватсона от IBM, который содержал достаточное количество фактов и хорошо понимал речь Алекса Требека (телеведущего), что обыграл всех чемпионов Своей Игры (их аналога, нашего Петра Кулешова никто из ANI пока не обыгрывал).

Современные ANI–системы не такие уж страшные. В худшем случае глюченная или плохо спрограммированная ANI может вызвать локальную катастрофу, например, отключение энергосистем на атомной электростанции или спровоцировать обрушение рынка (вспомните Черный вторник 6 мая 2010, когда ANI неправильно отреагировала на неожиданную ситуацию, что привело к резкому обвалу биржевого рынка).

Пока ANI еще не представляют угрозу нашему существованию, нам следует понять всю эту большую и сложную систему относительно безобидных компьютеров, так как они предвещают надвигающийся ураган, который полностью изменит мир. Каждая отдельная инновация ANI закладывает новый кирпичик в дороге к ASI. Эрон Саенз сравнивает роль систем ANI в современном мире с «аминокислотам в первичном бульоне Земли», материалом, который в конечном итоге привел к возникновению живой клетки.

Дорога от слабого искусственного интеллекта к сильному. Почему она так трудна?

Ничто не заставит вас ценить человеческий разум больше, чем осознание того, насколько сложно создать компьютер, который был бы так же умен, как и мы. Строительство небоскребов, запуск космических ракет, объяснение Большого Взрыва не так сложны, как изучение работы нашего мозга и создание чего–то столь же крутого. В настоящее время человеческий мозг является самым сложным объектом из известных нам во всей Вселенной.

Забавно, что настоящие трудности при создании сильного искусственного интеллекта (AGI) сильно отличаются от тех, что приходят к нам на ум в первую очередь. Разработать компьютер, который может умножить два десятизначных числа за секунду, невероятно легко. Куда сложнее разработать компьютер, который, взглянув на собаку, смог бы определить, что это не кошка. Разработать ИИ, способный выиграть у любого человека в шахматы? Да проще простого. Разработать ИИ, который будет способен прочитать предложение под картинкой в книжке для пятилетних детей, при этом не просто распознать слова, но и понять их смысл – куда сложнее. Google сейчас тратит миллиарды долларов, чтобы сделать нечто подобное. Тяжелые вещи вроде стратегий финансовых рынков, статистических вычислений и переводов на другие языки безумно легко даются компьютерам, тогда как простые вещи вроде зрения, движения и восприятия ужасно сложны для них. Как однажды сказал ученый Дональд Кнут: "ИИ преуспели почти во всем, что требует мышления, но не могут сделать большую часть того, что люди и животные делают не задумываясь".

К нам быстро приходит осознание того, что вещи, которые кажутся нам простыми, на самом деле невероятно сложны. Они кажутся нам легким только лишь, потому что эти навыки развила в нас эволюция за сотни миллионов лет. Когда ты тянешься рукой до предмета, то мускулы, сухожилия и кости в твоем плече локте и запястье в сочетании с глазами мгновенно выполняют длинную серию операций, чтобы позволить вашей руке сделать прямое движение сквозь три измерения. Это кажется легким только потому, что вы идеально отладили программное обеспечение в вашем мозгу для этой задачи. По такому же принципу можно сказать, что не вредоносные программы тупые, раз не могут разгадать эти дурацкие капчи, которые вам приходится вводить для регистрации на новом сайте, а наоборот, ваш мозг настолько потрясающий, что может легко с ними справиться.

С другой стороны, умножение больших чисел и игра в шахматы — это новые задачи для биологических существ, у нас просто не было достаточно времени, чтобы развить навыки для них, поэтому компьютер так легко нас в этом обходит. Подумайте, что бы вы сделали – программу, которая может умножать огромные числа или ту, которая понимала бы суть буквы “Й” достаточно хорошо, чтобы уметь распознать ее в миллионах вариаций шрифтов и почерков.
… у вас не возникнет проблем с описанием полупрозрачных цилиндров и трехмерных углов, но компьютер здесь с треском провалится. Он бы описал то, что видит, как разнообразие различных двухмерных форм в нескольких оттенках, что там по сути и изображено. Ваш мозг проделывают кучу офигительной работы для того, чтобы толковать подразумеваемую глубину, смешение оттенков, пространственное освещение, которые изображены на картинке.
И все, что мы только что упомянули, касается только принятия и обработки статичной информации. Чтобы быть разумным, как человек, компьютеру нужно считывать и понимать разницу между выражениями лиц, видеть различия между ощущениями довольства, облегчения, удовлетворения и радости, и понимать, почему «Храброе сердце» хороший фильм, а любой фильм Уве Болла — ужасный. Ну, почти любой, правда.

Жутковато.

Так как же нам с этим справиться?

Первый шаг на пути к созданию AGI (сильного ИИ) – увеличение вычислительных мощностей.

Для того, чтобы создание AGI стало возможным, безусловно, должна произойти одна вещь – увеличение мощности компьютерной техники. Чтобы система AGI была такой умной, как человеческий мозг, ей нужно сравняться с вычислительной мощностью мозга.

Один из способов выражения этой способности мозга – сумма вычислений в секунду (Герц) которые может совершить мозг. Чтобы вычислить это выражение, нужно определить максимальную частоту герц отдельно в каждой зоне головного мозга и затем сложить их.
Рэй Курцвейл нашел более быстрый способ вычислить это общее значение. Он предлагает измерять частоту герц отдельной зоны мозга и вес этого участка и умножить результат пропорционально весу всего мозга. Звучит немного сомнительно, но он проделывал это множество раз, измерял отдельные зоны мозга и общее количество всегда приходило приблизительно к одному и тому же результату — около 10 в 16й степени, 10 квадриллионов герц.

В настоящее время самый быстрый супер–компьютер в мире, китайский
Тяньхэ–2 , превысил этот результат с тактовой частотой около 34 квадриллионов Гц. Но эта железяка занимает площадь в 720 квадратных метров, потребляет 24 мегаватта электроэнергии, в то время как человеческий мозг всего 20 ватт, да и мозг стоит не 390 миллионов долларов. Согласитесь, он не особо подходит для широкого применения, да и для большинства областей промышленного производства.

Курцвейл предлагает рассматривать компьютеры из расчета уровень мощности, доступный за 1000 долларов. Как только этот уровень достигнет человеческого – 10 квадриллионов герц, тогда это будет значить, что AGI могут стать реальной частью нашей повседневности.
Закон Мура – исторически надежное правило, согласно которому максимальная вычислительная мощность в мире удваивается приблизительно каждые 2 года, то есть развитие компьютерных технологий, как и развитие человечества, растет в геометрической прогрессии.

Компьютеры, которые сейчас стоят 1000 долларов, по своей мощности равны мышиному мозгу и в тысячу раз меньше человеческого. Это не кажется чем–то серьезным, до тех пор пока вы не вспомните, что такая компьютерная мощность составляла триллионную от уровня мозга в 1985 году, миллиардную в 1995 и миллионную в 2005. То есть на данном этапе мы можем ожидать, что к 2025 году мы сможем позволить себе компьютер, конкурирующий с мозгом.

В плане железа и оборудования, энергия, необходимая для AGI, технически уже доступна сейчас в Китае и станет общедоступной через каких–то 10 лет. Но такая сырая вычислительная мощность сама по себе не делает компьютер умнее, так что следующий вопрос – как привнести человеческий интеллект во всю это мощность?

Второй шаг к AGI (сильному ИИ) – сделать его умным.

Достаточно противная часть. Правда заключается в том, что никто на самом деле не знает, как сделать его умным. Мы до сих пор гадаем, как заставить компьютер отличать собаку от кошки, распознавать странно написанную букву Й и понимать, что фильм так себе. Существует куча замысловатых стратегий, и в конечном итоге какая–то из них окажется действенной. Здесь я представлю 3 самых популярных подхода:

1) Плагиат мозга

Это как если бы ученые бесились от того, что у соседа по парте получается писать все контрольные на пять, а у них при всем усердии это и близко не получается. В конце концов они решают: «Ладно, плевать, мы просто спишем у него все ответы». И это не лишено смысла, мы мучаемся, чтобы создать совершенный компьютер, тогда как в голове у нас есть идеальный прототип для него.

Научный мир работает над обратным конструированием мозга, чтобы понять, как эволюции удалось сделать такую крутую вещь. По самым оптимистичным прогнозам, работу завершат к 2030 году. После того, как это произойдет, мы откроем все секреты нашего мозга и сможем, вдохновляясь этим, украсть все его инновации. Искусственная нейронная сеть является ярким примером компьютерной архитектуры, которая имитирует мозг. Она представляет собой сеть транзисторов — «нейронов», соединенных между собой, но изначально ей ничего не известно, подобно мозгу младенца. Способ, по которому она «учится», заключается в том, что сначала она пытается выполнить задание, например, распознать почерк, поначалу нейронные импульсы и догадки в расшифровке каждой отдельной буквы будут абсолютно случайными. Но когда ей скажут, что она сделала это верно, соединения транзисторов в последовательности, которая помогла найти правильное решение, станут крепче, если же наоборот, ответ будет неверным, они ослабнут. После долгого процесса таких случайных попыток и их оценки, сеть, сама по себе, формирует «умные» нервные пути и машина становится оптимизированной для выполнения этой задачи. Мозг учится подобным, но более сложным образом. С продолжением исследований мозга нам открываются все новые способы использования нейронной системы.

Более кардинальный плагиат включает в себя стратегию, которую можно было бы назвать «эмуляция всего мозга». Для это требуется разрезать реальный мозг на микрослои, сканировать каждый, использовать программное обеспечение, чтобы собрать точную реконструированную 3D–модель и затем реализовать ее в мощном компьютере. В таком случае у нас появился бы компьютер, способный на все то, на что способен и человеческий мозг. При самом удачном раскладе ученым удалось бы эмулировать реальный мозг с такой точностью, что личность и память человека, которому принадлежал мозг, остались бы нетронутыми при загрузке архитектуры мозга на компьютер. Условно говоря, мозг принадлежал Джиму, после смерти его сканировали и загрузили на компьютер, который проснулся бы Джимом. То есть Джим стал бы надежным ИИ человеческого уровня, и мы смогли бы теперь превратить его в супер ИИ, и не думаю, что тот был бы против.

Как далеки мы от достижения полной эмуляции мозга? Ну пока что нам удалось недавно эмулировать миллиметровый мозг червя, в котором всего 302 нейрона. В человеческом мозгу их порядка 100 миллиардов. Если от этого вам кажется, что проект обречен, то вспомните мощность экспоненциального прогресса. Сначала мы покорили мозг червя, потом последует муравьиный, за ним мозг мыши и, глядишь, все это покажется более правдоподобным.

2) Попробовать заставить эволюцию сделать то, что она уже сделала

Если мы решим, что контрольную соседа по парте списать очень тяжело, мы можем попробовать подготовиться к ней по его методу.
Вот что нам известно. Собрать компьютер по мощи равный нашему мозгу – возможно, эволюция нашего мозга является тому подтверждением. И если мозг окажется слишком сложным для того, чтобы его эмулировать, мы можем воссоздать вместо этого процесс его эволюции. Пытаться воссоздать мозг – это как построить самолет, скопировав взмах птичьего крыла – зачастую машины лучше сооружать с помощью ориентированного на них подхода, а не подражая биологии в точности.

Таким образом, чтобы построить AGI мы можем имитировать процесс эволюции. Существует метод под названием «генетические алгоритмы», который работает следующим образом: есть процесс производительности–и–оценки, который повторяется снова и снова (таким же образом, как биологические существа «производительны», то есть живы и «оцениваются» по тому, способны ли они к размножению или нет). Несколько компьютеров пытаются выполнять задачи, и самые успешные из них будут скрещиваться друг с другом путем внедрения половины ПО каждого из них в новый компьютер. Менее удачнее компьютеры будут уничтожаться. Спустя множество таких повторов, естественный отбор будет производить компьютеры всё лучше и лучше. Сложность будет заключаться в создании автоматизированного цикла размножения таким образом, чтобы процесс эволюции шел сам по себе.
Недостаток копирования эволюции заключается в том, что эволюция любит занимать миллиарды лет, а мы хотим с этим управится за несколько десятилетий.

Но у нас есть много преимуществ перед эволюцией. Во–первых, эволюция не предсказывает результаты и работает случайным образом, она производит больше бесполезных мутаций, чем полезных, но если мы будем ее контролировать, она станет глючить на пользу нам. Во–вторых, эволюция не стремится ни к чему, в том числе и к интеллекту, иногда окружающая среда может даже совершать отбор против развития разума (так как он требует много энергии). Мы, напротив, могли бы специально направить этот эволюционный процесс в сторону развития интеллекта. В–третьих, чтобы отбор был в пользу интеллекта, эволюции придется измениться в куче других аспектов – например, перенастроить способ, которым клетки вырабатывают энергию, ведь мы можем компенсировать эти нагрузки, используя электричество. Это все заняло бы намного меньше времени, чем естественный процесс эволюции, но все равно неясно, поможет ли нам это достигнуть требуемых улучшений и жизнеспособна ли эта стратегия.

3) Свалить всю эту проблему на сами компьютеры

Когда ученые окончательно впадут в отчаяние, они попытаются сделать так, чтобы контрольная сама себя написала. Тем не менее это один из самых обнадеживающих методов из всех. Идея заключается в том, что мы разработаем компьютер, который будет проводить исследования по ИИ и программировать изменения в собственной архитектуре, что позволит ему не только изучать, но и улучшить себя. То есть сами компьютеры стали бы учеными в области компьютеров для того, чтобы заниматься собственным развитием. Их основная задача — выяснить, как сделать себя умнее. Подробнее об этом позже.

Все это может произойти очень скоро.

Быстрое развитие железа и инновационное эксперименты с программным обеспечением происходят одновременно, и AGI может подкрасться к нам быстро и неожиданно по двум основным причинам:

1) При экспоненциальном росте скорость улитки может резко увеличится.

2) Когда дело доходит до программного обеспечения, прогресс может казаться медленным, но достаточно одного открытия для мгновенного скачка в развитии (когда мы считали вселенную геоцентрической, все вычисления давались нам с трудом, но как только мы поняли, что вселенная гелиоцентрическая, всё стало сразу намного проще). Или когда дело доходит до самосовершенствующегося компьютера, нам может показаться, что мы далеки от цели, но какое–то очередное автообновление может резко приблизить компьютер к уровню человеческого интеллекта.

Дорога от AGI (сильного ИИ) до ASI (сверхинтеллекта)

В какой–то момент мы соорудили AGI–компьютеры с человеческим уровнем общего интеллекта. Что дальше? Просто куча людей и компьютеров, живущих вместе в равенстве.

Как бы не так!

Дело в том, что AGI будет по–прежнему иметь значительные преимущества в сравнении с людьми:

Железо:

Скорость
Нейроны мозга не превышают 200 Гц, в то время как сегодняшние микропроцессоры (которые гораздо медленнее, чем те, что будут, когда появится сильный ИИ) работают с частотой 2 ГГц или в 10 миллионов раз быстрее наших нейронов. Скорость внутренней коммуникации человеческого мозга, достигающая 120 м/с, ужасно отстает от скорости компьютера, которая может достигнуть скорости света.

Размер и хранение
Мозг ограничен в размере формой наших черепов и не может стать намного больше, и даже если станет, скорость внутренней коммуникации не будет достаточной. Компьютеры могут увеличиваться до любого физического размера, что позволяет запихнуть в них гораздо больше железа, компьютеры с увеличенным объемом оперативной памяти (ОЗУ) и долгосрочной памяти (жесткий диск) обладают огромными возможностями и работают точнее, чем наша собственная память.

Надежность и долговечность
Не только память компьютера будет более точной, но и компьютерные транзисторы. В отличие от биологических нейронов, они меньше изнашиваются и могут быть легко отремонтированы или заменены.
Человеческий мозг также быстрее устает, в то время как компьютеры могут работать без остановок, при пиковой производительности 24 часа в сутки и 7 дней в неделю.

Программное обеспечение:

Возможность редактирования, возможность модернизации, и в целом вообще широчайшие возможности.

В отличие от человеческого мозга, компьютерная программа может обновляться и исправлять ошибки, с ней легко экспериментировать. Обновления ПО могут охватывать области, в которых человеческий мозг слаб. Программное обеспечение человеческого зрения сверхпередовое, но его способность к усовершенствованиям довольно низка. Компьютеры могут сравняться с человеком по уровню программного обеспечения, отвечающего за зрительную функцию, но оно также может стать более оптимизированным и улучшаться.

Коллективная способность.

Люди превосходят все другие биологические виды в коллективной работе. Начиная с развития языка и формирования крупных общин, с последующим изобретением письма и печати, а теперь и интернета или майнкрафта, гитхаба. Коллективный разум человечества является одной из основных причин, почему мы смогли так далеко оторваться от всех других видов. Но компьютеры обходят нас и в этом. Всемирная сеть ИИ может моментально синхронизировать все данные между отдельными компьютерами. Так что если один компьютер узнает что–то, эта информация мгновенно загружается на все остальные компьютеры. Группа компьютеров может взять на себя одну задачу и справиться с ней как единое целое, потому что в отличие от людей, они не станут спорить между собой, отстаивая мнения, у них нет мотиваций и личной заинтересованности, как у нас.

ИИ, который станет сильным (AGI) посредством запрограммированного самосовершенствования, не воспримет достижение уровня человеческого интеллекта, как некий поворотный момент. Только для нас это значимый показатель, следовательно, AGI не станет на нем останавливаться. А учитывая те преимущества, которыми будет обладать AGI с интеллектом, эквивалентным человеческому, достаточно очевидно, что на этом уровне он будет оставаться недолго и продолжит улучшаться, достигнув интеллекта, превышающего человеческий.

Когда это произойдет, мы, скорее всего, офигеем. Ведь с нашей точки зрения, А – несмотря на то что интеллект разных животных отличается, в любом случае он в разы менее развит, чем у нас, Б – самых умных людей мы считаем таковыми только потому, что сравниваем их с не очень умными.

Так что когда ИИ догонит уровень интеллекта животных, мы будем воспринимать его как что–то, что умнее животных. Когда он достигнет примитивнейших способностей человеческого интеллекта, мы, как выразился Ник Бостром, будем воспринимать его как «деревенского тупицу» и выглядеть наша реакция будет следующим образом – о, гляди, он как дурачок, до чего же это мило! Но проблема заключается в том, что разница в интеллектуальных способностях между деревенским тупицей и Эйнштейном лежит в очень небольшом диапазоне. И AGI быстро обгонит старину Альберта. И тогда нас осенит:

График