Помните, как недавно компьютер прошел тест Тьюринга? Давайте уже разберемся с тем, что такое сверхинтеллект, чего нам от него ждать и куда вообще ведут нас все эти компьютерные технологии. 

«Мы на пороге технологической революции, сравнимой с возникновением человеческой жизни на Земле.»
— Вернор Виндж

И каково это стоять на пороге технологической революции?

Это, должно быть, так волнующе, но вспомните один важный нюанс: когда вы стоите на временном графике функции, вы не видите, что находится справа от вас. На самом деле, стоять на пороге технологической революции — это вот так:

И по ощущениям, скорее всего, в этом нет ничего особенного...

Далекое будущее наступит скоро

Представьте, как вы отправляетесь с помощью машины времени в 1750 год. Время, где постоянно отключен свет, а для коммуникации на дальних расстояниях требуется либо кричать, либо стрелять в воздух из пушки, а весь транспорт заправляется сеном. Вот вы оказались там и первым же делом берете чувака и привозите его обратно в 2015, водите его по разным местам и наблюдаете за его реакцией. Невозможно даже представить, что он ощущает, впервые видя мчащиеся по шоссе блестящие капсулы, каково это — поговорить с людьми, которые находятся на другом конце света, посмотреть спортивный матч, который проводится в тысячах километрах от него, послушать музыкальное выступление, записанное полвека назад. Потом мы дадим ему поиграться с волшебным прямоугольником, с помощью которого он может запечатлеть движущиеся изображения, начертить карту с загадочной голубой точкой, которая указывает его местоположение, увидеться и поболтать с кем–то, кто находится на другом конце света и сотворить еще много других чудес. И все это до того, как вы начнете ему объяснять, что такое интернет, международная космическая станция, адронный коллайдер, ядерное оружие и общая теория относительности.

Все это не просто бы удивило и шокировало его, парень мог бы просто умереть.

Но вот любопытная штука – если бы потом этот же чувак отправился обратно в свой 1750 и из чувства зависти решил удивить кого–то так же как мы удивили его, и привез парня из 1500, то тот, конечно, удивился бы множеству вещей, но точно бы не умер. Для него такой опыт не стал бы шокирующим приключением, потому что хотя 1750 и 1500 были разными, они не были настолько разными, как 1750 и 2015. Парень из 1500, конечно, узнал бы поразительные вещи о пространстве и физике и был бы удивлен тому, как сильно Европу охватили ее империалистические причуды, а также ему пришлось бы значительно переосмыслить карту мира. Но повседневная жизнь — передвижение, коммуникации и т.п. явно бы его не убили.

Теперь, для того, чтобы парню из 1750 позабавиться с кем–то как мы повеселились с ним, ему придется отправиться в более раннюю эпоху, где–то в 12000 до нашей эры, до первой аграрной революции, которая заложила фундамент в развитии первых городов и цивилизаций. Если бы кто–то из эпохи охоты и собирательства увидел человеческую империю с возвышающимися соборами, кораблями пересекающими океаны, и все накопленные знания и открытия, то он бы, скорее всего, умер.

Что если после смерти он бы из зависти решил сделать то же самое с кем–то из прошлого, отправился бы в 24000 год до н.э. и взял оттуда человека, показал бы ему все, и тот бы сказал: «Ну норм, мне–то что?». Для того, чтобы парню из 12 века до н.э. провернуть подобное, ему потребовалось бы отправиться еще на 100 000 лет в прошлое и продемонстрировать там вербальную коммуникацию и огонь.

Таким образом, для того, чтобы умереть, испытывая шок от увиденного им прогресса, нужно отправиться в будущее на столько лет вперед, чтобы достичь единицы «смертельный уровень прогресса» (ЕСП). Во времена охоты и собирательства ЕСП равнялась 100000 лет, но после аграрной революции она стала равняться всего 12000 лет, а в результате постиндустриальной революции мир стал развиваться так быстро, что человеку из 1750 года нужно отправиться всего на пару столетий вперед, чтобы достигнуть ЕСП.

Такую модель, при которой человеческий прогресс движется быстрее с каждым годом, футуролог Рэймонд Курцвейл назвал Законом ускоряющейся отдачи. Все просто: так происходит, потому что более развитому обществу требуется меньше времени для прогресса, чем менее развитому. В 19 веке человечество знало больше и обладало более совершенными технологиями, чем в 15, люди 15 века не выдержали бы никакой конкуренции с людьми 19 века.

Это правило работает и в меньших масштабах. Фильм «Назад в Будущее» вышел в 1985 году, по сюжету «прошлое» разворачивалось в 1955 году. Оказавшись в 1955 году, герой Майкла Джея Фокса удивляется ценам на газировку, устаревшим телепрограммам и различиям в сленге. Да, для него это был другой мир, но если бы герою пришлось отправиться из сегодняшнего дня в 1985, то в картине было бы больше шуток, связанных с отличиями. Герой попал бы в мир без персональных компьютеров, интернета и мобильной связи. Сегодняшний Марти Макфлай, тинэйджер родившийся в 90х, ощущал бы себя не в своей тарелке в 1985 куда сильнее, чем киношный Марти Макфлай ощущает себя в 1955.

По этой самой причине я упомянул о Законе ускоряющейся отдачи. Средний темп развития между 1985 и 2015 намного выше, чем между 1955 и 1985. Первый промежуток охватывает стремительный рост в развитии, намного больше перемен произошло за последние 30 лет, чем за 30 лет до них.

Выходит, темп прогресса только ускоряется. Это значит, что наше будущее будет крутым, верно?

Курцвейл считает, что все достижения XX века уместились бы в 20 лет при темпе развития 2000 года, иными словами, к 2000 году темп развития был в 20 раз выше, чем средний темп развития в XX веке. Он также считает что прогресс, сопоставимый со всеми достижениями прошлого века, произошел в период между 2000 и 2014 и такой же совокупный результат повторится в следующий раз к 2021 году, всего через 7 лет. Спустя пару десятилетий достижения, сопоставимые с суммарным прогрессом XX века, будут повторяться несколько раз в год, а еще позже — вообще каждый месяц. В конечном итоге, согласно Закону ускоряющейся отдачи, XXI век превысит прогресс XX века в 1000 раз.

Если Курцвейл и все, кто с ним соглашаются, правы, то мы будем также шокированы 2030 годом, как наш паренек из 1750 был шокирован в 2015. То есть следующая ЕСП займет 20 лет, и мир в 2050 будет настолько отличен от нынешнего, что мы его просто не узнаем.

И это не научная фантастика. В это твердо верят многие ученые, которые поумнее нас будут. Если взглянуть на историю, именно такое предсказание будущего наиболее логично.

Конечно, вы мне не поверите, если я скажу, что через 35 лет мир будет неузнаваем. И вот по каким причинам:

1) Когда дело доходит до истории, мы мыслим прямыми линиями. Мы представляем себе прогресс следующих 30 лет, воспринимая прогресс предыдущих 30 лет как на некий общий ориентир. Размышляя о том, как изменится мир за это столетие, мы просто думаем обо всех достижениях XX века и прибавляем некий их эквивалент к 2000 году. Эту же ошибку совершил парень из 1750, когда привез первого чувака из прошлого в надежде потрясти его так же, как был потрясен он сам, когда побывал в будущем. Линейное мышление является для нас интуитивным, в то время как нам следует думать экспоненциально. Тот, кто оказался поумнее, сможет предсказать прогресс следующих 30 лет, принимая в расчет нынешний темп развития и отталкиваясь уже от него. Его предсказание оказалось бы более точным, но все равно весьма далеким от истины. Чтобы думать о будущем правильно, следует представлять себе более высокие скорости развития, чем те, при которых мы живем сейчас.
 

2) Линия движения новейшей истории часто приводит к путанице. Во–первых, даже крутая экспонента кажется прямой, если смотреть на очень короткий ее отрезок. Во–вторых, экспоненциальный рост не идеально гладок и однороден. По мнению Курцвейла, прогресс происходит в S–образных кривых:

S создается волной прогресса, которая наступает с образованием новой парадигмы. Изгиб проходит три фазы:

медленный рост (ранняя фаза экспоненциального роста);
быстрый рост (поздняя, взрывная фаза экспоненциального роста);
выравнивание (созревание новой парадигмы).
Часть кривой, в которой мы сейчас находимся, может запутать ваше восприятие того, как быстро все развивается. На промежуток времени между 1995 и 2007 пришелся взрыв развития интернета, появление в общественном сознании Microsoft, Google, Facebook, рождение социальных сетей и появление мобильных телефонов, а затем и смартфонов. Это все было второй фазой — скачком в росте. Период с 2008–го по 2015–й был менее новаторским, по крайней мере, в технологическом плане. Кто–то, думая о будущем сегодня, может рассматривать только последние несколько лет для оценки текущего уровня развития и не видит картину целиком. По сути, новая фаза скачка в росте может назревать снова прямо сейчас.

3) Наш собственный опыт превращает нас в упрямых стариков в вопросах о будущем. Наши представления о мире основываются на личном опыте. Этот опыт укоренил в голове представление о темпах роста недавнего прошлого как нечто абсолютное. Мы также ограничены нашим воображением, которое опирается на наш опыт при составлении прогнозов на будущее. Но часто то, что мы знаем, не предоставляет нам необходимый инструментарий, позволяющий верно мыслить о будущем (Курцвейл приводит в пример свой телефон, который в миллион раз меньше, миллион раз дешевле и в тысячи раз мощнее чем был его MIT компьютер 40 лет назад). Теперь попробуйте представить, с какими технологиями мы будем иметь дело в сравнительном будущем. Когда мы слышим прогнозы о будущем, которые идут вразрез с нашим, основанным на личном опыте представлением о том, как устроены вещи, мы инстинктивно думаем, что предсказания наивны. Если бы я вам в этом посте сказал, что вы, может быть, проживете 150 или 250 лет, а может и вообще не умрете, то ваш инстинкт скажет: «Это бред, одно я знаю наверняка из всей истории — все в итоге умирают». И это верно, ведь никто в прошлом не избежал смерти. Но и самолеты не летали, пока их не изобрели.

Так что пока вы думаете про себя «даааа нуууу» читая этот пост, вы, возможно, зря сомневаетесь. Суть в том, что пока мы хотим рассуждать по–настоящему логически и ожидаем, что историческая последовательность продолжится, мы должны прийти к заключению, что с последующими десятилетиями изменится намного больше всего, чем мы ожидаем. Логично также, что если самые развитые существа на планете продолжат делать все более высокие скачки в темпах своего развития, то в какой–то момент они коренным образом изменят жизнь и собственное восприятие себя как людей. Подобно тому, как эволюция делала большие скачки на пути к разумным существам, пока в конечном итоге не сделала такой большой скачок до хомо сапиенса, который полностью изменил жизнь на Земле. Если вы следите за тем, что происходит в мире науки и технологий сегодня, то вы начнете замечать множество вещей, указывающих на то, что привычный жизненный ход вещей, возможно, не выдержит следующий скачок.
 

https://interpreted.dirty.ru/perevod-revoliutsiia-iskusstvennogo-intellekta-684922