Владислав Сорокин

Вскоре искусственный интеллект будет внутри каждого электронного устройства: холодильники уже начинают распознавать человеческую речь, зубная щетка подсказывает, как вам лучше чистить зубы, а умная кровать  переворачивает вас на другой бок, если человек храпит. Владислав Сорокин, партнер агентства Brain-to-Brain,  изучил историю вопроса и объяснил, почему людей так пугает мысль о войне с машинами, рассказал, чем угрожают нам в реальности технологии  и каким образом поведет себя робот, если «Почту России» внезапно атакует бешеный енот.

На открытии кембриджского центра Future of Intelligence, который будет заниматься исследованием наиболее острых вопросов, связанных с искусственным интеллектом (Artificial Intelligence), в октябре прошлого года, Стивен Хокинг заявил: «Искусственный интеллект — это самое лучшее или самое худшее, что когда-либо случилось с человечеством». Ясно, отчего «лучшее», — в прошлом году технологии искусственного интеллекта еще больше стали похожи на подлинную магию: Google выиграл в го у Ли Седоля, Трамп выиграл выборы  на пост президента США якобы при помощи анализа лайков американцев и психометрии, «Нейронная оборона» из «Яндекса» написала целый альбом под стать Егору Летову, и даже японские фермеры стали сортировать огурцы при помощи машинного обучения.

При этом почти все наделяют программы человеческими качествами, такими как, например, свобода воли. Почти каждый разговор про искусственный интеллект в итоге завершается фантазиями на тему неизбежности войны с машинам. Терминатора уже  наверняка делают в подземельях китайского министерства обороны и если не Сара Коннор, то кто? Илон Маск? Через пятьдесят лет после того, как возникло понятие «искусственный интеллект», по-прежнему этой остается одной из самый частых взрослых страшилок. Но, для того, чтобы понять логику Маска и Хокинга, когда они разбирают возможности угрозы искусственного интеллекта, надо понять, как все это устроено.

Просто код

Искусственный интеллект представляет собой только лишь код. Он не имеет и не может иметь места,  испытывающего какие-либо эмоции или принимающего решения. Так что, когда журналисты говорят о том, что «казанские ученые научились вызывать у искусственного интеллекта отвращение и страх», это говорит только о том, что они просто смогли объяснить сложные компьютерные модели, кроме как при помощи метафоры, сомнительной с точки зрения правдивости. Именно поэтому многие ученые еще в 60-х перестали использовать термин «искусственный интеллект» и начали заниматься «когнитивной наукой». Они старались избегать двусмысленности, неизбежно возникающей, когда понятия, привычные миру человека, начинают переносить на машину. Но, оказывается,  не переносить тоже нельзя, в этом же вся суть — силиконовый мозг создают по образу и подобию человеческого мозга. Здесь языковая ловушка и возникает: после переноса смыслы поменялись, а язык остался прежним. Вот и оказывается, что «… научили искусственный интеллект чувствовать страх».

Но мы совершенно точно преуспели в обучении компьютера математике. Любой алгоритм превосходит нас в обработке чисел — с точки зрения эволюции мозг столкнулся с цифрами совсем недавно, и считаем мы, вообще-то, довольно плохо. Но если математику мы учили всего лишь несколько веков, то распознавать образов мы учились всю свою человечества, и делаем это намного лучше машины.

Чтобы компьютер смог сказать: «На этой фотографии изображен цветок, а на этой — кастрюля», — ему вначале надо показать миллионы цветов и миллионы кастрюль. И не просто показать, а разложить их по полочкам. Во время обучения программа сможет выработать свою собственную логику, как отличить один предмет от другого, и сумеет распознать, например, все цветы на новых фотографиях.

Но если в фотографиях была ошибка, то и распознавание получится не очень. Еще в начальный период разработки компьютерного зрения в Google не получалось понять, отчего у программа не может распознать гантели. А потом оказалось, что на учебных фото все гантели были изображены с человеческой рукой, которая их держала. Поэтому система «считала», что «гантели — это такая черная штука непонятной формы + часть человеческой руки», и никак не могла распознавать гантели, лежащие на полу.

Данные ≈ деньги

Если еще пару лет назад такие задачи распознавания образов волновали умы ученых, то 2016-й стал годом, когда бизнес наконец осознал, что «данные = деньги». Что с ними необходимо работать, так как о это выгодно. Кроме спецподразделений в IT-гигантах вроде Mail.Ru и Яндекса, в России существует несколько компаний, которые зарабатывают на искусственном интеллекте.

К примеру, в компании oneFactor трудятся несколько десятков  программистов, математиков и дата-майнеров — людей, добывающих и обрабатывающих данные ( для сравнения, в Google Brain заняты более тысячи ученых и специалистов по машинному обучению).
Генеральный директор oneFactor Роман Постников учился на кафедре матстатистики МГУ, он занимается нейросетями около пятнадцати лет, его основным профилем является работа с геоданными, он сделал несколько успешных проектов в «Мегафоне» и сейчас открыл свой бизнес — сервис, помогающий компаниям зарабатывать больше за счет извлечения пользы из неструктурированного потока информации. К примеру, вы — телеком-оператор, вы имеете миллион пользователей, вы хотите предсказать, кто из них желает переметнуться к конкуренту. Или вы — банк, вы имеете тысячи заявок на кредит, и вам хочется знать, какие из них можно одобрить, а кто, вероятнее всего, станет задерживать платежи. Как утверждает Романа Постников, 90% российских банков используют машины для принятия решений о выдаче кредитов — таким образом они уменьшают риски и экономят миллионы на неблагонадежных клиентах.

Фраза «Кто владеет информацией, тот владеет миром» оказывается все более актуальной, а за пользовательскими лайками идет самая настоящая охота. В том расследовании о победе Трампа на выборах суть была в том, что Cambridge Analytica сумели собрать полную психометрическую базу данных всех жителей США. Раньше «Большого Брата» ассоциировали скорее с уличными камерами наблюдения, но в настоящее время это скорее транснациональная корпорация, записывающая все ходы. В газете The Guardian написали, что многие люди после победы Трампа задумались о том, чтобы уйти в тень, стали  удалять свои аккаунты из соцсетей. Если прежде свои данные стремилась скрывать только маргинальная группа людей, то сейчас, по крайней мере в США, это стаоо трендом. А для мессенджера Signal, который обеспечивает анонимность путем шифрования данных прямо в смартфоне отправителя и который рекомендовал Эдвард Сноуден, настал звездный час.

Бесконтрольный Google Glass

Один из основателей московского сообщества soundartist.ru Сергей Касич включает Wi-Fi только при очень редкой необходимости, камера у него закрыта, аккаунт в соцсети — с выдуманным именем. Он уверен, что  каждый человек в XXI веке получил новое право — «быть нераспознанным». «Я желаю быть хозяином своей судьбы, поэтому верю, что у каждый должен иметь обязательное право затеряться и не быть найденным в этом всепоглощающем распознавании, которое сейчас происходит».

Герой Сергея — Стив Мэнн, канадский инженер, работавший в Массачусетском технологическом институте и придумавший носить на голове камеру, которая записывает все, что он видит. Стив не снимает ее уже 35 лет, называет себя киборгом и предлагает людям такой вид противостояния «Большому Брату» - наблюдая за ним в ответ. Движение «сбалансированного наблюдения» (equiveillance), по мнению Мэнна, — это способ достичь общества будущего, где значение личной свободы можно сопоставить с властью корпораций.

Сергей Касич полагает, что идеи Мэнна в настоящее время оказались вывернуты наизнанку, — то, что он придумал для борьбы с тотальным наблюдением, Google со своими технологиями искусственного интеллекта станет использовать ровно наоборот: «Он разрабатывал свой девайс, чтобы расширить возможности человека, обезопасить его, но корпорация по сути крадет его технологию, чтобы этот Glass превратить в миллиарды глаз искусственного интеллекта и решать диаметрально противоположную задачу». Касич не желает вписываться в этот мир в том числе и из-за нежелания поддерживать экономику, в которой компании пользуются его персональными данными для получения прибыли.

Узнай, какое ты растение

Директор по инновациям банка «Открытие» Алексей Благирев рассказывает, что мы уже давно существуем в мире «цифрового рабства»: «Ваши данные вам не принадлежат. Если вы посмотрите правила пользования (Terms of Use), например, Facebook, там везде указано, что Facebook накапливает данные и может использовать их таким образом, что вы об этом можете и не узнать. Такие компании, как Yandex, Google, Mail.Ru, Facebook  уже смогли накопить большой объем информации о своих пользователях, раньше остальных обратив внимание на ценность этой информации». Предсказать потребность пользователя — это серьезное конкурентное преимущество, а на рынке сейчас особенно востребованы два навыка: умение получать данные, совмещать их, обогащать и грамотно обрабатывать и умение создавать модели, которые находят закономерности в данных.

Набрать критическое количество данных можно разными путями. Популярные психологические тесты вроде «Узнай, какое ты растение» — это тоже способ получить информацию о пользователе. Другой вариант — датчики и в целом направление «интернет вещей» (Internet of Things). Команда Благирева, например, сейчас работает над проектом , в котором страховая премия рассчитывается по риску пожара в здании на основе информации с датчиков дыма. На рынке автострахования похожие проекты несколько компаний запустили еще в 2013-м — если вы не выезжаете на МКАД, то страховка по КАСКО будет стоить в два раза дешевле обычной.
В будущем будут востребованы рекомендательные сервисы, в которых искусственный интеллект возьмет на себя работу по анализу профиля человека и выдаче советов на каждый день. Это универсальный помощник, над созданием которого сейчас бьются в самых больших компаниях. Недавно основатель Facebook Марк Цукерберг разместил видео с демонстрацией своего виртуального ассистента и домашнего помощника «Джарвиса» , который пока ничего не предсказывает. А вот автопилот Tesla уже сейчас может предсказать аварию в ста метрах впереди от вас и начать сбрасывать скорость заранее.

Цифровое послезавтра

Подобные проекты — это части новой экономики, которая возникает в том месте, где сотрудника контакт-центра заменяет программа распознавания речи, а маркетолога — платформа по сегментации аудитории. Еще год назад казалось невозможным, что специалистов креативных профессий можно заменить программами. Все думали, что их навык — слишком человеческий, а компьютеру не привьешь чувство прекрасного. Но потом в Facebook придумали нейросеть, основанную на принципе «глубокого обучения», которая смогла нарисовать лица людей. Гендиректор oneFactor объясняет, как это работает: «Представьте, что у вас есть дизайнер, который рисует макет помещения, показывает его вам и говорит: «Оцени, пожалуйста, — нравится или нет?» — а вы говорите: «Нет, не нравится», — и указываете, что исправить. Теперь представьте, что на месте вас и дизайнера — две нейронные сети, и они друг с другом соревнуются. Чем больше проверок и взаимных улучшений проходит, тем лучше будет итоговый результат».

Американская администрация в декабре выпустила доклад, в котором авторы предупреждают: 47% рынка труда — в зоне риска. Это значит, что предстоит глобальный передел: бизнес сэкономит везде, где можно сэкономить, а машины, так уж получилось, дешевле людей. Если вы боитесь за свою работу , подумайте: что уникального делаете именно вы? А другой человек так может? Если ответ — да, то с высокой вероятностью вас может заменить и машина.

Если смотреть на мир через теорию экономики — он погружается в глобальное неравенство, где одна и та же технология принесет прибыль одним странам и несчастье — другим. По мнению Романа Постникова, фабрики в Китае через пару десятилетий будут просто никому не нужны, дешевую рабочую силу на фабрику можно будет просто загрузить, как видео на YouTube: «Развитие систем искусственного интеллекта будет приводить к тому, что человек физически будет все меньше участвовать в создании товаров, и потребность в перемещении производств товаров и бизнесов в страны с более дешевой рабочей силой начнет сокращаться. Глобализация, конечно, не исчезнет, но экономических поводов для нее будет меньше. Поэтому может так оказаться, что лет через 50 некоторые государства окажутся в положении экономической изоляции, так как у них не будет передовых технологий автоматизации, и получить их быстро они уже не смогут».

Борислав Козловски, научный журналист и стажер «Яндекса», говорит, что алгоритм не сможет полностью заменить людей: «Важная особенность того же врача — в том, что он берет на себя ответственность. Врач не дает рекомендацию «С вероятностью 96% на снимке изображена опухоль», но ставит диагноз: «Я как врач заставляю вас впредь считать, что это опухоль». Или, приходя на «Почту России», я вижу, что там по-прежнему есть человек, который выдает мне пять бланков и просит заполнить их одними и теми же буквами , — бессмысленной работы у человечества по-прежнему много. Но нужно помнить, что 1% нештатных ситуаций требует 90% кода. Ни одна нейросеть не скажет, что делать, если отделение «Почты России», например, атакует бешеный енот. Бабушка имеет хотя бы примерное представление, что в енота надо кинуть табуреткой, но написать обработчик всех событий с енотами — это довольно хлопотно». И это проблема любой нейросети в 2016 году : она отлично справляется с поставленной задачей, но стоит задаче выйти за свои рамки, как алгоритм разводит руками и начинает выдавать бессмысленный результат.

 Для всех ученых это один из важнейших вызовов на 2017 год — научить программу обучаться и принимать решение не только на учебных данных, но и на любых других. И находить эти любые данные без спросу. Но может ли у искусственного интеллекта появиться своя воля? Будет ли он обладать свободой выбора? Станем ли мы свободнее в будущем, когда отдадим всю рутинную работу машинам? На вопросы о свободе воли в истории философии были написаны десятки трудов. Прямого ответа нет, и он вряд ли возможен в силу субъективного отношения к этому понятию.