Сегодня одни ученые занимаются созданием искусственного интеллекта, другие ищут от него защиту. Так в Кембридже в 2013 году начинает работу специализированный научный центр, одной из задач которого станет противодействие опасностям, которые исходят от разного рода техники, наделенной искусственным интеллектом. В то же время на другом берегу Атлантики Пентагон издал директиву, которая устанавливает порядок взаимодействия человека с автономными боевыми системами. Беспокойство со стороны американских военных вполне понятно, ведь именно в США смогли дальше других продвинуться в роботизации своей армии. В настоящее время уже созданы разнообразные робот-саперы, БПЛА и даже роботы-солдаты – небольшие гусеничные платформы с установленным на них стрелковым вооружением или гранатометами.
Однако по большей части все эти ездящие и стреляющие штуки, своего рода лишь программируемые или радиоуправляемые «игрушки», которые контролируются человеком. Пока что военные только мечтают о том, чтобы получить в свои руки полностью автономных роботов-бойцов, которые могли бы сами принимать решения в боевых условиях. Такие роботы, наделенные искусственным интеллектом, смогли бы перевернуть все представление человечества о войне и боевых действиях. Пока что их нет, но кадры из небезызвестных фильмов о терминаторе с каждым днем становятся все более и более реальны.
Идея о создании искусственного интеллекта появилась еще в 50-е годы прошлого века. Возможности первых появившихся компьютеров в плане скорости производства вычислений оказались выше, чем у человека, и ученые довольно быстро задались вопросом: каковы же границы возможностей вычислительных машин и смогут ли компьютеры когда-нибудь достичь уровня развития человека. В настоящее время у термина искусственный интеллект (ИИ) существует множество различных определений.
Мы воспользуемся определением представленным участниками Российской ассоциации искусственного интеллекта:
1. Это научное направление, в рамках которого ставятся и решаются задачи программного или аппаратного моделирования тех видов деятельности человека, которые традиционно признавались интеллектуальными.
2. Это свойство интеллектуальных систем решать творческие задачи, которые по традиции считаются лишь прерогативой людей. При этом сама интеллектуальная система может быть прогрммной или технической. Она должна быть в состоянии решить творческие задачи, принадлежащие тем или иным предметным областям, знания о которых хранятся в ее памяти. Структура такой системы должна включать в себя 3 основных элемента – базу знаний, решатель задач и интеллектуальный интерфейс.
3. Наука под названием ИИ входит в комплекс компьютерных наук, а создаваемые на основе данной науки технологии относятся к информационным технологиям. Ее основной задачей является создание при помощи вычислительных систем или иных искусственных устройств разумных действий и рассуждений.
Военные не могли оставить такую вещь, как искусственный разум, без внимания, но столкнулись при этом с рядом сложностей. Военный эксперт Виктор Баранец считает, что на сегодняшний день военная наука столкнулась с одним важным фактом: нельзя продумать и предусмотреть все алгоритмы, которые придется решать бойцу-роботу и которые мог бы решить человек. По его словам, многие ученые считают, что решить эту задачу на 100%, возможно, не удастся никогда. Так быстро ориентироваться в меняющейся на поле боя обстановке и принимать верные решения способен только человеческий мозг.
Стратегия использования войск, тактика, вооружение постоянно изменяются, разработчики программ просто не смогут успеть за новыми алгоритмами ведения боя. Картина может кардинально измениться лишь в тот момент, когда человек сможет создать машину, которая сможет думать сама. Автор книги «Структура глобальной катастрофы», а также футуролог Алексей Турчин полагает, что до появления полноценного ИИ остается каких-то 20 лет.
И с этого момента возникает вопрос, что будет, если человек изобретет систему, которая будет способна к самоапгрейду, то есть будет способна разнообразными способами улучшать себя, совершенствовать. Если мы изобретем искусственный интеллект, который будет лишь усиливать себя, сможем ли мы его контролировать. Останется ли такой объект машиной, и что придет на ум его «кремниевым» мозгам? Сможет ли человек сохранить в машине те цели, которые закладывал в нее еще до начала самостоятельного процесса апгрейда.
При этом искусственный интеллект может господствовать не только на поле боя, он может взять под контроль финансовые потоки, подчинить себе Интернет. По словам Алексея Турчина, электронные трейдеры уже сейчас способны обыграть большее количество людей на фондовых рынках, но главное заключается в том, что искусственный разум сможет не только управлять любыми существующими системами, но и производить новые. К примеру, заниматься самокопированием. В настоящее время в Великобритании ведутся достаточно успешные эксперименты, при которых роботы делают роботов.
При этом настоящего прорыва в этой области стоит ждать в аспекте развития на планете нанотехнологий. В 1980-х годах Эрик Дрекслер теоретик нанотехнологий ввел в обиход такое понятие как grey goo – серая слизь. В основе этой «слизи» будут находиться нанороботы способные к самовоспроизводству и использования для этого любых подручных материалов. Сами по себе нанороботы не представляют какой-либо опасности, однако ввиду дороговизны и сложности их производства ученые все время заняты поиском способа, который позволил бы сделать их выпуск более дешевым. К примеру, за счет создания репликаторов – нанороботов, способных к самовоспроизводству. Именно они вызывают опасения у определенной части человечества.
Однако по большей части все эти ездящие и стреляющие штуки, своего рода лишь программируемые или радиоуправляемые «игрушки», которые контролируются человеком. Пока что военные только мечтают о том, чтобы получить в свои руки полностью автономных роботов-бойцов, которые могли бы сами принимать решения в боевых условиях. Такие роботы, наделенные искусственным интеллектом, смогли бы перевернуть все представление человечества о войне и боевых действиях. Пока что их нет, но кадры из небезызвестных фильмов о терминаторе с каждым днем становятся все более и более реальны.
Идея о создании искусственного интеллекта появилась еще в 50-е годы прошлого века. Возможности первых появившихся компьютеров в плане скорости производства вычислений оказались выше, чем у человека, и ученые довольно быстро задались вопросом: каковы же границы возможностей вычислительных машин и смогут ли компьютеры когда-нибудь достичь уровня развития человека. В настоящее время у термина искусственный интеллект (ИИ) существует множество различных определений.
Мы воспользуемся определением представленным участниками Российской ассоциации искусственного интеллекта:
1. Это научное направление, в рамках которого ставятся и решаются задачи программного или аппаратного моделирования тех видов деятельности человека, которые традиционно признавались интеллектуальными.
2. Это свойство интеллектуальных систем решать творческие задачи, которые по традиции считаются лишь прерогативой людей. При этом сама интеллектуальная система может быть прогрммной или технической. Она должна быть в состоянии решить творческие задачи, принадлежащие тем или иным предметным областям, знания о которых хранятся в ее памяти. Структура такой системы должна включать в себя 3 основных элемента – базу знаний, решатель задач и интеллектуальный интерфейс.
3. Наука под названием ИИ входит в комплекс компьютерных наук, а создаваемые на основе данной науки технологии относятся к информационным технологиям. Ее основной задачей является создание при помощи вычислительных систем или иных искусственных устройств разумных действий и рассуждений.
Военные не могли оставить такую вещь, как искусственный разум, без внимания, но столкнулись при этом с рядом сложностей. Военный эксперт Виктор Баранец считает, что на сегодняшний день военная наука столкнулась с одним важным фактом: нельзя продумать и предусмотреть все алгоритмы, которые придется решать бойцу-роботу и которые мог бы решить человек. По его словам, многие ученые считают, что решить эту задачу на 100%, возможно, не удастся никогда. Так быстро ориентироваться в меняющейся на поле боя обстановке и принимать верные решения способен только человеческий мозг.
Стратегия использования войск, тактика, вооружение постоянно изменяются, разработчики программ просто не смогут успеть за новыми алгоритмами ведения боя. Картина может кардинально измениться лишь в тот момент, когда человек сможет создать машину, которая сможет думать сама. Автор книги «Структура глобальной катастрофы», а также футуролог Алексей Турчин полагает, что до появления полноценного ИИ остается каких-то 20 лет.
И с этого момента возникает вопрос, что будет, если человек изобретет систему, которая будет способна к самоапгрейду, то есть будет способна разнообразными способами улучшать себя, совершенствовать. Если мы изобретем искусственный интеллект, который будет лишь усиливать себя, сможем ли мы его контролировать. Останется ли такой объект машиной, и что придет на ум его «кремниевым» мозгам? Сможет ли человек сохранить в машине те цели, которые закладывал в нее еще до начала самостоятельного процесса апгрейда.
При этом искусственный интеллект может господствовать не только на поле боя, он может взять под контроль финансовые потоки, подчинить себе Интернет. По словам Алексея Турчина, электронные трейдеры уже сейчас способны обыграть большее количество людей на фондовых рынках, но главное заключается в том, что искусственный разум сможет не только управлять любыми существующими системами, но и производить новые. К примеру, заниматься самокопированием. В настоящее время в Великобритании ведутся достаточно успешные эксперименты, при которых роботы делают роботов.
При этом настоящего прорыва в этой области стоит ждать в аспекте развития на планете нанотехнологий. В 1980-х годах Эрик Дрекслер теоретик нанотехнологий ввел в обиход такое понятие как grey goo – серая слизь. В основе этой «слизи» будут находиться нанороботы способные к самовоспроизводству и использования для этого любых подручных материалов. Сами по себе нанороботы не представляют какой-либо опасности, однако ввиду дороговизны и сложности их производства ученые все время заняты поиском способа, который позволил бы сделать их выпуск более дешевым. К примеру, за счет создания репликаторов – нанороботов, способных к самовоспроизводству. Именно они вызывают опасения у определенной части человечества.
«Серая слизь» – стала еще одной версией глобальной техногенной катастрофы, которую можно сравнить с концом света. Способные к самовоспроизведению роботы, которые по какой-либо причине попали в биосферу Земли и вышли из-под контроля ученых, будут представлять реальную опасность. Данные нанороботы будут бесконечно самовоспроизводиться, применяя в качестве расходных материалов все, до чего смогут добраться. По большому счету для их проникновения в биосферу Земли будет достаточно природного катаклизма, аварии, теракта, которые как-то затронут процесс изготовления нанороботов.
Сложность ситуации будет заключаться в том, что эту так называемую «серую слизь» будет очень трудно, а может и невозможно, уничтожить. Так как будет достаточно всего одного сохранившегося целым репликатора, для того чтобы, размножаясь в геометрической прогрессии, численность таких нанороботов разрослась до масштабов всей нашей планеты. А в том случае, если такой робот попадет в Мировой океан, то становится вообще не ясно, как его уничтожать и вылавливать.
«Серая слизь» – это лишь еще одна из гипотетических «машин Судного дня», которая пока интересует лишь писателей-фантастов. Однако в самый разгар холодной войны медиапространство западных стран было взорвано новостью о том, что в СССР создана система «Периметр» – комплекс автоматического нанесения мощного ядерного удара. Система была создана на тот случай, если после совершения внезапного нападения отдавать приказ об ответном ядерном ударе будет уже некому. На Западе данный комплекс прозвали «Мертвая рука». И здесь опять на ум приходит фильм «Терминатор» и фантастическая сеть «Скайнет». При этом, не смотря на кажущуюся аморальность подобной системы, она была очень мощным фактором сдерживания, помогая не уничтожить, а именно сохранить жизнь на планете.
В неофициальном интервью журналу Wired один из создателей «Периметра» Владимир Ярынич, сообщил информацию об алгоритме его работы. По его словам, «Периметр» был создан так, что до поры до времени он находился в дремлющем состоянии, пока не получал в кризисной ситуации команду на активацию от высокопоставленного официального лица. После этого система приступала к активации и мониторингу сети датчиков – радиационных, сейсмических, атмосферного давления – на признаки ядерных взрывов. Прежде чем принять решение об ответном ядерном ударе, «Периметр» должен был проверить 4 «если»: если система была активирована, в первую очередь она пыталась установить, имело ли место применение ядерного оружия на территории СССР. Если эта информация была похожа на правду, система начинала проверку связи с Генштабом. Если связь присутствовала, «Периметр» автоматически отключался бы через некоторое время (от 15 минут до 1 часа), которое прошло без дальнейших признаков нападения, с предположением о том, что официальные лица, которые способны отдать приказ о контрударе, по-прежнему живы. Однако, если связи с Генштабом не было, система решала, что Судный день наступил и незамедлительно передавала права на запуск ракет любому, кто в тот момент мог находиться в хорошо защищенных бункерах, в обход многочисленных инстанций.
В настоящее время ряд ученых вовсе считают, что человек опаснее любой машины. Так как именно люди в наше время являются основными виновниками наиболее страшных техногенных катастроф. Так было на АЭС «Фукусима» в Японии, так было и на Чернобыльской АЭС в СССР. По мнению ряда специалистов, современные технологии достигли такого уровня, что человек уже просто не в силах контролировать их самостоятельно. Скорее, человек сам превращается в фактор риска. В этом смысле компьютеры выигрывают у людей: они не могут расстроиться, запить, обидеться на кого-то и утроить техногенную катастрофу в форме личного суицида, прихватив с собой еще и тех людей, на которых человек обиделся. Весь вопрос в том, как много мы сможем доверить компьютерам, будут ли это компьютеры и роботы в сегодняшнем понимании этого слова и как скоро это произойдет..
http://topwar.ru/23432-igry-razuma.html
Сложность ситуации будет заключаться в том, что эту так называемую «серую слизь» будет очень трудно, а может и невозможно, уничтожить. Так как будет достаточно всего одного сохранившегося целым репликатора, для того чтобы, размножаясь в геометрической прогрессии, численность таких нанороботов разрослась до масштабов всей нашей планеты. А в том случае, если такой робот попадет в Мировой океан, то становится вообще не ясно, как его уничтожать и вылавливать.
«Серая слизь» – это лишь еще одна из гипотетических «машин Судного дня», которая пока интересует лишь писателей-фантастов. Однако в самый разгар холодной войны медиапространство западных стран было взорвано новостью о том, что в СССР создана система «Периметр» – комплекс автоматического нанесения мощного ядерного удара. Система была создана на тот случай, если после совершения внезапного нападения отдавать приказ об ответном ядерном ударе будет уже некому. На Западе данный комплекс прозвали «Мертвая рука». И здесь опять на ум приходит фильм «Терминатор» и фантастическая сеть «Скайнет». При этом, не смотря на кажущуюся аморальность подобной системы, она была очень мощным фактором сдерживания, помогая не уничтожить, а именно сохранить жизнь на планете.
В неофициальном интервью журналу Wired один из создателей «Периметра» Владимир Ярынич, сообщил информацию об алгоритме его работы. По его словам, «Периметр» был создан так, что до поры до времени он находился в дремлющем состоянии, пока не получал в кризисной ситуации команду на активацию от высокопоставленного официального лица. После этого система приступала к активации и мониторингу сети датчиков – радиационных, сейсмических, атмосферного давления – на признаки ядерных взрывов. Прежде чем принять решение об ответном ядерном ударе, «Периметр» должен был проверить 4 «если»: если система была активирована, в первую очередь она пыталась установить, имело ли место применение ядерного оружия на территории СССР. Если эта информация была похожа на правду, система начинала проверку связи с Генштабом. Если связь присутствовала, «Периметр» автоматически отключался бы через некоторое время (от 15 минут до 1 часа), которое прошло без дальнейших признаков нападения, с предположением о том, что официальные лица, которые способны отдать приказ о контрударе, по-прежнему живы. Однако, если связи с Генштабом не было, система решала, что Судный день наступил и незамедлительно передавала права на запуск ракет любому, кто в тот момент мог находиться в хорошо защищенных бункерах, в обход многочисленных инстанций.
В настоящее время ряд ученых вовсе считают, что человек опаснее любой машины. Так как именно люди в наше время являются основными виновниками наиболее страшных техногенных катастроф. Так было на АЭС «Фукусима» в Японии, так было и на Чернобыльской АЭС в СССР. По мнению ряда специалистов, современные технологии достигли такого уровня, что человек уже просто не в силах контролировать их самостоятельно. Скорее, человек сам превращается в фактор риска. В этом смысле компьютеры выигрывают у людей: они не могут расстроиться, запить, обидеться на кого-то и утроить техногенную катастрофу в форме личного суицида, прихватив с собой еще и тех людей, на которых человек обиделся. Весь вопрос в том, как много мы сможем доверить компьютерам, будут ли это компьютеры и роботы в сегодняшнем понимании этого слова и как скоро это произойдет..
http://topwar.ru/23432-igry-razuma.html
Комментарии (0)