В их 50-страничной работе «Теряя человечность: акция против роботов-убийц» выражен протест против растущей тенденции к технологизации вооруженных сил передовых государств мира, в частности, против создания роботов, способных принимать решение об убийстве без санкции на то человека, или, как их назвали в Human Rights Watch, «роботов-убийц». Доклад вызвал оживленные споры между защитниками и противниками технологий будущего. Давайте посмотрим, есть ли основания опасаться пока не существующих, но потенциально возможных «роботов-убийц».
Авторы идеи утверждают, что решение о разработке таких роботов, которые, кстати, должны в будущем полностью заменить современных солдат, будет принято и реализовано в ближайшие 20-30 лет. В Human Rights Watch таких роботов называют «полностью автономным оружием, способным выбирать и поражать цели без вмешательства в этот процесс человека» и настаивают на необходимости введения предупреждающего запрета на подобные разработки. Подчеркивая опасность, авторы приводят в пример современные эксперименты в Корее, где идея создания солдат-роботов находит поддержку у ученых и правительства.
Доклад «Теряя человечность» является первой крупной публикацией, посвященной полностью автономной робототехнике, представленной негосударственной организацией и опирающейся на обширные исследования в области законодательства, технологии и человеческой этики. В обсуждении доводов доклада приняли участие военные, ученые, философы и юристы. Они попытались оценить автономное оружие с точки зрения военной необходимости, стоимости, политических и этических убеждений.
Система вооружения MK 15 Phalanx, ВМС США. Разработана для идентификации и поражения реактивного
или угрожающего летательного аппарата. Эта автоматическая оружейная система защиты в одном шаге от полной автономии.
Фото с сайта hrw.org
«Наделение машин правом решать, кому жить, а кому умирать на поле боя, заведет современные технологии слишком далеко. Управление робототехникой человеком необходимо для сведения к минимуму жертв и раненых среди мирного населения», – подчеркивает представитель Human Rights Watch Стив Гуз.
Iron Dome – израильская автоматическая система вооружения.
Отправляет сигнал об опасности оператору, который почти мгновенно должен принять решение, открывать огонь или нет.
Фото с сайта hrw.org
Роботы с искусственным интеллектом не способны принять и осознать человеческую этику и понять ценность человеческой жизни. Для них такие понятия, как «инструкция к действию» и «военная необходимость», заменяют человеческую мораль. Даже если искусственный интеллект будет пытаться подражать человеческой мысли, несоответствие инструкций и реальности повлечет за собой субъективное принятие решений, которые будут далеки от решений и суждений настоящего человека. Кроме того, с точки зрения правомерности полностью автономное оружие противоречит закону Мартенса, запрещающему разработку оружия, не соответствующего нормам общественной этики и морали.
Южнокорейский робот-караульный. Предшественник полностью автономного оружия, может обнаруживать людей в демилитаризованной зоне.
Если человек не называет пароль и не выполняет приказ, робот открывает огонь. Фото с сайта hrw.org
С точки зрения представителей Human Rights Watch, лишение человека возможности решать, использовать оружие или нет, является нарушением его гражданских прав. Во-первых, робот не обладает чувством сострадания и не сможет сопереживать человеку. Подобная безэмоциональность – скорее недостаток, чем достоинство искусственного интеллекта. Например, роботы могут стать инструментом в руках у диктатора, желающего расправиться с восставшим против его тирании народом. Во-вторых, безэмоциональность и невосприимчивость роботов также могут привести к увеличению количества военных столкновений, так как роботы – это «неживая» сила и ее просто не жалко, что значительно снижает моральные ограничения в вопросе развязывания войны. А в любой войне гибель мирного населения неизбежна. То есть вероятность вооруженных столкновений, с точки зрения Human Rights Watch, возрастет.
X-47B, ВМС США. В процессе разработки. Имеет большую автономность при полете,
чем любой существующий беспилотник. В будущем будет иметь два отсека вооружения для выполнения функции истребителя.
Фото с сайта hrw.org
Наконец, авторы доклада поставили вопрос об ответственности за действия роботов. Ведь неясно, кто предстанет перед судом, если техника будущего даст сбой и тем самым нарушит человеческие законы. Теоретически в такой ситуации виновны командир, программист и сам робот, то есть ответственность будут нести люди, а совершать преступления будет робот. В результате будет невозможно говорить о правосудии ни по отношению к жертвам преступления, ни по отношению к привлеченным к ответственности гражданам, а международное гуманитарное право остается в стороне.
Британский истребитель Taranis. Разработан для поражения отдаленных мишеней,
«даже на другом континенте». Еще один пример почти полной автономии. Фото с сайта hrw.org
Казалось бы, с такими доводами не поспоришь, однако оппоненты докладчиков высказали и свое мнение. Они утверждают, что в настоящее время, в век прогрессивных технологий, проблема противостояния человека и техники не стоит вовсе. Современное молодое поколение, как и большинство уже взрослых, а часто и пожилых людей не представляет себе жизни без компьютеров, социальных сетей, смартфонов и всевозможных гаджетов. Не стоит забывать и о фармакологических разработках, без которых человечество просто не выживет. Человечество свыклось с техникой, сделало ее неотъемлемой частью своей жизни.
Противники докладчиков поставили под вопрос реальность выводов и об угрозе такого искусственного интеллекта. Разработка подобных технологий ведется, она вызвана необходимостью снижения количества потерь солдат в ходе боевых действий и во многих случаях – среди гражданского мирного населения, вызвана условиями современных боев, когда солдату необходимо помнить, воспринимать и анализировать огромное количество жизненно важной информации. Иногда объем такой информации даже превышает возможности человеческого восприятия. В этих случаях роботы исключительно полезны: они не сделают механической ошибки, приняв свою технику за чужую, будучи связаны с нею на уровне программирования. Именно поэтому уже разработаны когнитивные технологии, предупреждающие угрозы и связывающие мозговые волны человека, механические датчики и информационные потоки от различных устройств.
Одобренный правительством США, запущенный в производство беспилотник Predator. На изображении видно, как он выпускает реактивный снаряд.
США не нуждаются в международном одобрении этого дрона: ведь реактивное оружие и беспилотники в частности уже получили санкционирование.
Фото с сайта hrw.org
Не стоит забывать и о том, что потери среди солдат-роботов могут быть легко восполнимы в ходе боя, потери же среди людей невосполнимы, в первую очередь – в моральном плане. Такие технологии создаются в помощь миру, а не войне, утверждают оппоненты.
Кроме того, даже Международное общество Красного Креста поддерживает идею замены солдат роботами, чтобы оградить человеческие жизни от возможной опасности.
В качестве решения проблемы Human Rights Watch предлагает руководящим органам государств принять законы, запрещающие разработки и использование подобных технологий, что, с их точки зрения, внесет значительный вклад в утверждение прав и свобод человека. Они требуют, чтобы каждый проектируемый вид вооружения на каждом этапе его разработки оценивался с точки зрения возможной опасности для мирного населения в случае его военного применения.
Полностью автономного оружия, способного принимать решение о стрельбе по цели самостоятельно, пока не существует, и даже в США, признанном лидере технологического прогресса, нет программы, нацеленной на создание такого оружия.
Однако следует признать, что в передовых мировых государствах, таких как Россия, Китай, Германия, Израиль и Великобритания, разрабатываются технологии, направленные на замену человека роботом в возможных военных конфликтах, а предсказание об изобретении искусственного интеллекта в ближайшие 20-30 лет подтверждается многими учеными. Доводы, приводимые обеими сторонами дискуссии, в равной степени имеют право на существование, однако оппонентам так и не удалось прийти к единому выводу и определенному решению. Вопрос о том, примет ли наш мир искусственный интеллект или нет, остается открытым.
http://www.km.ru/science-tech/2012/12/13/nauka-i-tekhnologii/699544-soldat-ili-robot-ubiitsa-chto-nuzhno-chelovechest
Авторы идеи утверждают, что решение о разработке таких роботов, которые, кстати, должны в будущем полностью заменить современных солдат, будет принято и реализовано в ближайшие 20-30 лет. В Human Rights Watch таких роботов называют «полностью автономным оружием, способным выбирать и поражать цели без вмешательства в этот процесс человека» и настаивают на необходимости введения предупреждающего запрета на подобные разработки. Подчеркивая опасность, авторы приводят в пример современные эксперименты в Корее, где идея создания солдат-роботов находит поддержку у ученых и правительства.
Доклад «Теряя человечность» является первой крупной публикацией, посвященной полностью автономной робототехнике, представленной негосударственной организацией и опирающейся на обширные исследования в области законодательства, технологии и человеческой этики. В обсуждении доводов доклада приняли участие военные, ученые, философы и юристы. Они попытались оценить автономное оружие с точки зрения военной необходимости, стоимости, политических и этических убеждений.
Система вооружения MK 15 Phalanx, ВМС США. Разработана для идентификации и поражения реактивного
или угрожающего летательного аппарата. Эта автоматическая оружейная система защиты в одном шаге от полной автономии.
Фото с сайта hrw.org
«Наделение машин правом решать, кому жить, а кому умирать на поле боя, заведет современные технологии слишком далеко. Управление робототехникой человеком необходимо для сведения к минимуму жертв и раненых среди мирного населения», – подчеркивает представитель Human Rights Watch Стив Гуз.
Iron Dome – израильская автоматическая система вооружения.
Отправляет сигнал об опасности оператору, который почти мгновенно должен принять решение, открывать огонь или нет.
Фото с сайта hrw.org
Роботы с искусственным интеллектом не способны принять и осознать человеческую этику и понять ценность человеческой жизни. Для них такие понятия, как «инструкция к действию» и «военная необходимость», заменяют человеческую мораль. Даже если искусственный интеллект будет пытаться подражать человеческой мысли, несоответствие инструкций и реальности повлечет за собой субъективное принятие решений, которые будут далеки от решений и суждений настоящего человека. Кроме того, с точки зрения правомерности полностью автономное оружие противоречит закону Мартенса, запрещающему разработку оружия, не соответствующего нормам общественной этики и морали.
Южнокорейский робот-караульный. Предшественник полностью автономного оружия, может обнаруживать людей в демилитаризованной зоне.
Если человек не называет пароль и не выполняет приказ, робот открывает огонь. Фото с сайта hrw.org
С точки зрения представителей Human Rights Watch, лишение человека возможности решать, использовать оружие или нет, является нарушением его гражданских прав. Во-первых, робот не обладает чувством сострадания и не сможет сопереживать человеку. Подобная безэмоциональность – скорее недостаток, чем достоинство искусственного интеллекта. Например, роботы могут стать инструментом в руках у диктатора, желающего расправиться с восставшим против его тирании народом. Во-вторых, безэмоциональность и невосприимчивость роботов также могут привести к увеличению количества военных столкновений, так как роботы – это «неживая» сила и ее просто не жалко, что значительно снижает моральные ограничения в вопросе развязывания войны. А в любой войне гибель мирного населения неизбежна. То есть вероятность вооруженных столкновений, с точки зрения Human Rights Watch, возрастет.
X-47B, ВМС США. В процессе разработки. Имеет большую автономность при полете,
чем любой существующий беспилотник. В будущем будет иметь два отсека вооружения для выполнения функции истребителя.
Фото с сайта hrw.org
Наконец, авторы доклада поставили вопрос об ответственности за действия роботов. Ведь неясно, кто предстанет перед судом, если техника будущего даст сбой и тем самым нарушит человеческие законы. Теоретически в такой ситуации виновны командир, программист и сам робот, то есть ответственность будут нести люди, а совершать преступления будет робот. В результате будет невозможно говорить о правосудии ни по отношению к жертвам преступления, ни по отношению к привлеченным к ответственности гражданам, а международное гуманитарное право остается в стороне.
Британский истребитель Taranis. Разработан для поражения отдаленных мишеней,
«даже на другом континенте». Еще один пример почти полной автономии. Фото с сайта hrw.org
Казалось бы, с такими доводами не поспоришь, однако оппоненты докладчиков высказали и свое мнение. Они утверждают, что в настоящее время, в век прогрессивных технологий, проблема противостояния человека и техники не стоит вовсе. Современное молодое поколение, как и большинство уже взрослых, а часто и пожилых людей не представляет себе жизни без компьютеров, социальных сетей, смартфонов и всевозможных гаджетов. Не стоит забывать и о фармакологических разработках, без которых человечество просто не выживет. Человечество свыклось с техникой, сделало ее неотъемлемой частью своей жизни.
Противники докладчиков поставили под вопрос реальность выводов и об угрозе такого искусственного интеллекта. Разработка подобных технологий ведется, она вызвана необходимостью снижения количества потерь солдат в ходе боевых действий и во многих случаях – среди гражданского мирного населения, вызвана условиями современных боев, когда солдату необходимо помнить, воспринимать и анализировать огромное количество жизненно важной информации. Иногда объем такой информации даже превышает возможности человеческого восприятия. В этих случаях роботы исключительно полезны: они не сделают механической ошибки, приняв свою технику за чужую, будучи связаны с нею на уровне программирования. Именно поэтому уже разработаны когнитивные технологии, предупреждающие угрозы и связывающие мозговые волны человека, механические датчики и информационные потоки от различных устройств.
Одобренный правительством США, запущенный в производство беспилотник Predator. На изображении видно, как он выпускает реактивный снаряд.
США не нуждаются в международном одобрении этого дрона: ведь реактивное оружие и беспилотники в частности уже получили санкционирование.
Фото с сайта hrw.org
Не стоит забывать и о том, что потери среди солдат-роботов могут быть легко восполнимы в ходе боя, потери же среди людей невосполнимы, в первую очередь – в моральном плане. Такие технологии создаются в помощь миру, а не войне, утверждают оппоненты.
Кроме того, даже Международное общество Красного Креста поддерживает идею замены солдат роботами, чтобы оградить человеческие жизни от возможной опасности.
В качестве решения проблемы Human Rights Watch предлагает руководящим органам государств принять законы, запрещающие разработки и использование подобных технологий, что, с их точки зрения, внесет значительный вклад в утверждение прав и свобод человека. Они требуют, чтобы каждый проектируемый вид вооружения на каждом этапе его разработки оценивался с точки зрения возможной опасности для мирного населения в случае его военного применения.
Полностью автономного оружия, способного принимать решение о стрельбе по цели самостоятельно, пока не существует, и даже в США, признанном лидере технологического прогресса, нет программы, нацеленной на создание такого оружия.
Однако следует признать, что в передовых мировых государствах, таких как Россия, Китай, Германия, Израиль и Великобритания, разрабатываются технологии, направленные на замену человека роботом в возможных военных конфликтах, а предсказание об изобретении искусственного интеллекта в ближайшие 20-30 лет подтверждается многими учеными. Доводы, приводимые обеими сторонами дискуссии, в равной степени имеют право на существование, однако оппонентам так и не удалось прийти к единому выводу и определенному решению. Вопрос о том, примет ли наш мир искусственный интеллект или нет, остается открытым.
http://www.km.ru/science-tech/2012/12/13/nauka-i-tekhnologii/699544-soldat-ili-robot-ubiitsa-chto-nuzhno-chelovechest
Комментарии (0)