Автономные системы вооружений: решения об убийстве или уничтожении целей - ответственность людей

Конвенция о запрещении или ограничении применения конкретных видов обычного оружия (КНО)
Заявление МККК, зачитанное на Совещании экспертов по теме "Автономные системы вооружений поражающего действия", которое проходит в Женеве с 11 по 16 апреля.

Международный Комитет Красного Креста (МККК) рад поделиться своими взглядами в рамках третьего Совещания экспертов КНО по теме "Автономные системы вооружений поражающего действия".
В обсуждениях в ходе двух предыдущих совещаний экспертов в рамках КНО, а также в ходе совещаний экспертов, которые созывались МККК и другими организациями, были подчеркнуты серьезные правовые, этические и социальные вопросы, вызываемые системами вооружений, которые могут выбирать и поражать цели без участия человека.

При том что взгляды, в том числе и взгляды МККК, на этот сложный вопрос продолжают меняться, обсуждение выявило наличие общего согласия по вопросу о том, что, по соображениям юридического, этического и военно-оперативного характера, необходимо сохранить контроль со стороны человека над системами вооружений и применением силы.

МККК призывает государства ограничить автономность систем вооружений, чтобы гарантировать, что они применяются согласно нормам международного гуманитарного права (МГП) и в рамках того, что считается приемлемым в соответствии с принципами гуманности и требованиями общественного сознания.

В качестве дополнительного вклада в работу вслед за первым совещанием экспертов МККК, которое состоялось в марте 2014 г., МККК созвал второе международное совещание экспертов по теме "Автономные системы вооружений: последствия повышения автономности систем вооружений при выполнении критически важных функций", которое прошло 15-16 марта 2016 г. В совещании приняли участие представители 20 государств, эксперты, выступающие в личном качестве, представители ООН и общественных организаций.

Совещание было призвано установить более тесную связь между реальным развитием автономности при выполнении системами вооружений критических функций и рассмотрением правовых и этических последствий использования автономных систем вооружений, а также возможных политических подходов к их использованию. Сводный доклад по итогам организованного МККК совещания экспертов вскоре будет опубликован. Тем временем, в качестве вклада в работу данного совещания КНО, мы распространяем краткий документ с изложением точки зрения МККК на ряд ключевых вопросов, которые были подняты в ходе созванного нами совещания экспертов. В частности, мы хотели бы подчеркнуть следующие моменты.

• Определения: МККК предложил считать "автономные системы вооружений" общим термином, который охватывает любые системы вооружений, обладающие автономностью при осуществлении критически важных функций по выбору и поражению целей. Мы хотим подчеркнуть, что данное рабочее определение призвано способствовать лучшему пониманию вопроса и определению рамок при обсуждении данной темы. Преимущество столь широкого определения заключается в том, что оно позволяет учитывать опыт применения существующих систем вооружений, обладающих автономностью при осуществлении критических функций, а также извлеченные уроки. Это может облегчить процесс определения границ того, что является допустимым в соответствии с МГП и требованиями общественного сознания.
  
  
• Существующие системы вооружений: некоторые используемые сегодня системы вооружений способны выбирать и поражать цели без участия человека. Способность осуществлять эффективный контроль над данными системами вооружений и применением силы, как представляется, тесно связана с их предсказуемостью и надежностью, а также со строгими оперативными ограничениями, касающимися выполняемой задачи, поражаемых целей, оперативной обстановки, места и времени операции, способности обеспечить надзор за проведением операции со стороны человека, а также способности человека в случае необходимости деактивировать систему вооружения.
  
  
• Новые технологии: существует вероятность того, что все более автономные системы вооружений могут стать менее предсказуемыми, особенно в случае повышения мобильности, приспособляемости и (или) взаимодействия нескольких систем (например, действующих группой). Снижение предсказуемости результатов применения автономной системы вооружения может указывать на снижение контроля со стороны человека над функционированием данной системы вооружения, при том что решение о применении силы принимается не человеком, а машинными операциями. Следовательно, могут возникнуть серьезные вопросы относительно соответствия данной системы вооружения нормам МГП и требованиям общественного сознания.
  
  
• Правовая экспертиза: МККК приветствует тот факт, что государства признают важность проведения проверки новых вооружений на предмет соответствия нормам международного права, и подчеркивает, что действия по укреплению процессов правовой экспертизы на государственном уровне дополняют и взаимно усиливают обсуждение на международном уровне, в частности в рамках совещаний экспертов КНО. Однако при проведении правовой экспертизы возникают определенные практические сложности, касающиеся оценки того, будет ли автономная система вооружения функционировать прогнозируемым образом в предполагаемых или ожидаемых условиях применения. В частности, поднимаются следующие вопросы: как оценивается предсказуемость и надежность оружейной системы? Какой уровень предсказуемости и надежности считается необходимым?
  
  
• Принципы гуманности и требования общественного сознания: обсуждения с участием государств, экспертов, представителей гражданского общества и широкой общественности показали, что идея о любой системе вооружения, выносящей применение силы за рамки контроля со стороны человека, вызывает глубокое беспокойство. С учетом крайней серьезности последствий и безотносительно законности подобных систем, человечество вполне может настаивать на том, что решения об убийстве или уничтожении целей должны по-прежнему приниматься людьми.
  
  
• Контроль со стороны человека: центральной темой в данном обсуждении является понятие контроля со стороны человека. В основном все согласны с тем, что системы вооружений и применение силы должны находиться под контролем со стороны человека, будь то по соображениям юридического, этического или военно-оперативного характера. Однако по-прежнему неясно, достаточно ли контроля со стороны человека на этапах разработки и ввода в действие автономных систем вооружений для того, чтобы компенсировать минимальный контроль со стороны человека или его отсутствие на этапе применения системы вооружения, то есть в то время, когда она самостоятельно выбирает и поражает цели. Необходимо определить вид и степень контроля со стороны человека над системами вооружений, которые считаются необходимыми для соответствия правовым обязательствам, а также соображениям этического и социального характера.
  
  
• Дальнейшие действия: поскольку необходимость сохранения контроля со стороны человека ("существенного", "адекватного" или "эффективного") над системами вооружений и применением силы соответствует правовым обязательствам, военно-оперативным требованиям и этическим соображениям, МККК призывает государства использовать ее в качестве основы в ходе продолжающихся дискуссий в рамках КНО. Контроль со стороны человека и рассмотрение взаимодействия человека и машины могут стать полезной основой, которая поможет государствам добиться взаимопонимания и согласовать ограничения автономности систем вооружений. МККК призывает государства-участников КНО в ходе Конференции по рассмотрению действия Конвенции, которая пройдет в декабре, прийти к соглашению о том, что дальнейшая работа должна сосредоточиться на определении данных границ автономности. Системы вооружений, автономно осуществляющие критические функции, уже существуют, и новые разработки появляются непрерывно. Следовательно, государствам и всем заинтересованным сторонам необходимо с осознанием своей ответственности незамедлительно приступить к решению данной проблемы, чтобы убедиться, что развитие технологий не опередит наши правовые и этические рассуждения.

Мы призываем делегации ознакомиться с распространяемым нами документом, в котором данные моменты освещены более детально. Мы будем рады подробнее изложить наши взгляды в ходе тематических заседаний.

Спасибо.