Автономное оружие. Новое слово в войне

Передовые страны уже сегодня активно занимаются разработкой вооружения с искусственным интеллектом.

Военные всегда ищут пути для усовершенствования собственного оружия и техники. Поэтому неудивительно, что передовые армии мира заинтересовались тем, как искусственный интеллект (ИИ) может помочь им в улучшении их вооружения и экипировки.

На сегодняшний день, ключевыми игроками в сфере применения ИИ в военной сфере считаются Соединенные Штаты, Китай, Россия, Великобритания, Франция, Израиль, и Южная Корея. Согласно общего уровня развития технологий и наличия частных компаний со многими наработками в области ИИ, можно сказать, что наибольшим потенциалом по внедрению передовых технологий в армии обладают США и Китай.

Учитывая, что военные разработки – это в значительной степени засекреченная отрасль, трудно точно сказать, занимаются ли Соединенные Штаты и Китай разработкой именно автономной оружия. Однако, из-за того что в Штатах политическая система более демократична и открыта по сравнению с Поднебесной, о военных технологиях этой страны известно чуть больше.

Итак, согласно имеющейся информации, в армии США активно тестируются автономные транспортные средства для их использования непосредственно в боях. Однако, технологии ИИ, управляющие этими беспилотными машинами, не имеют доступа к управлению вооружением, которое на них установлено.

Существуют также боевые роботизированные платформы, которые могут вести огонь, но только по приказу человека-оператора. Вооружение, усиленное ИИ, на сегодняшний день не является полностью самостоятельным, однако технологии, чтобы сделать его автономным, скорее всего, уже существуют. На пути внедрению таких видов техники сейчас становятся, в основном, правовые и этические вызовы.

Министерство обороны США считает систему вооружений автономной, если она может самостоятельно распознавать цель и поражать ее автоматически без участия человека. Сейчас такая система считается незаконной, и разрешение человека является обязательным перед атакой любой цели. Впрочем, постепенное внедрение некоторых функций для обеспечения автономности в военные системы означает, что путь к появления полностью самостоятельных образцов открыто.

Для использования такого оружия, необходимо будет обеспечить соблюдение соответствующего законодательства, и здесь перед военными стоит целый ряд серьезных вызовов. Так, например, система должна отличать военных от гражданских, так же как и военные объекты от гражданских. Также, автономное оружие, как и любые другие виды вооружений, должно применяться в соответствии с принципом пропорциональности, то есть побочный вред, причиненный оружием, не должен быть чрезмерным относительно ожидаемой военной выгоды. До сих пор непонятно, сможет ли автономная система вооружений самостоятельно выполнять это требование. Для того, чтобы соответствовать этому принципу, «умное оружие» должно уметь оценить побочный ущерб от удара, а затем сравнить его с оценочной выгодой, что получит армия в случае осуществления соответствующей атаки. Такая оценка очень зависима от контекста, и требует разработки алгоритмов машинного обучения, которые бы умели определять стратегическую ценность определенных объектов на поле боя на основе имеющейся информации.

Однако, даже если такие системы вооружений будут признаны национальным и международным законодательством, это не означает, что будет разрешение на их применение. Многие эксперты считают, что разработка летального автономной оружия нарушает фундаментальные этические принципы и несет серьезную угрозу международной безопасности.

В своем недавнем отчете don'T be evil? компания Pax оценивает риски разработки летального автономной оружия, проанализировав деятельность 50 компаний, расположенных в 12 странах мира и которые потенциально могут иметь отношение к соответствующих технологий.

Так, среди американских технических гигантов, компании Amazon и Microsoft находятся в зоне риска, поскольку уже сотрудничают с Министерством обороны США по некоторым военными контрактами. А компания Google, например, вынуждена была отказаться от сотрудничества с Пентагоном под давлением собственных сотрудников, и официально заявила, что не будет принимать участие в разработке летального автономного оружия.

В Китае также есть тройка технических гигантов, достижения которых в области искусственного интеллекта сопоставимы с американскими лидерами. Это компании Baidu, Alibaba и Tencent. Все они в той или иной степени сотрудничают с китайским правительством, а их отношение к разработке летальной автономной оружия остается загадкой для мира.

Летальное автономное оружие может в корне изменить способ ведения войны, и ознаменовать собой очередную военную революцию, вроде изобретения пороха или атомной бомбы. Но этично ли делегировать решение о жизни или смерти машине?

Источник