Роботы-убийцы — это не научная фантастика

Это могло показаться малоизвестным конклавом Организации Объединенных Наций, но за встречей на этой неделе в Женеве пристально следили эксперты в области искусственного интеллекта, военной стратегии, разоружения и гуманитарного права.

Причина интереса? Роботы-убийцы - дроны, пушки и бомбы, которые сами решают, с искусственным мозгом, атаковать или убивать - и что нужно делать, если что-то вообще нужно сделать, чтобы контролировать или запретить их.


Когда-то принадлежавшие к сфере научно-фантастических фильмов, таких как сериал «Терминатор» и «Робокоп», роботы-убийцы, более известные как смертоносные автономные системы оружия, изобретались и тестировались в ускоренном темпе без особого надзора. Некоторые прототипы даже использовались в реальных конфликтах.

Развитие этих машин считается потенциально сейсмическим событием в войне, сродни изобретению пороха и ядерных бомб.

В этом году впервые большинство из 125 стран, присоединившихся к соглашению под названием «Конвенция о конкретных видах обычного оружия», заявили, что хотят ограничить возможности роботов-убийц. Но им противостояли члены, которые разрабатывают это оружие, в первую очередь США и Россия.

Конференция группы завершилась в пятницу лишь расплывчатым заявлением о рассмотрении возможных приемлемых для всех мер. Кампания по борьбе с роботами-убийцами, группа по разоружению, заявила, что результат оказался «крайне коротким».

Что такое Конвенция о конкретных видах обычного оружия?

Иногда известная как Конвенция о негуманном оружии, это свод правил, запрещающих или ограничивающих оружие, которое считается причиняющим ненужные, неоправданные и неизбирательные страдания, например зажигательные взрывчатые вещества, ослепляющие лазеры и мины-ловушки, которые не делают различий между бойцами и гражданскими лицами. Конвенция не содержит положений о роботах-убийцах.

Что такое роботы-убийцы?

Мнения расходятся относительно точного определения, но они широко считаются оружием, которое принимает решения с минимальным участием человека или без него. Такое вооружение стало возможным благодаря быстрому совершенствованию робототехники, искусственного интеллекта и распознавания изображений.

Дроны, которые США широко использовали в Афганистане, Ираке и других странах, не считаются роботами, потому что ими дистанционно управляют люди, которые выбирают цели и решают, стрелять ли.

Почему они считаются привлекательными?

Планировщикам войны это оружие обещает уберечь солдат от опасности и быстрее принимать решения, чем человек, за счет возложения большей ответственности на поле боя на автономные системы, такие как беспилотные дроны и беспилотные танки, которые самостоятельно решают, когда нанести удар.

Какие возражения?

Критики утверждают, что возлагать принятие смертельных решений на машины, независимо от технологической сложности, морально отвратительно. Как машина отличает взрослого от ребенка, бойца с базукой от гражданского с метлой, враждебного бойца от раненого или сдавшегося солдата?

«По сути, автономные системы оружия вызывают у общества этическую озабоченность по поводу замены человеческих решений о жизни и смерти сенсорами, программным обеспечением и машинными процессами», - сказал Питер Маурер, президент Международного комитета Красного Креста и откровенный противник роботов-убийц. Женевская конференция.

Накануне конференции Human Rights Watch и Международная клиника прав человека Гарвардской школы права призвали к шагам в направлении юридически обязывающего соглашения, которое требует постоянного контроля со стороны человека.

«Роботам не хватает сострадания, сочувствия, милосердия и рассудительности, необходимых для гуманного обращения с людьми, и они не могут понять внутреннюю ценность человеческой жизни», - утверждали группы в информационном документе в поддержку своих рекомендаций.

Другие утверждали, что автономное оружие, вместо того, чтобы снижать риск войны, могло бы действовать наоборот - предоставляя противникам способы причинения вреда, которые минимизируют риски для их собственных солдат.
Почему Женевская конференция была важна?

Конференция была широко признана экспертами по разоружению как лучшая возможность разработать способы регулирования, если не запрета, использования роботов-убийц в соответствии с конвенцией.


Это стало кульминацией многолетних дискуссий группы экспертов, которых попросили определить проблемы и возможные подходы к снижению угроз, исходящих от роботов-убийц. Но эксперты не смогли прийти к согласию даже по основным вопросам.

Что говорят противники нового договора?

Некоторые, например Россия, настаивают на том, что любые решения об ограничениях должны приниматься единогласно, фактически давая оппонентам право вето.

Соединенные Штаты утверждают, что существующих международных законов достаточно, и что запрет на технологии автономного оружия был бы преждевременным. Главный делегат от США на конференции Джошуа Доросин предложил необязательный «кодекс поведения» для использования роботов-убийц - идею, которую сторонники разоружения отвергли как тактику проволочек.

Американские военные вложили значительные средства в ИИ, работая с крупнейшими оборонными подрядчиками, включая Lockheed Martin, Boeing, Raytheon и Northrop Grumman. Согласно исследованиям противников систем вооружения, работа включала проекты по разработке ракет большой дальности, которые обнаруживают движущиеся цели на основе радиочастоты, беспилотных летательных аппаратов, которые могут идентифицировать и атаковать цель, и автоматизированных систем противоракетной защиты.

Есть ли в оборонном ведомстве конфликт из-за роботов-убийц?

Да. По словам Франца-Стефана Гади, научногосотрудника Международного института стратегических исследований, даже по мере того, как технология становится все более продвинутой, существует нежелание использовать автономное оружие в бою из-за боязни ошибок.

«Может ли военное командование абсолютно доверять выводам ИИ систем оружия? Здесь ответ на данный момент однозначно «нет» и останется таковым в ближайшем будущем», - сказал он.