Технополис завтра
Самое важное. Самое полезное. Самое интересное...
Новости Политика

В ООН началась дискуссия о запрете "роботов-убийц"

Источник: ВОЙНА и МИР
28.08.2018

Участники конференции ООН рассматривают вопрос о введении запрета на автономные виды оружия, так называемые "роботы-убийцы", контролируемые искусственным интеллектом.

Представители правительств и эксперты из более чем ста стран принимают участие в конференции, которая началась в европейской штаб-квартире ООН в Женеве в понедельник.

В фокусе дискуссий стоит вопрос о методах регулирования разработок автономного оружия, оснащенного искусственным интеллектом.

Представитель Австрии в ООН назвал неэтичным предоставление машинам решения вопросов жизни и смерти.

Представитель Японии на Конференции по разоружению занял более осторожную позицию по отношению к запрету такого оружия. Он сказал, что при соответствующем использовании искусственный интеллект может повысить точность распознавания и атак на объекты, что позволит уменьшить сопутствующие потери и человеческие ошибки.

Ряд стран, в том числе США и Россия, выступают против введения ограничений на оружие с искусственным интеллектом.

Конференция ООН завершится в пятницу.

"До автономных вооружений - небольшой шаг"

Международные дипломаты, эксперты в области разоружения и представители гражданского общества начали обсуждать вопросы автономного оружия еще в 2014 году. Эти неформальные консультации в прошлом году переросли в официальные переговоры. Пока полностью самоуправляемого оружия еще не создано, но многие государства вкладывают значительные средства в адаптацию технологии искусственного интеллекта для военных нужд. На вооружении ряда стран уже стоят системы с элементами искусственного интеллекта - от беспилотников и роботов-часовых до аппаратов для обезвреживания взрывных устройств. При этом продолжается развитие искусственных нейронных сетей, позволяющих искусственному интеллекту самообучаться.

"Остался совсем небольшой шаг до создания целиком автономных систем вооружения", - убежден Томас Кюхенмайстер (Thomas Küchenmeister), глава немецкой организации Facing Finance, участвующей в международной кампании "Остановите роботов-убийц" (Stop Killer Robots). Что плохого в применении в армии автоматических систем, которые действуют точнее и способны анализировать большие массивы данных?

Кюхенмайстер указывает в беседе с DW, что самоуправляемые системы не способны различить, к примеру, военный и гражданский грузовик. А это уже противоречит международному гуманитарному праву, которое действует в вооруженных конфликтах и призвано, насколько это возможно, защитить гражданское население. "Но мы же не можем вживить этим вооружениям чип международного права", - сетует участник кампании против роботов-убийц.

Примечание Владимира Зыкова. Сложно сформулировать подобные запреты, и очень легко сделать хуже. Выше я выделил жирным аппараты для обезвреживания взрывных устройств, но это простейший пример, его можно оговорить отдельно. Обычно говорят, что автоматики может быть сколько угодно, но окончательное решение об атаке должен принимать человек, тогда всё нормально. Но вот сидит лётчик в истребителе шестого или седьмого поколения, и оценивает ситуацию за десятки или даже сотни километров с помощью приборов. Не вижу особой разницы. И главное - обойти такой запрет можно слишком просто: кто и как проверит?

Китай - за мораторий, США и Россия - против

За превентивный мораторий на автономные системы вооружения выступают 26 государств, включая Австралию, Бразилию и Китай. Открытое письмо с поддержкой их позиции подписали более 230 организаций по всему миру и около 3000 предпринимателей и ученых, занятых в сфере искусственного интеллекта. Среди них, например, основатель компаний Tesla и Space X Илон Маск, а также компания Deep Mind (принадлежит Google). "Решение лишить человека жизни никогда не должно быть делегировано роботу", - говорится в письме.

Против запрета высказываются государства, активно инвестирующие в использование искусственного интеллекта для военных нужд, например, США, Израиль, Россия и Великобритания. Как однажды заявил президент РФ Владимир Путин, лидер по созданию искусственного интеллекта "будет властелином мира".

США даже пытаются выставить автономное оружие в положительном свете, заявляя, что оно поможет избежать "сопутствующих разрушений". Ведь компьютер, в отличие от солдата, может быстрее анализировать всю обстановку на поле боя и совершать меньше ошибок, убеждены в Вашингтоне. В ходе последнего раунда консультаций в Женеве американская делегация призвала не клеймить подобные вооружения.

Позиция Берлина: от декларации - к постепенному запрету

Правительство Германии выступает за "международный запрет" автономных вооружений - это закреплено в коалиционном договоре немецкого кабмина. В то же время Берлин считает тактически неправильным настаивать на нынешних переговорах в Женеве на моратории, так как позиции стран слишком разнятся. Вместе с Францией ФРГ предлагает промежуточное решение: первым шагом могло бы стать принятие в ООН политической декларации, в которой говорилось бы о важности сохранения контроля человека за автономными системами вооружений. Затем Берлин и Париж предлагают принять военный кодекс поведения, а только потом - непосредственно договор о запрете такого оружия.

По мнению немецких дипломатов, такой многоступенчатый подход даст шанс преодолеть существующие противоречия - ведь к не предполагающей никаких обязательств политической декларации могли бы присоединиться и противники моратория. В то же время этот документ создал бы определенные общие стандарты, открывающие путь к закреплению запрета на самоуправляемое оружие в международном праве.

Соглашение вне ООН?

Однако активистам движения "Остановите роботов-убийц" позиция Германии кажется недостаточно жесткой. Они считают, что ФРГ должна быть в авангарде борьбы за немедленный мораторий. За ней подтянулись бы и другие страны, полагает Томас Кюхенмайстер. "Если немецкое правительство хочет добиться запрета подобных вооружений, то оно должно продемонстрировать это, то есть, взять на себя ответственность", - подчеркивает он.

Так или иначе, у стран остается все меньше времени для согласования позиций, ведь технологии совершенствуются с каждым днем. Если на переговорах в Женеве не будет достигнут прогресс, давление со стороны гражданского общества станет нарастать, предсказывает Кюхенмайстер.

Примечание Владимира Зыкова. Что такое "гражданское общество"? Кучка горластых дилетантов, возможно проплаченных кем-то, кто ничего не понимая в сути проблемы и не являясь специалистами ни в чём, любят протестовать?

По его мнению, в таком случае соглашение о моратории на автономное оружие может быть достигнуто вне рамок ООН, как это в свое время произошло с запретом противопехотных мин. В 1996-1997 годах правительство Канады и представители еще десятков стран самостоятельно провели ряд конференций, завершившихся Оттавским договором. На сегодня к соглашению присоединились уже 164 страны. Данный процесс был запущен во многом благодаря активной гражданской кампании за запрещение противопехотных мин. Это движение получило Нобелевскую премию мира в 1997 году. 

Источник: NHK (Japan), DW


 

Loading...
Загрузка...

© 2009 Технополис завтра

Перепечатка  материалов приветствуется, при этом гиперссылка на статью или на главную страницу сайта "Технополис завтра" обязательна. Если же Ваши  правила  строже  этих,  пожалуйста,  пользуйтесь при перепечатке Вашими же правилами.