Почему США и Россия убрали человеческий контроль над целями ИИ из проекта ООН

На переговорах в Организации Объединённых Наций (ООН) по автономным системам вооружений США и Россия добились исключения из проекта резолюции пункта об обязательной проверке человеком целей, которые выбирает искусственный интеллект (ИИ). Речь идёт о боевых комплексах, способных самостоятельно находить и поражать объекты без прямого участия оператора. Формально проект остаётся рамочным, но отказ от требования «человек в цикле» меняет вектор международного регулирования.

Аргументы сторон сводятся к скорости: автономный алгоритм реагирует быстрее человека, а обязательная проверка каждой цели снижает боевую эффективность. Критики отвечают, что именно человек должен нести ответственность за применение силы. Техническая сложность в том, что современные модели распознавания целей работают вероятностно: нейросеть выдаёт решение на основе статистических закономерностей и не может объяснить, почему конкретный объект классифицирован как военный. При высокой динамике боя это делает контроль со стороны оператора либо формальным, либо невозможным.

Исключение пункта не запрещает разработку полностью автономных ударных платформ, но снимает с государств обязательство встраивать механизм обязательной проверки. Это открывает путь к серийному производству дронов и наземных машин с автономным целеуказанием. Дальнейшие дискуссии, скорее всего, сосредоточатся на процедурах тестирования и верификации, а не на прямом запрете. Показательно, что даже согласованный текст не фиксирует общее определение автономного оружия — это оставляет странам пространство для собственных трактовок.