Инициативы по снижению рисков автономного ИИ: США и Китаю предлагают ограничения ради ядерной стабильности

На фоне растущих опасений по поводу влияния автономных систем искусственного интеллекта на стратегическую стабильность обсуждаются предложения, призванные снизить риск ядерного кризиса между США и Китаем.

Среди предложенных мер — «красные линии» для ядерных систем, предусматривающие ограничения на использование автономного ИИ в критически важных элементах ядерной инфраструктуры. Также предлагается закрепить требование обязательного человеческого контроля над кибератаками, способными привести к серьезным последствиям.

Еще одним элементом инициатив называется создание специальной горячей линии для оперативного обмена информацией и деэскалации в случае инцидентов, связанных с автономным ИИ. Идея заключается в том, чтобы сокращать вероятность ошибочной интерпретации действий другой стороны и непреднамеренной эскалации при сбоях, ложных тревогах или неверной оценке намерений.

Обсуждение подобных шагов развивается на фоне ускоряющегося внедрения ИИ в военную сферу и опасений, что автономные решения в условиях кризиса могут оставить политическому руководству слишком мало времени для предотвращения неконтролируемого развития событий.