Автономные «армии ботов»: кампании с ИИ связывают с Ираном и Китаем, в фокусе — также израильская компания

В США предупредили о резком росте рисков в сфере онлайн-манипуляций после появления данных о том, что структуры, связанные с Ираном и Китаем, используют полностью автономные кампании на базе искусственного интеллекта для влияния на дискуссии в социальных сетях.

Речь идет о «бот-армиях», в которых ИИ-агенты действуют самостоятельно и в больших масштабах, создавая и продвигая сообщения без постоянного ручного управления. По имеющейся информации, подобные кампании были выявлены не только у государственных и аффилированных групп из Ирана и Китая, но и в случаях, связанных с Израилем.

В частности, в центре внимания оказалась компания из Тель-Авива, которой приписывают использование ИИ-агентов для захвата и управления примерно тысячей аккаунтов. Эти аккаунты, как утверждается, вмешивались в онлайн-обсуждения, связанные с выборами в Израиле.

Отдельно отмечается, что для подобных операций могут использоваться доступные решения и инструменты с открытым исходным кодом, что снижает порог входа для запуска масштабных кампаний влияния в интернете.