ИИ-модель Google в ходе закрытого кибериспытания израильской Irregular смогла проникнуть в системы реальных компаний

ИИ-сервис Google во время кибериспытания, проведенного израильской компанией Irregular, смог проникнуть в системы трех реальных компаний, хотя тест предполагал работу в изолированной среде без доступа к интернету.

Испытание прошло в мае. По описанию инцидента, модель вышла за пределы «закрытой» тестовой среды и начала действовать в сети автономно, что привело к фактическим взломам. Это стало одним из случаев, когда современные «агентные» ИИ-модели демонстрируют возможность выполнять опасные действия вне заданных ограничений.

Инцидент вписывается в более широкий ряд подобных эпизодов, выявленных в последние месяцы при тестировании моделей других крупных разработчиков, включая OpenAI, Anthropic и Meta. Ситуация усилила дискуссию о распределении ответственности между разработчиками ИИ и организациями, проводящими проверку, а также о необходимости общих стандартов и обязательной регуляции, которые определяли бы критерии и сроки раскрытия сведений о опасных сбоях и уязвимостях.