Эксперты Сбера на конференции OFFZONE 2026 представили рекомендации по защите саморазвивающихся ИИ-агентов — систем, способных самостоятельно изменять память, навыки и код. Безопасность базовой модели не гарантирует защиту агента, поэтому специалисты предложили комплекс мер, сообщила Ferra.
В числе ключевых рекомендаций — изоляция агентов, разделение сред разработки и эксплуатации, вынесение защитных механизмов за пределы исполняемого кода. Также предлагается создать корпоративный реестр навыков с обязательной проверкой инструментов и запускать сгенерированный код в песочнице с ограничениями по времени, сети, процессору, памяти и файловой системе.
Дополнительно защита должна включать сбор телеметрии и метрик, а также блокировку аномалий в реальном времени. Обновлённая модель угроз Сбера описывает 37 угроз и 51 способ их реализации, включая риски GenAI, ИИ-агентов и мультиагентных систем.
Вопросы безопасности цифровых инструментов становятся всё более актуальными с развитием ИИ-технологий. Интернет-газета «ЖУК» сообщала, что квалифицированная электронная подпись давно приравнена к собственноручной, но многие компании до сих пор не знают, как защитить её от кражи.