9 мин чтения
Разрешено против наблюдаемого: дрейф как ключевое обнаружение
Дрейф между тем, что агент ИИ имеет право делать, и тем, что он наблюдается при выполнении, становится структурированным.
- least-privilege
- drift
- access-map
- observability
Машинный перевод. Авторитетным источником является английская версия; проверка носителем языка ещё не выполнена.
Тема
Материалы о least-privilege в блоге Olivares AI: локальное управление, безопасность и эксплуатация корпоративных AI-агентов.
Дрейф между тем, что агент ИИ имеет право делать, и тем, что он наблюдается при выполнении, становится структурированным.
Карта доступа сопоставляет разрешённые и наблюдаемые действия AI-агента, показывая разрыв и нарушения принципа наименьших привилегий.
AI-агенты накапливают доступы быстрее, чем кто-либо успевает их проверять.
Два способа увидеть ваших AI-агентов: встроенный прокси с большим радиусом поражения или пассивное обнаружение на основе логов.