Cisco Project Quarry спрашивает, что агент сделал за всю задачу

Ассистент читает файл. Позже он отправляет веб-запрос. Каждое действие может быть разрешенным, полезным и совершенно обычным. Вопрос безопасности — не перенесло ли второе действие информацию из первого туда, куда она никогда не должна была попасть.

Cisco представила Project Quarry 28 октября 2026 года как язык обнаружения и движок с открытым исходным кодом для поведения агентов. Вместо проверки только отдельного сообщения он позволяет командам описывать шаблоны сообщений, вызовов инструментов, результатов и порядка событий. Обнаружение включает доказательства, помогающие объяснить, какая активность совпала с правилом. Статья Cisco о запуске

Для команд, внедряющих агентов в поддержку, программирование или операционную работу, это конкретное дополнение к инструментам безопасности. Мы объясняем вклад Quarry, начало работы с локальными примерами и причины, по которым обнаружение опасной последовательности — лишь часть контроля над ней. Публичная платформа сейчас находится в стадии alpha, поэтому пилот должен учитывать изменения правил до версии 1.0.0. README Project Quarry, проверено 2 ноября 2026 года

Межсетевой экран Cisco ASA 5510 в 2010 году: историческое оборудование сетевой безопасности. Quarry — программа анализа поведения агентов, а не это устройство. Фото: Jon 'ShakataGaNai' Davis, CC BY-SA 3.0; размер изменен, добавлены поля. Источник изображения · Лицензия и сведения об изображении. Официальная страница продукта.

Последовательность объясняет то, чего не объясняет отдельное событие

Представьте внутреннего агента поддержки, который умеет читать базу знаний и открывать внешние обращения. Обе возможности служат законным целям. Теперь представьте, что недоверенная страница велит приложить внутренний диагностический файл к постороннему публичному обращению. Правило, ищущее только фразу «игнорируй предыдущие инструкции», может пропустить более косвенную инструкцию. Правило, смотрящее только на разрешенный инструмент загрузки, может не заметить неуместность его аргументов.

Последовательность дает контекст. Что агент прочитал? Какая инструкция предшествовала загрузке? Какие данные появились в аргументах? Было ли назначение частью задачи пользователя? Эти вопросы часто проще исследовать, если структурированная трасса сохранилась целиком.

Cisco описывает Quarry как сочетание точных проверок с необязательными суждениями модели. Точные проверки выражают имена инструментов, поля, строки и порядок; модельные проверки отвечают на вопросы, требующие интерпретации. Затем продукт, в который встроен движок, решает, к чему приведет обнаружение: например, к оповещению или блокировке действия. Объяснение Cisco от 28 октября 2026 года

Наша оценка: хорошее правило — повторно выполняемый вопрос о поведении. Должна быть возможность указать совпавшие события и обсудить, выразило ли правило нужную политику. Это полезнее красного предупреждения, единственное объяснение которого — модели не понравился разговор.

Пример подозрительной последовательности: Quarry оценивает трассу и возвращает доказательства; за реакцию отвечает интегрирующее приложение.

Quarry нужен рядом с авторизацией и проверками содержимого

Авторизация отвечает, может ли конкретный участник совершить определенное действие с ресурсом. Классификатор содержимого спрашивает, имеет ли вход или выход нужное свойство. Обнаружение на уровне трассы спрашивает, как связаны несколько событий. Вопросы пересекаются, но убедительная демонстрация одного не делает остальные ненужными.

Cisco приводит Snort, YARA и Sigma как прецеденты читаемых, распространяемых языков обнаружения для сетей, вредоносных программ и логов. Quarry стремится перенести такой подход проверяемых правил на активность агентов. Обоснование запуска Cisco Аналогия полезна как цель проектирования; она не делает молодой альфа-проект столь же зрелым, как эти сложившиеся экосистемы.

Вернемся к примеру файла и загрузки. Сильная авторизация может остановить доступ к запрещенному файлу до того, как понадобится правило поведения. Проверка содержимого способна выявить подозрительную инструкцию в результате инструмента. Правило последовательности может связать разрешенное чтение с неуместной передачей. Вместе они покрывают больше пути, чем любая отдельная проверка.

Оповещению нужны достаточные доказательства для действия человека

Преимущество обнаружения по трассе — возможность поддержать конкретный следующий шаг. Проверяющему нужно знать, какие события важны, какое поле совпало и какой окружающий контекст меняет интерпретацию. Цель — объяснимое дело, а не растущий список необъясненных оценок риска.

В примерном процессе поддержки полезное обнаружение может связать результат внутреннего документа с последующей отправкой в неодобренное назначение. Аналитик затем спрашивает, разрешала ли задача эту передачу, принадлежит ли назначение клиенту и действительно ли полезная нагрузка содержит защищенную информацию. Широкое правило, отмечающее каждое чтение файла перед любым сетевым запросом, похоронит интересные случаи.

Точность зависит от словаря приложения. «Внешний» может означать за пределами организации, одобренного клиента или всего лишь одного сервиса. «Конфиденциальный» может относиться к помеченному документу, исходному полю или результату классификации. Определите термины в интеграции до написания зависящего от них правила.

Сами доказательства тоже нуждаются в защите. Трасса может содержать именно то содержимое файла или фрагмент учетных данных, из-за которых событие было рискованным. Оповещение, полезное аналитику безопасности, может быть неуместным на публичной странице ошибки. Планируйте доступ и скрытие данных вместе с правилом, а не после первого инцидента.

Три процесса делают первый пилот конкретным

Первый пример — ретроспективная проверка сеансов агента поддержки. Начните с небольшого разрешенного набора данных, содержащего нормальную работу и синтетический пример неуместной передачи. Примените одинаковые правила к обоим. Хороший пилот показывает, что команда может объяснить совпадение и отсутствие срабатывания на законной работе.

Второй — соблюдение агентом условия остановки. Допустим, задача разрешает три попытки и затем требует эскалации. Трасса показывает, остановился ли агент, продолжил ли или сменил инструменты для косвенного выполнения того же действия. Это полезный вопрос политики, даже если содержимое каждого отдельного сообщения безобидно.

Третий — реагирование на инциденты. Узнав новый значимый шаблон поведения, команда может спросить, встречался ли он в сохраненных ранее трассах. Ценность — более быстрый и последовательный поиск в истории, которую организация вправе хранить. Качество ответа все равно зависит от наличия в старой трассе полей и порядка, требуемых правилом.

Эти сценарии должны начинаться в режиме наблюдения. Ретроспективные обнаружения выявляют ложные срабатывания без прерывания пользователей и помогают оценить нагрузку расследований. Правило, убедительное на одной синтетической трассе, может быть слишком широким для повседневной активности. Переход к вмешательству в реальном времени должен следовать этим выводам и иметь явно назначенного владельца реакции.

Начните с локальных примеров репозитория

Публичный репозиторий распространяется по лицензии Apache 2.0 и предоставляет интерфейсы Python и командной строки. README сейчас указывает Python от 3.11 до 3.13 и быстрый старт на основе uv. Пример конфигурации выбирает 14 локальных правил; четыре семантических примера используют детерминированные заглушки по ключевым словам, прямо предназначенные для демонстраций и тестов, а не производственных решений. README Project Quarry

Следующая процедура следует опубликованному пути настройки. Это отправная точка для собственной оценки читателя, а не заявление о развертывании или живом сканировании для этой статьи.

1. Используйте изолированную папку оценки. Подтвердите документированный диапазон Python и установите uv обычным для организации способом. Отделите оценку от производственных трасс и учетных данных.

2. Получите и подготовьте проект. Клонируйте официальный репозиторий, перейдите в его папку и синхронизируйте закрепленную среду:

   BashЗапустите в: Терминал

   git clone https://github.com/cisco-ai-defense/project-quarry.git
   cd project-quarry
   uv sync --frozen
   

3. Запустите локальный безопасный пример. Используйте приложенную конфигурацию до добавления провайдера или отправки реальных разговоров:

   BashЗапустите в: Терминал

   uv run --frozen quarry scan --config examples/config.yaml --target examples/data/benign.json
   

4. Изучите пример с совпадением. Измените цель на examples/data/tool_calls.json, затем рассмотрите правило вместе с доказательствами. Совпадение должно быть понятно из событий, а не приниматься потому, что команда напечатала предупреждение.

5. Добавьте одну пару тестов вашего приложения. Создайте синтетическую нарушающую трассу и похожую законную трассу с тем же словарем инструментов. Установите ожидаемый результат до корректировки правила.

6. Запишите версию и обработку результатов. Документированное соглашение CLI: 0 — полное чистое сканирование, 1 — полное совпадение, 2 — некорректное или неполное сканирование. Сохраняйте эти различия в любой обертке.

Различие кодов выхода имеет практические последствия. Сканирование, исчерпавшее ресурсы или получившее некорректный вход, нельзя считать чистым. Мониторинг должен показывать неполные оценки, чтобы команда знала о пробеле покрытия.

Правила с моделью добавляют еще одну границу данных

Некоторым политикам нужна интерпретация, недоступная точному сопоставлению. Модель может помочь оценить, пытается ли результат инструмента перенаправить агента или выходит ли запрошенное действие за задачу. Такое суждение добавляет задержку, затраты, поведение провайдера и еще один возможный источник ошибки.

Документация инференса Quarry говорит, что модельная операция может отправлять выбранные сообщения, определения инструментов и текст политики настроенной конечной точке. Она рекомендует проверить хранение, журналирование, транспорт и учетные данные провайдера. Документация также описывает предельные сроки сканирования и бюджеты вызовов модели; адаптеры должны соблюдать отмену и тайм-ауты. Документация инференса Quarry, проверено 2 ноября 2026 года

Поэтому путь данных — проектное решение. Команда может начать с локальных проверок и включать правило с моделью лишь тогда, когда выгода оправдывает дополнительную обработку. До использования конфиденциальных трасс определите точные поля, пересекающие границу, и уполномоченного одобрить конфигурацию. Проверка безопасности не должна незаметно становиться неожиданным каналом экспорта защищаемых данных.

Заглушки по ключевым словам полезны для предсказуемых примеров: они дают повторяемый результат без живого провайдера. Но они не демонстрируют точность производственного семантического детектора. Оцените фактически настроенную модель на размеченных значимых случаях, включая обычные сообщения, похожие на рискованные. Ложные срабатывания и пропущенные обнаружения должны входить в одну проверку.

Производственная интеграция должна отвечать за неполный случай

Руководство интеграции требует подготовить и проверить выбранные правила до приема трафика. Оно отделяет доверенные входы политики и адаптеров от недоверенных разговоров и требует достоверного статуса сканирования перед действиями по совпадениям. Руководство интеграции Quarry, проверено 2 ноября 2026 года

Этот контракт особенно важен при сбое. Некорректный разговор, тайм-аут, недоступная модель или неправильное правило должны обрабатываться по явной политике приложения. В зависимости от операции она может приостановить значимое действие, запросить проверку или сообщить о неполном наблюдении. Приравнивание любой ошибки к «ничего не обнаружено» создает скрытый пробел.

Полное совпадение, полный чистый результат и неполная оценка имеют разный смысл. Хост должен решить, как каждый влияет на процесс пользователя.

Изменения версий требуют такой же ясности. Предупреждение alpha означает, что будущая смена синтаксиса может потребовать обновления правил. Закрепите версию для оценки, сохраните представительные трассы и повторно запускайте их перед принятием обновления. Это позволяет отличить изменение политики от изменения движка.

Объявление Cisco обсуждает развертывание в рамках более широкой работы AI Defense, но зрелость публичного движка нужно оценивать по его собственному документированному состоянию. Запланированные интеграции — будущая работа. Использование компонента производственным продуктом не предоставляет автоматически поддерживаемую производственную интеграцию каждому читательскому приложению.

Безопасности агентов нужен вопрос, к которому можно вернуться

Самая сильная идея Quarry — выразить поведенческий риск достаточно явно для повторного запуска. Команда может сохранить правило, версию, совпавшую активность и причину изменения. Это делает проверку политики конкретнее спора о том, кажется ли агент в целом безопасным.

Следующий вопрос пилота поэтому практичен: понимает ли проверяющий, почему законный сеанс прошел, почему нарушающий совпал и что происходит, если оценка не может завершиться? Если ответы ясны, у команды есть основа для решения, где обнаружение должно влиять на действие.

Источники

• Cisco: представление Project Quarry, 28 октября 2026 года.
• README Project Quarry, проверено 2 ноября 2026 года.
• Руководство интеграции приложений Quarry, проверено 2 ноября 2026 года.
• Руководство инференса моделей Quarry, проверено 2 ноября 2026 года. Сценарии иллюстративны; установка или сканирование производственных трасс здесь не заявляются.

---

Сохраняйте связь правила с доказательствами

Telli.sh — один из вариантов сохранения разрешенных исходных материалов, заметок оценки и решений, стоящих за инженерным изменением. Создайте рабочее пространство заметок.