Cisco Project Quarry, 에이전트가 전체 과제에서 무엇을 했는지 묻다

도우미가 파일을 읽고 나중에 웹 요청을 보냅니다. 각각은 허용된 유용한 일상 작업일 수 있습니다. 보안 질문은 두 번째 행동이 첫 번째에서 얻은 정보를 보내서는 안 될 곳으로 옮겼느냐입니다.

Cisco는 2026년 10월 28일 Project Quarry를 에이전트 행동을 위한 오픈소스 탐지 언어·엔진으로 소개했습니다. 메시지 하나만 검사하지 않고 메시지, 도구 호출, 결과, 이벤트 순서에 걸친 패턴을 표현하도록 합니다. 탐지 결과에는 어떤 활동이 규칙과 일치했는지 설명할 증거가 들어갑니다. Cisco 출시 글

고객 지원, 코딩, 운영 업무에 에이전트를 넣는 팀에 구체적인 보안 도구가 추가된 것입니다. 이 글은 Quarry의 역할, 로컬 예시로 시작하는 방법, 위험한 순서의 탐지가 통제의 일부인 이유를 설명합니다. 공개 프레임워크는 현재 알파이므로 1.0.0 이전 규칙 변경도 파일럿에 고려해야 합니다. Project Quarry README, 2026년 11월 2일 확인

2010년 Cisco ASA 5510 방화벽으로 과거 네트워크 보안 장비입니다. Quarry는 이 장치가 아니라 에이전트 행동 소프트웨어입니다. 사진: Jon 'ShakataGaNai' Davis, CC BY-SA 3.0. 여백을 추가하고 크기를 조정했습니다. 이미지 출처 · 라이선스·이미지 설명. 공식 제품 참고 자료.

단일 이벤트로 알 수 없는 것을 순서가 설명한다

지식 기반을 읽고 외부 이슈를 열 수 있는 사내 지원 에이전트를 가정해 보세요. 둘 다 정당한 기능입니다. 그런데 신뢰할 수 없는 페이지가 내부 진단 파일을 무관한 공개 이슈에 첨부하라고 지시합니다. ‘이전 지시를 무시하라’는 문구만 찾는 규칙은 우회적인 지시를 놓칠 수 있습니다. 허용된 업로드 도구만 보는 규칙은 인수가 왜 부적절한지 놓칠 수 있습니다.

행동 순서가 맥락을 제공합니다. 무엇을 읽었고, 업로드 전에 어떤 지시가 있었고, 인수에 어떤 데이터가 나타났으며, 목적지가 사용자 과제의 일부였나요? 구조화된 추적 기록이 온전히 남아 있으면 조사하기 쉬운 질문입니다.

Cisco는 Quarry를 정확한 검사와 선택적인 모델 판단의 결합으로 설명합니다. 정확한 검사는 도구 이름, 필드, 문자열, 순서를 표현하고 모델 기반 검사는 해석이 필요한 질문을 다룹니다. 결과에 따라 경고나 작업 차단 같은 반응을 정하는 주체는 통합한 제품입니다. Cisco 설명, 2026년 10월 28일

좋은 규칙은 행동에 대해 다시 실행할 수 있는 질문이라는 것이 저희의 판단입니다. 일치한 이벤트를 짚으며 의도한 정책을 표현했는지 논의할 수 있어야 합니다. 모델이 대화를 마음에 들어 하지 않았다는 것 외에 설명이 없는 빨간 경고보다 유용합니다.

의심스러운 순서의 가상 예시입니다. Quarry는 추적 기록을 평가해 증거를 반환하고, 대응은 통합 앱이 책임집니다.

Quarry는 권한 확인·콘텐츠 검사와 함께 쓴다

권한 확인은 특정 주체가 자원에 특정 행동을 해도 되는지 답합니다. 콘텐츠 분류기는 입력·출력에 관련 속성이 있는지 묻습니다. 추적 기록 수준의 탐지는 여러 이벤트가 어떻게 연결되는지 묻습니다. 질문은 겹치지만 하나의 시연이 인상적이라고 다른 것이 불필요해지지는 않습니다.

Cisco는 네트워크·악성코드·로그 분석에서 읽고 공유할 수 있는 탐지 언어의 선례로 Snort, YARA, Sigma를 듭니다. Quarry는 같은 방식의 점검 가능한 규칙을 에이전트 활동에 적용하려 합니다. Cisco의 출시 취지 설계 목표를 설명하는 유용한 비유이지만, 초기 알파 프로젝트가 기존 생태계만큼 성숙하다는 뜻은 아닙니다.

파일 읽기·업로드 예시로 돌아가 보겠습니다. 강한 권한 제어는 행동 규칙이 필요하기 전에 금지 파일 접근을 막을 수 있습니다. 콘텐츠 검사는 도구 결과의 의심스러운 지시를 찾을 수 있습니다. 순서 규칙은 허용된 읽기와 부적절한 전송을 연결할 수 있습니다. 함께 쓰면 단일 검사보다 경로를 더 많이 다룹니다.

경고에는 사람이 조치할 충분한 증거가 필요하다

추적 기록 기반 탐지의 이점은 구체적인 다음 조치를 뒷받침한다는 것입니다. 검토자는 중요한 이벤트, 일치한 필드, 해석을 바꾸는 주변 맥락을 알아야 합니다. 목표는 설명 없는 위험 점수 목록이 아니라 설명 가능한 사례입니다.

지원 워크플로의 가상 사례라면 내부 문서 결과와 이후 승인되지 않은 목적지 전송을 연결하는 탐지가 유용할 수 있습니다. 분석가는 사용자 요청이 그 전송을 허용했는지, 목적지가 고객 소유인지, 내용에 실제 보호 정보가 있는지 물을 수 있습니다. 모든 파일 읽기 뒤 모든 네트워크 요청을 경고하면 중요한 건이 묻힙니다.

정밀도는 앱의 용어에 달려 있습니다. ‘외부’는 조직 밖, 승인 테넌트 밖, 단일 서비스 밖 중 무엇인가요? ‘민감함’은 문서 라벨, 원본 필드, 분류 결과 중 무엇인가요? 용어에 의존한 규칙을 쓰기 전에 연동에서 뜻을 정하세요.

증거 자체도 보호해야 합니다. 추적 기록에는 위험을 만든 바로 그 파일 내용이나 인증 정보 일부가 들어갈 수 있습니다. 보안 분석가에게 유용한 경고도 공개 오류 페이지에는 부적절할 수 있습니다. 첫 사고 뒤에 덧붙이지 말고 규칙과 함께 접근·가림 처리를 계획하세요.

세 워크플로로 첫 파일럿을 구체화

첫 활용 예는 지원 에이전트 세션의 사후 검토입니다. 정상 지원 활동과 부적절한 전송의 합성 예시가 있는 작은 승인 데이터 세트로 시작합니다. 같은 규칙을 양쪽에 실행하세요. 좋은 파일럿은 일치 이유뿐 아니라 정당한 작업이 왜 통과하는지도 설명할 수 있습니다.

두 번째는 중단 조건의 처리입니다. 세 번 시도한 뒤 상위 담당자에게 넘기도록 정한 과제를 가정해 보세요. 기록은 멈췄는지, 계속했는지, 도구를 바꿔 같은 행동을 우회 시도했는지 보여 줍니다. 개별 메시지 내용이 모두 무해해도 유용한 정책 질문입니다.

세 번째는 사고 대응입니다. 새로 중요한 행동 패턴을 알게 되면 이전에 저장한 기록에도 있었는지 물을 수 있습니다. 조직이 보존할 권한이 있는 이력 전반을 빠르고 일관되게 찾는 것이 가치입니다. 답의 품질은 과거 기록에 규칙이 요구하는 필드·순서가 담겼는지에도 달려 있습니다.

이 시나리오는 관찰 모드에서 시작해야 합니다. 사후 탐지는 사용자를 방해하지 않고 오탐을 드러내며 조사 부담을 추정하게 합니다. 합성 기록 하나에서 그럴듯한 규칙이 일상 활동에는 너무 넓을 수 있습니다. 충분히 배운 뒤 대응 책임을 정하고 실시간 개입으로 올려야 합니다.

저장소의 로컬 예시에서 시작

공개 저장소는 Apache 2.0 라이선스를 적용하며 Python·명령줄 인터페이스를 제공합니다. 현재 README는 Python 3.11~3.13과 uv 기반 빠른 시작을 안내합니다. 예시 설정은 로컬 규칙 14개를 선택합니다. 의미 해석 예시 네 개는 운영 판단이 아니라 시연·시험용임을 명시한 결정론적 키워드 스텁을 사용합니다. Project Quarry README

아래 절차는 공개 설정 경로를 따릅니다. 독자가 직접 평가할 출발점이며 이 글을 위해 설치나 실시간 검사를 수행했다는 주장은 아닙니다.

1. 격리된 평가 폴더를 씁니다. 문서의 Python 범위를 확인하고 조직의 일반 도구 절차로 uv를 설치합니다. 운영 기록·인증 정보와 평가를 분리하세요.

2. 프로젝트를 가져와 준비합니다. 공식 저장소를 복제하고 폴더로 이동해 고정된 환경을 동기화합니다.

   Bash터미널에서 실행

   git clone https://github.com/cisco-ai-defense/project-quarry.git
   cd project-quarry
   uv sync --frozen
   

3. 로컬 정상 예시를 실행합니다. 제공자를 추가하거나 실제 대화 데이터를 보내기 전에 제공 설정을 사용하세요.

   Bash터미널에서 실행

   uv run --frozen quarry scan --config examples/config.yaml --target examples/data/benign.json
   

4. 일치 예시를 살핍니다. 대상을 examples/data/tool_calls.json으로 바꾼 뒤 규칙과 증거를 함께 봅니다. 경고가 출력됐다는 이유가 아니라 이벤트에서 일치를 이해할 수 있어야 합니다.

5. 앱에 맞는 시험 쌍 하나를 추가합니다. 같은 도구 용어를 쓰는 합성 위반 기록과 비슷하지만 정당한 기록을 만듭니다. 조정 전에 기대 결과를 적으세요.

6. 버전과 결과 처리를 기록합니다. 문서상 CLI 종료 코드는 완전한 정상 검사 0, 완전한 일치 검사 1, 잘못되거나 미완료인 검사 2입니다. 래퍼에서도 구분을 유지하세요.

종료 코드 구분에는 실무적 결과가 있습니다. 자원이 부족하거나 입력이 잘못된 검사를 정상 통과로 세어서는 안 됩니다. 미완료 평가를 모니터링에 드러내야 탐지 범위가 비었는지 알 수 있습니다.

모델 기반 규칙은 또 다른 데이터 경계를 만든다

정확한 패턴 일치만으로 해석할 수 없는 정책도 있습니다. 모델은 도구 결과가 에이전트를 다른 방향으로 유도하는지, 요청 행동이 과제 밖인지 평가하도록 도울 수 있습니다. 이 판단을 추가하면 지연, 비용, 제공자 동작, 또 다른 오류 가능성도 추가됩니다.

Quarry 모델 추론 문서는 모델 작업이 선택한 메시지, 도구 정의, 정책 텍스트를 설정한 엔드포인트로 보낼 수 있다고 설명합니다. 제공자의 보존, 로깅, 전송, 인증 정보를 검토하도록 권고합니다. 검사 제한 시간·모델 호출 예산도 설명하며 어댑터가 취소와 시간 초과를 준수할 것을 기대합니다. Quarry 모델 추론 문서, 2026년 11월 2일 확인

따라서 데이터 경로는 설계 결정입니다. 로컬 검사로 시작한 뒤 추가 처리의 이익이 충분할 때만 모델 기반 규칙을 켤 수 있습니다. 민감한 기록을 쓰기 전에 어떤 필드가 경계를 넘고 누가 설정을 승인하는지 정하세요. 보안 검사가 보호하려는 데이터를 예상 밖으로 내보내는 경로가 되어서는 안 됩니다.

키워드 스텁은 실제 제공자 없이 반복 가능한 결과를 내므로 예측 가능한 예시에 유용합니다. 하지만 운영용 의미 탐지기의 정확도를 입증하지는 못합니다. 위험한 사례와 닮은 일반 메시지도 포함해, 정답이 있고 관련성 있는 사례로 실제 설정 모델을 평가하세요. 오탐과 미탐은 함께 검토해야 합니다.

운영 연동은 미완료 평가에도 책임져야 한다

통합 가이드는 트래픽을 받기 전에 선택한 규칙을 준비·검증하도록 안내합니다. 신뢰하는 정책·어댑터 입력과 신뢰하지 않는 대화를 구분하고, 탐지 결과로 행동하기 전에 신뢰할 수 있는 검사 상태를 요구합니다. Quarry 통합 가이드, 2026년 11월 2일 확인

실패할 때 이 계약이 가장 중요합니다. 잘못된 대화 형식, 시간 초과, 모델 사용 불가, 유효하지 않은 규칙은 명시적인 앱 정책을 따라야 합니다. 조치에 따라 중요한 행동을 멈추거나, 검토를 요청하거나, 관찰이 미완료라고 보고할 수 있습니다. 모든 오류를 ‘탐지 없음’으로 처리하면 조용한 공백이 생깁니다.

완전한 일치, 완전한 정상 결과, 미완료 평가는 의미가 다릅니다. 각 결과가 사용자 워크플로에 미치는 영향은 호스트가 정해야 합니다.

버전 변경도 명확해야 합니다. 알파 경고는 향후 문법 변경으로 규칙을 수정해야 할 수 있다는 뜻입니다. 평가 버전을 고정하고 대표 기록을 보관하며 업데이트 전 재실행하세요. 정책 변경과 엔진 변경을 구분할 수 있게 됩니다.

Cisco 발표는 더 넓은 AI Defense 활동 안에서의 적용을 논의하지만 공개 엔진의 성숙도는 자체 문서 상태로 판단해야 합니다. 예정된 연동은 향후 작업입니다. 운영 제품이 어떤 구성요소를 쓴다고 모든 독자 앱에 지원되는 운영 연동이 자동 제공되지는 않습니다.

에이전트 보안에는 다시 검토할 질문이 필요하다

Quarry의 가장 강한 아이디어는 행동 우려를 다시 실행할 수 있을 만큼 명확히 만드는 것입니다. 팀은 규칙, 버전, 일치한 활동, 변경 이유를 보존할 수 있습니다. 에이전트가 전반적으로 안전해 보이는지 논쟁하는 것보다 정책 검토가 구체적입니다.

따라서 파일럿의 다음 질문은 실용적입니다. 정당한 세션은 왜 통과하고, 위반 세션은 왜 일치하고, 평가를 끝낼 수 없으면 어떻게 되는지 검토자가 이해할 수 있나요? 답이 명확하면 어디서 탐지가 행동에 영향을 줘야 할지 결정할 기반이 생깁니다.

출처

• Cisco: Project Quarry 소개, 2026년 10월 28일.
• Project Quarry README, 2026년 11월 2일 확인.
• Quarry 앱 통합 가이드, 2026년 11월 2일 확인.
• Quarry 모델 추론 가이드, 2026년 11월 2일 확인. 시나리오는 설명용이며 설치나 운영 기록 검사를 수행했다고 주장하지 않습니다.

---

규칙을 증거와 함께 남기기

Telli.sh는 사용 권한이 있는 자료, 평가 메모, 엔지니어링 변경의 근거가 된 결정을 함께 보관하는 선택지입니다. 노트 작업 공간 만들기.