Phân tích AI2 tháng 11, 2026Doc trong 14 phut

Cisco Project Quarry xem tác tử đã làm gì trong toàn bộ nhiệm vụ

Project Quarry kết nối tin nhắn, lệnh gọi công cụ và thứ tự sự kiện trong quy tắc phát hiện có thể kiểm tra. Hướng dẫn engine alpha, bằng chứng và ranh giới thực thi.

Ken Jo

#Cisco#Quarry#bảo mật tác tử#tác tử AI#mã nguồn mở

Trợ lý đọc một tệp. Sau đó, nó gửi một yêu cầu web. Mỗi hành động có thể được phép, hữu ích và hoàn toàn bình thường. Câu hỏi bảo mật là liệu hành động thứ hai có mang thông tin từ hành động thứ nhất đến nơi nó không bao giờ nên đến hay không.

Cisco giới thiệu Project Quarry ngày 28 tháng 10 năm 2026 như ngôn ngữ và engine phát hiện mã nguồn mở dành cho hành vi tác tử. Thay vì chỉ kiểm tra một tin nhắn riêng lẻ, nó cho phép nhóm mô tả mẫu trên nhiều tin nhắn, lệnh gọi công cụ, kết quả và thứ tự sự kiện. Phát hiện bao gồm bằng chứng giúp giải thích hoạt động nào đã khớp quy tắc. Bài ra mắt Cisco

Với nhóm đưa tác tử vào hỗ trợ, lập trình hoặc công việc vận hành, đây là bổ sung cụ thể cho bộ công cụ bảo mật. Bài viết giải thích Quarry có thể đóng góp gì, cách bắt đầu với ví dụ cục bộ và vì sao phát hiện chuỗi nguy hiểm chỉ là một phần của việc kiểm soát nó. Framework công khai hiện ở giai đoạn alpha, nên thử nghiệm cũng cần tính đến thay đổi quy tắc trước phiên bản 1.0.0. README Project Quarry, kiểm tra ngày 2 tháng 11 năm 2026

Firewall Cisco ASA 5510 năm 2010; phần cứng an ninh mạng trong lịch sử. Quarry là phần mềm hành vi tác tử, không phải thiết bị này. Ảnh: Jon 'ShakataGaNai' Davis, CC BY-SA 3.0; đã đổi kích thước và thêm lề. Nguồn ảnh · Giấy phép và ghi chú hình ảnh. Tài liệu sản phẩm chính thức.

Chuỗi sự kiện giải thích điều sự kiện đơn lẻ không thể

Hãy hình dung tác tử hỗ trợ nội bộ có thể đọc kho kiến thức và mở issue bên ngoài. Cả hai khả năng phục vụ mục đích hợp lệ. Giờ một trang không tin cậy bảo nó đính tệp chẩn đoán nội bộ vào issue công khai không liên quan. Quy tắc chỉ tìm cụm “bỏ qua chỉ dẫn trước” có thể bỏ lỡ chỉ dẫn gián tiếp hơn. Quy tắc chỉ nhìn công cụ tải lên được phép có thể bỏ lỡ lý do tham số của nó không phù hợp.

Chuỗi sự kiện cung cấp ngữ cảnh. Tác tử đã đọc gì? Chỉ dẫn nào xuất hiện trước thao tác tải lên? Dữ liệu nào có trong tham số? Đích đó có thuộc nhiệm vụ người dùng không? Những câu hỏi này thường dễ điều tra hơn khi dấu vết có cấu trúc được giữ nguyên vẹn.

Cisco trình bày Quarry là sự kết hợp kiểm tra chính xác với phán đoán mô hình tùy chọn. Kiểm tra chính xác có thể biểu đạt tên công cụ, trường, chuỗi ký tự và thứ tự; kiểm tra dùng mô hình có thể giải quyết câu hỏi cần diễn giải. Sản phẩm tích hợp sau đó quyết định phát hiện kích hoạt điều gì, như cảnh báo hoặc chặn hành động. Giải thích Cisco, ngày 28 tháng 10 năm 2026

Theo chúng tôi, quy tắc tốt là câu hỏi về hành vi có thể phát lại. Cần có thể chỉ vào những sự kiện khớp và thảo luận liệu quy tắc có biểu đạt chính sách dự định không. Điều đó hữu ích hơn một cảnh báo đỏ mà lời giải thích duy nhất là mô hình không thích cuộc trò chuyện.

Đọc tệp, gửi ngoài thành chuỗi quy tắc kiểm trước ứng dụng chủ chọn hành động Chuỗi đáng ngờ minh họa: Quarry đánh giá trace, trả bằng chứng; ứng dụng tích hợp phụ trách phản ứng.

Quarry cần đứng cạnh phân quyền và kiểm nội dung

Phân quyền trả lời một chủ thể cụ thể có được phép thực hiện hành động cụ thể trên tài nguyên hay không. Bộ phân loại nội dung hỏi một phần đầu vào hoặc đầu ra có thuộc tính liên quan không. Phát hiện trên toàn dấu vết hỏi nhiều sự kiện liên hệ với nhau thế nào. Các câu hỏi có giao nhau, nhưng không câu nào trở nên không cần thiết chỉ vì một cách khác có demo thuyết phục.

Cisco dẫn Snort, YARA và Sigma làm tiền lệ cho ngôn ngữ phát hiện dễ đọc, chia sẻ trong phân tích mạng, mã độc và log. Quarry muốn đưa kiểu quy tắc có thể kiểm tra ấy vào hoạt động tác tử. Lý do ra mắt Cisco So sánh này hữu ích như mục tiêu thiết kế; nó không khiến dự án alpha còn trẻ trưởng thành ngang các hệ sinh thái đã được xác lập.

Kiểm soát hoặc cách làm	Câu phù hợp trả lời	Trách nhiệm còn
Phân quyền chi tiết	Chủ thể được làm việc này ở đây không?	Định nghĩa, thực thi truy cập phép
Bộ phân loại nội dung	Tin này có thuộc tính đang kiểm không?	Diễn giải lỗi, nối ngữ cảnh
Quy tắc hành vi Quarry	Hoạt động cấu trúc có khớp mẫu định nghĩa không?	Chọn phản ứng, duy trì chính sách
Snort, YARA và Sigma	Diễn đạt phát hiện cho lĩnh vực đã lập thế nào?	Dùng kiểm soát hợp lĩnh vực

Hãy xét lại ví dụ đọc tệp rồi tải lên. Phân quyền mạnh có thể chặn truy cập tệp cấm trước khi quy tắc hành vi cần can thiệp. Kiểm tra nội dung có thể nhận diện chỉ dẫn đáng ngờ trong kết quả công cụ. Quy tắc chuỗi có thể kết nối việc đọc được phép với chuyển giao không phù hợp. Kết hợp lại, chúng giải quyết nhiều phần của đường đi hơn bất kỳ phép kiểm đơn lẻ nào.

Cảnh báo cần đủ bằng chứng để người hành động

Lợi ích của phát hiện dựa trên dấu vết là hỗ trợ bước tiếp theo cụ thể. Người đánh giá cần biết sự kiện nào quan trọng, trường nào khớp và ngữ cảnh xung quanh thay đổi cách diễn giải ra sao. Mục tiêu là hồ sơ có thể giải thích, thay vì danh sách điểm rủi ro không có lời giải ngày càng dài.

Trong quy trình hỗ trợ minh họa, phát hiện hữu ích có thể nối kết quả tài liệu nội bộ với lần gửi tiếp theo đến đích chưa được duyệt. Nhà phân tích có thể hỏi hành động được yêu cầu có cho phép chuyển giao đó không, đích có thuộc khách hàng không và nội dung gửi có thực sự chứa thông tin được bảo vệ không. Quy tắc rộng gắn cờ mọi lần đọc tệp theo sau bởi mọi yêu cầu mạng sẽ chôn vùi các trường hợp đáng chú ý.

Độ chính xác phụ thuộc từ vựng của ứng dụng. “Bên ngoài” có thể nghĩa là ngoài tổ chức, ngoài tenant đã duyệt hoặc đơn giản là ngoài một dịch vụ. “Nhạy cảm” có thể chỉ tài liệu gắn nhãn, trường nguồn hoặc kết quả phân loại. Hãy định nghĩa những thuật ngữ này trong tích hợp trước khi viết quy tắc dựa vào chúng.

Bản thân bằng chứng cũng cần được bảo vệ. Dấu vết có thể chứa chính nội dung tệp hoặc mảnh thông tin xác thực khiến sự kiện trở nên rủi ro. Cảnh báo hữu ích với nhà phân tích bảo mật có thể không phù hợp trên trang lỗi công khai. Lập kế hoạch quyền xem và che dữ liệu cùng với quy tắc, thay vì bổ sung sau sự cố đầu tiên.

Ba quy trình làm thử nghiệm đầu cụ thể

Ứng dụng minh họa đầu tiên là đánh giá hồi cứu các phiên tác tử hỗ trợ. Bắt đầu với tập dữ liệu nhỏ được phép sử dụng, gồm hoạt động hỗ trợ bình thường và ví dụ tổng hợp về chuyển giao không phù hợp. Chạy cùng quy tắc trên cả hai. Thử nghiệm tốt cho thấy nhóm giải thích được vì sao có khớp và vì sao công việc hợp lệ vẫn không bị gắn cờ.

Ứng dụng thứ hai là cách tác tử xử lý điều kiện dừng. Giả sử nhiệm vụ cho phép ba lần thử rồi yêu cầu chuyển cấp. Dấu vết có thể cho thấy tác tử đã dừng, tiếp tục hay đổi công cụ để theo đuổi cùng hành động gián tiếp. Đây là câu hỏi chính sách hữu ích ngay cả khi nội dung từng tin nhắn riêng lẻ đều vô hại.

Ứng dụng thứ ba là ứng phó sự cố. Sau khi biết một mẫu hành vi mới có liên quan, nhóm có thể hỏi các dấu vết đã lưu trước đó có chứa mẫu ấy không. Giá trị là tìm kiếm nhanh và nhất quán trên lịch sử tổ chức được phép giữ. Chất lượng câu trả lời vẫn phụ thuộc dấu vết cũ có ghi đủ trường và thứ tự mà quy tắc yêu cầu hay không.

Những tình huống này nên bắt đầu ở chế độ quan sát. Phát hiện hồi cứu làm lộ dương tính giả mà không ngắt người dùng, đồng thời giúp ước lượng gánh nặng điều tra. Quy tắc có vẻ thuyết phục trên một dấu vết tổng hợp có thể quá rộng trong hoạt động hằng ngày. Chuyển sang can thiệp trực tiếp nên theo sau quá trình học ấy, với phản ứng có chủ thể chịu trách nhiệm rõ ràng.

Bắt đầu từ ví dụ cục bộ của kho

Kho công khai dùng giấy phép Apache 2.0 và cung cấp giao diện Python lẫn dòng lệnh. README hiện liệt kê Python 3.11 đến 3.13 và hướng dẫn khởi động nhanh dựa trên uv. Cấu hình ví dụ chọn 14 quy tắc cục bộ; bốn ví dụ ngữ nghĩa dùng stub từ khóa xác định được nêu rõ dành cho demo và kiểm thử, thay vì quyết định sản xuất. README Project Quarry

Thủ tục dưới đây đi theo đường thiết lập đã công bố. Đây là điểm bắt đầu cho đánh giá riêng của người đọc, không phải tuyên bố rằng bài viết đã thực hiện triển khai hoặc quét trực tiếp.

Dùng thư mục đánh giá cách ly. Xác nhận dải Python, cài uv qua quy trình công cụ tổ chức. Tách thử khỏi trace sản xuất, thông tin xác thực.
Lấy và chuẩn bị dự án. Clone kho chính thức, vào thư mục, đồng bộ môi trường ghim:
BashChạy trong Terminal
```
git clone https://github.com/cisco-ai-defense/project-quarry.git
cd project-quarry
uv sync --frozen
```
Chạy ví dụ lành tính cục bộ. Dùng cấu hình cung cấp trước thêm nhà cung cấp hoặc gửi hội thoại thật:
BashChạy trong Terminal
```
uv run --frozen quarry scan --config examples/config.yaml --target examples/data/benign.json
```
Xem ví dụ khớp. Đổi đích sang examples/data/tool_calls.json, xem quy tắc cùng bằng chứng. Khớp cần hiểu từ sự kiện, không chấp nhận chỉ vì lệnh in cảnh báo.
Thêm cặp thử riêng ứng dụng. Tạo trace vi phạm tổng hợp và trace hợp lệ gần giống với cùng từ vựng công cụ. Nêu mong đợi trước chỉnh quy tắc.
Ghi bản và xử lý kết quả. Quy ước CLI là 0 cho quét hoàn chỉnh sạch, 1 hoàn chỉnh có khớp, 2 không hợp lệ hoặc chưa xong. Giữ phân biệt trong wrapper.

Sự phân biệt mã thoát có hậu quả thực tế. Lượt quét cạn tài nguyên hoặc nhận đầu vào không hợp lệ không thể được tính là quét sạch. Giám sát cần làm rõ những đánh giá chưa hoàn thành để nhóm biết mình có khoảng trống bao phủ hay không.

Quy tắc dùng mô hình thêm ranh giới dữ liệu

Một số chính sách cần diễn giải mà so khớp chính xác không cung cấp được. Mô hình có thể giúp đánh giá kết quả công cụ có đang cố chuyển hướng tác tử không hoặc hành động được yêu cầu có nằm ngoài nhiệm vụ không. Thêm phán đoán cũng thêm độ trễ, chi phí, hành vi nhà cung cấp và một nguồn sai sót có thể xảy ra khác.

Tài liệu suy luận mô hình của Quarry cho biết thao tác mô hình có thể gửi tin nhắn được chọn, định nghĩa công cụ và văn bản chính sách đến endpoint đã cấu hình. Tài liệu khuyên xem chính sách lưu giữ, ghi log, truyền tải và thông tin xác thực của nhà cung cấp. Nó cũng mô tả hạn chót quét và ngân sách gọi mô hình, với kỳ vọng adapter tuân thủ hủy và timeout. Tài liệu suy luận Quarry, kiểm tra ngày 2 tháng 11 năm 2026

Điều đó biến đường dữ liệu thành quyết định thiết kế. Nhóm có thể bắt đầu với kiểm tra cục bộ, rồi chỉ bật quy tắc dùng mô hình khi lợi ích đủ để biện minh cho xử lý bổ sung. Trước khi dùng dấu vết nhạy cảm, quyết định chính xác trường nào đi qua ranh giới và ai được duyệt cấu hình. Kiểm tra bảo mật không nên âm thầm thành đường xuất bất ngờ cho dữ liệu mà nó có nhiệm vụ bảo vệ.

Stub từ khóa hữu ích cho ví dụ có kết quả dự đoán được, vì chúng cho kết quả lặp lại mà không cần nhà cung cấp trực tiếp. Chúng không thể chứng minh độ chính xác của bộ phát hiện ngữ nghĩa sản xuất. Đánh giá mô hình thực đã cấu hình trên ca có nhãn phù hợp, gồm cả tin nhắn bình thường giống những ca rủi ro. Dương tính giả và phát hiện bị bỏ sót cần được xem cùng nhau.

Tích hợp sản xuất phải phụ trách ca chưa hoàn thành

Hướng dẫn tích hợp yêu cầu ứng dụng chuẩn bị và xác thực các quy tắc đã chọn trước khi nhận lưu lượng. Nó tách chính sách và đầu vào adapter tin cậy khỏi hội thoại không tin cậy, đồng thời yêu cầu trạng thái quét có thẩm quyền trước khi hành động theo kết quả khớp. Hướng dẫn tích hợp Quarry, kiểm tra ngày 2 tháng 11 năm 2026

Hợp đồng đó quan trọng nhất khi có lỗi. Hội thoại sai dạng, timeout, mô hình không sẵn sàng hoặc quy tắc không hợp lệ cần đi theo chính sách ứng dụng rõ ràng. Tùy thao tác, chính sách có thể tạm dừng hành động hệ trọng, yêu cầu đánh giá hoặc báo quan sát chưa hoàn thành. Coi mọi lỗi là “không phát hiện” tạo ra khoảng trống âm thầm.

Phát hiện trả kết quả rồi ứng dụng chọn cảnh báo, đánh giá hoặc thực thi Khớp hoàn chỉnh, sạch hoàn chỉnh và đánh giá dở có nghĩa khác. Ứng dụng chủ quyết mỗi loại ảnh hưởng quy trình người dùng thế nào.

Thay đổi phiên bản cũng cần rõ ràng như vậy. Cảnh báo alpha nghĩa là thay đổi cú pháp tương lai có thể đòi cập nhật quy tắc. Ghim một bản sửa đổi để đánh giá, giữ dấu vết đại diện và chạy lại trước khi áp dụng cập nhật. Nhờ vậy nhóm có thể phân biệt chính sách đã đổi với engine đã đổi.

Thông báo Cisco thảo luận triển khai trong công việc AI Defense rộng hơn, nhưng độ trưởng thành engine công khai cần được đánh giá theo trạng thái tài liệu riêng của nó. Tích hợp được lên kế hoạch là công việc tương lai. Một sản phẩm sản xuất sử dụng thành phần không tự động cung cấp tích hợp sản xuất được hỗ trợ cho ứng dụng của mọi người đọc.

Bảo mật tác tử cần câu hỏi có thể xem lại

Ý tưởng mạnh nhất của Quarry là làm mối quan ngại hành vi đủ cụ thể để chạy lại. Nhóm có thể giữ quy tắc, phiên bản, hoạt động nó khớp và lý do thay đổi. Điều này làm đánh giá chính sách cụ thể hơn cuộc tranh luận tác tử nhìn chung có vẻ an toàn hay không.

Vì vậy câu hỏi tiếp theo trong thử nghiệm rất thực tế: người đánh giá có hiểu vì sao phiên hợp lệ vượt qua, vì sao phiên vi phạm khớp và điều gì xảy ra khi đánh giá không thể hoàn thành không? Nếu câu trả lời rõ ràng, nhóm đã có nền tảng để quyết định ở đâu phát hiện nên tác động đến hành động.

Nguồn

Cisco: Giới thiệu Project Quarry, ngày 28 tháng 10 năm 2026.
README Project Quarry, kiểm tra ngày 2 tháng 11 năm 2026.
Hướng dẫn tích hợp ứng dụng Quarry, kiểm tra ngày 2 tháng 11 năm 2026.
Hướng dẫn suy luận mô hình Quarry, kiểm tra ngày 2 tháng 11 năm 2026. Tình huống minh họa; không tuyên bố cài hay quét trace sản xuất tại đây.

Giữ quy tắc gắn với bằng chứng

Telli.sh là một lựa chọn để lưu tài liệu nguồn được phép sử dụng, ghi chú đánh giá và quyết định làm cơ sở cho thay đổi kỹ thuật. Tạo không gian ghi chú.