Cisco Project Quarry menanyakan tindakan agen sepanjang keseluruhan tugas

Asisten membaca sebuah berkas. Kemudian, ia mengirim permintaan web. Setiap tindakan dapat diizinkan, berguna, dan sepenuhnya biasa. Pertanyaan keamanannya adalah apakah tindakan kedua membawa informasi dari tindakan pertama ke tempat yang sama sekali tidak semestinya.

Cisco memperkenalkan Project Quarry pada 28 Oktober 2026 sebagai bahasa deteksi dan mesin sumber terbuka untuk perilaku agen. Alih-alih hanya memeriksa pesan terpisah, Quarry memungkinkan tim mendeskripsikan pola lintas pesan, panggilan alat, hasil, dan urutan peristiwa. Temuan mencakup bukti yang membantu menjelaskan aktivitas mana yang cocok dengan aturan. Artikel peluncuran Cisco

Bagi tim yang membawa agen ke pekerjaan dukungan, pemrograman, atau operasi, ini tambahan konkret dalam perangkat keamanan. Panduan ini menjelaskan kontribusi Quarry, cara memulai dengan contoh lokal, dan mengapa mendeteksi urutan berbahaya hanyalah satu bagian dari pengendaliannya. Kerangka publik saat ini berstatus alfa, sehingga uji coba juga perlu memperhitungkan perubahan aturan sebelum versi 1.0.0. README Project Quarry, diperiksa pada 2 November 2026

Firewall Cisco ASA 5510 pada 2010; perangkat keras keamanan jaringan historis. Quarry adalah perangkat lunak perilaku agen, bukan perangkat ini. Foto: Jon 'ShakataGaNai' Davis, CC BY-SA 3.0; ukurannya diubah dengan tambahan margin. Sumber gambar · Lisensi dan catatan gambar. Referensi produk resmi.

Urutan dapat menjelaskan hal yang tidak dijelaskan satu peristiwa

Bayangkan agen dukungan internal yang dapat membaca basis pengetahuan dan membuka isu eksternal. Kedua kemampuan memiliki tujuan yang sah. Sekarang bayangkan halaman yang tidak tepercaya memerintahkannya melampirkan berkas diagnostik internal ke isu publik yang tidak terkait. Aturan yang hanya mencari frasa “abaikan instruksi sebelumnya” mungkin melewatkan instruksi yang lebih tidak langsung. Aturan yang hanya melihat alat unggah yang diizinkan mungkin melewatkan alasan argumennya tidak sesuai.

Urutan menyediakan konteks. Apa yang dibaca agen? Instruksi mana yang mendahului unggahan? Data apa yang muncul dalam argumen? Apakah tujuan tersebut bagian dari tugas pengguna? Pertanyaan ini sering lebih mudah diselidiki jika jejak terstruktur tetap tersimpan utuh.

Cisco membingkai Quarry sebagai gabungan pemeriksaan persis dan penilaian model opsional. Pemeriksaan persis dapat menyatakan nama alat, kolom, string, dan urutan; pemeriksaan berbantuan model dapat menangani pertanyaan yang memerlukan penafsiran. Produk host kemudian menentukan pemicu dari temuan, seperti peringatan atau tindakan yang diblokir. Penjelasan Cisco, 28 Oktober 2026

Menurut kami, aturan yang baik adalah pertanyaan tentang perilaku yang dapat dijalankan ulang. Orang harus dapat menunjuk peristiwa yang cocok dan membahas apakah aturan menyatakan kebijakan yang dimaksud. Itu lebih berguna daripada peringatan merah yang satu-satunya penjelasan adalah model tidak menyukai percakapan tersebut.

Contoh urutan mencurigakan: Quarry mengevaluasi jejak dan mengembalikan bukti; aplikasi yang mengintegrasikannya bertanggung jawab atas respons.

Quarry melengkapi otorisasi dan pemeriksaan konten

Otorisasi menjawab apakah pelaku tertentu boleh melakukan tindakan tertentu pada sumber daya. Pengklasifikasi konten menanyakan apakah suatu masukan atau keluaran memiliki sifat yang relevan. Deteksi pada tingkat jejak menanyakan hubungan antara beberapa peristiwa. Pertanyaan tersebut tumpang tindih, tetapi tidak ada yang menjadi tidak perlu hanya karena pemeriksaan lain memiliki demo meyakinkan.

Cisco menyebut Snort, YARA, dan Sigma sebagai pendahulu bahasa deteksi yang mudah dibaca dan dibagikan untuk analisis jaringan, malware, dan log. Quarry bertujuan membawa gaya aturan yang dapat diperiksa itu ke aktivitas agen. Alasan peluncuran Cisco Analogi ini membantu sebagai tujuan desain; analogi itu tidak membuat proyek alfa yang masih muda sematang ekosistem mapan tersebut.

Pertimbangkan lagi contoh berkas dan unggahan. Otorisasi yang kuat dapat menghentikan akses ke berkas terlarang sebelum aturan perilaku diperlukan. Pemeriksaan konten dapat mengidentifikasi instruksi mencurigakan dalam hasil alat. Aturan urutan dapat menghubungkan pembacaan yang diizinkan dengan transfer yang tidak sesuai. Bersama-sama, semuanya menangani lebih banyak bagian jalur daripada satu pemeriksaan saja.

Peringatan memerlukan bukti yang cukup agar manusia dapat bertindak

Manfaat temuan berbasis jejak adalah dukungannya terhadap langkah berikutnya yang spesifik. Peninjau perlu mengetahui peristiwa mana yang penting, kolom mana yang cocok, dan konteks sekitar apa yang mengubah penafsiran. Tujuannya adalah kasus yang dapat dijelaskan, bukan daftar skor risiko tanpa penjelasan yang terus bertambah.

Dalam contoh alur kerja dukungan, temuan yang berguna dapat menghubungkan hasil dokumen internal dengan pengiriman berikutnya ke tujuan yang tidak disetujui. Analis kemudian dapat menanyakan apakah tindakan yang diminta mengizinkan transfer tersebut, apakah tujuan milik pelanggan, dan apakah muatan benar-benar memuat informasi terlindungi. Aturan luas yang menandai setiap pembacaan berkas yang diikuti setiap permintaan jaringan akan menenggelamkan kasus yang menarik.

Ketepatan bergantung pada kosakata aplikasi. “Eksternal” dapat berarti di luar organisasi, di luar tenant yang disetujui, atau sekadar di luar satu layanan. “Sensitif” dapat merujuk pada dokumen berlabel, kolom sumber, atau hasil klasifikasi. Definisikan istilah itu dalam integrasi sebelum menulis aturan yang bergantung padanya.

Bukti itu sendiri juga memerlukan perlindungan. Jejak dapat memuat tepat isi berkas atau potongan kredensial yang membuat peristiwa berisiko. Peringatan yang berguna bagi analis keamanan mungkin tidak pantas ditampilkan pada halaman kesalahan publik. Rencanakan akses dan penyamaran data bersama aturan, bukan menambahkannya setelah insiden pertama.

Tiga alur kerja membuat uji coba pertama konkret

Contoh penggunaan pertama adalah peninjauan retrospektif sesi agen dukungan. Mulailah dengan kumpulan data kecil yang diizinkan, memuat aktivitas dukungan normal dan contoh sintetis transfer yang tidak sesuai. Jalankan aturan yang sama pada keduanya. Uji coba yang baik memperlihatkan bahwa tim dapat menjelaskan kecocokan dan juga menjelaskan mengapa pekerjaan sah tetap bersih.

Penggunaan kedua adalah penanganan kondisi berhenti oleh agen. Misalkan tugas mengizinkan tiga percobaan dan mewajibkan eskalasi sesudahnya. Jejak dapat memperlihatkan apakah agen berhenti, melanjutkan, atau mengganti alat untuk mengejar tindakan yang sama secara tidak langsung. Ini pertanyaan kebijakan yang berguna meskipun isi setiap pesan secara individual tidak berbahaya.

Penggunaan ketiga adalah respons insiden. Setelah tim mempelajari pola perilaku yang baru relevan, tim dapat menanyakan apakah jejak lama yang disimpan juga memuat pola itu. Nilainya adalah pencarian yang lebih cepat dan konsisten di seluruh riwayat yang berhak disimpan organisasi. Kualitas jawaban tetap bergantung pada apakah jejak lama merekam kolom dan urutan yang diperlukan aturan.

Skenario ini seharusnya dimulai dalam mode pengamatan. Temuan retrospektif mengungkap positif palsu tanpa mengganggu pengguna dan membantu memperkirakan beban penyelidikan. Aturan yang tampak meyakinkan pada satu jejak sintetis mungkin terlalu luas untuk aktivitas sehari-hari. Peningkatan menjadi intervensi langsung perlu mengikuti pembelajaran itu, dengan penanggung jawab respons yang jelas.

Mulailah dengan contoh lokal repositori

Repositori publik menggunakan lisensi Apache 2.0 dan menyediakan antarmuka Python serta baris perintah. README saat ini mencantumkan Python 3.11 hingga 3.13 dan panduan awal berbasis uv. Konfigurasi contoh memilih 14 aturan lokal; empat contoh semantik memakai stub kata kunci deterministik yang secara eksplisit ditujukan untuk demonstrasi dan pengujian, bukan keputusan produksi. README Project Quarry

Prosedur berikut mengikuti jalur penyiapan yang dipublikasikan tersebut. Ini titik awal evaluasi pembaca sendiri, bukan klaim bahwa penerapan atau pemindaian langsung dilakukan untuk artikel ini.

1. Gunakan folder evaluasi terisolasi. Pastikan rentang Python yang didokumentasikan dan pasang uv melalui proses alat yang biasa digunakan organisasi. Pisahkan evaluasi dari jejak dan kredensial produksi.

2. Ambil dan siapkan proyek. Kloning repositori resmi, masuk ke foldernya, dan sinkronkan lingkungan dengan versi yang dikunci:

   BashJalankan di Terminal

   git clone https://github.com/cisco-ai-defense/project-quarry.git
   cd project-quarry
   uv sync --frozen
   

3. Jalankan contoh lokal yang aman. Gunakan konfigurasi yang disediakan sebelum menambahkan penyedia atau mengirim data percakapan nyata:

   BashJalankan di Terminal

   uv run --frozen quarry scan --config examples/config.yaml --target examples/data/benign.json
   

4. Periksa contoh yang cocok. Ubah target menjadi examples/data/tool_calls.json, lalu periksa aturan dan bukti bersama-sama. Kecocokan perlu dapat dipahami dari peristiwanya, bukan diterima karena perintah mencetak peringatan.

5. Tambahkan satu pasangan pengujian khusus aplikasi. Buat jejak pelanggaran sintetis dan jejak sah yang hampir cocok dengan kosakata alat yang sama. Nyatakan hasil yang diharapkan sebelum menyesuaikan aturan.

6. Catat revisi dan penanganan hasil. Konvensi CLI yang didokumentasikan adalah 0 untuk pemindaian bersih yang lengkap, 1 untuk kecocokan yang lengkap, dan 2 untuk pemindaian tidak valid atau tidak lengkap. Pertahankan perbedaan tersebut dalam setiap lapisan integrasi.

Perbedaan kode keluar memiliki konsekuensi praktis. Pemindaian yang kehabisan sumber daya atau menerima masukan tidak valid tidak dapat dihitung sebagai pemindaian bersih. Pemantauan perlu membuat evaluasi tidak lengkap terlihat agar tim mengetahui apakah ada celah cakupan.

Aturan berbantuan model memperkenalkan batas data lain

Sebagian kebijakan membutuhkan penafsiran yang tidak dapat diberikan pencocokan persis. Model dapat membantu menilai apakah hasil alat mencoba mengalihkan agen atau apakah tindakan yang diminta berada di luar tugas. Penambahan penilaian itu juga menambah latensi, biaya, perilaku penyedia, dan kemungkinan sumber kesalahan lain.

Dokumentasi inferensi model Quarry menyatakan bahwa operasi model dapat mengirim pesan pilihan, definisi alat, dan teks kebijakan ke endpoint yang dikonfigurasi. Dokumentasi menyarankan peninjauan retensi, pencatatan, transportasi, dan kredensial penyedia. Dokumentasi juga menjelaskan tenggat pemindaian dan anggaran pemanggilan model, dengan adaptor diharapkan mematuhi pembatalan dan batas waktu. Dokumentasi inferensi model Quarry, diperiksa pada 2 November 2026

Dengan demikian, jalur data menjadi keputusan desain. Tim dapat memulai dengan pemeriksaan lokal, lalu mengaktifkan aturan berbantuan model hanya ketika manfaatnya membenarkan pemrosesan tambahan. Sebelum menggunakan jejak sensitif, tentukan dengan tepat kolom mana yang melewati batas itu dan siapa yang dapat menyetujui konfigurasi. Pemeriksaan keamanan tidak boleh diam-diam menjadi jalur tak terduga untuk mengekspor data yang hendak dilindunginya.

Stub kata kunci berguna untuk contoh yang dapat diprediksi karena menghasilkan keluaran berulang tanpa penyedia langsung. Stub tidak dapat menunjukkan ketepatan detektor semantik produksi. Evaluasi model yang benar-benar dikonfigurasi terhadap kasus relevan berlabel, termasuk pesan biasa yang menyerupai pesan berisiko. Positif palsu dan deteksi yang terlewat harus masuk peninjauan yang sama.

Integrasi produksi harus bertanggung jawab atas kasus tidak lengkap

Panduan integrasi menginstruksikan aplikasi untuk menyiapkan dan memvalidasi aturan pilihan sebelum menerima lalu lintas. Panduan memisahkan masukan kebijakan dan adaptor yang tepercaya dari percakapan tidak tepercaya, serta mewajibkan status pemindaian otoritatif sebelum bertindak berdasarkan kecocokan. Panduan integrasi Quarry, diperiksa pada 2 November 2026

Kontrak itu paling penting ketika sesuatu gagal. Percakapan dengan format salah, batas waktu tercapai, model tidak tersedia, atau aturan tidak valid harus mengikuti kebijakan aplikasi yang jelas. Tergantung operasinya, kebijakan itu dapat menjeda tindakan yang berdampak, meminta peninjauan, atau melaporkan bahwa pengamatan tidak lengkap. Menganggap setiap kesalahan sebagai “tidak ada temuan” menciptakan celah tersembunyi.

Kecocokan lengkap, hasil bersih lengkap, dan evaluasi tidak lengkap memiliki arti berbeda. Host harus menentukan pengaruh masing-masing terhadap alur kerja pengguna.

Perubahan versi memerlukan kejelasan yang sama. Peringatan alfa berarti perubahan sintaks mendatang dapat mengharuskan pembaruan aturan. Kunci revisi untuk evaluasi, simpan jejak yang mewakili, dan jalankan ulang sebelum mengadopsi pembaruan. Dengan begitu, tim dapat membedakan perubahan kebijakan dari perubahan mesin.

Pengumuman Cisco membahas penerapan dalam pekerjaan AI Defense yang lebih luas, tetapi kematangan mesin publik perlu dinilai berdasarkan keadaan yang didokumentasikannya sendiri. Integrasi yang direncanakan adalah pekerjaan mendatang. Produk produksi yang menggunakan suatu komponen tidak otomatis menyediakan integrasi produksi yang didukung untuk aplikasi setiap pembaca.

Keamanan agen memerlukan pertanyaan yang dapat ditinjau kembali

Ide terkuat Quarry adalah membuat kekhawatiran perilaku cukup jelas untuk dijalankan lagi. Tim dapat menyimpan aturan, versinya, aktivitas yang cocok, dan alasan perubahannya. Ini membuat peninjauan kebijakan lebih konkret daripada perdebatan apakah agen secara umum tampak aman.

Karena itu, pertanyaan uji coba berikutnya praktis: dapatkah peninjau memahami mengapa sesi sah lolos, mengapa sesi pelanggaran cocok, dan apa yang terjadi ketika evaluasi tidak dapat selesai? Jika jawabannya jelas, tim memiliki dasar untuk menentukan kapan deteksi perlu memengaruhi tindakan.

Sumber

• Cisco: memperkenalkan Project Quarry, 28 Oktober 2026.
• README Project Quarry, diperiksa pada 2 November 2026.
• Panduan integrasi aplikasi Quarry, diperiksa pada 2 November 2026.
• Panduan inferensi model Quarry, diperiksa pada 2 November 2026. Skenario bersifat ilustratif, dan tidak ada klaim pemasangan atau pemindaian jejak produksi di sini.

---

Hubungkan aturan dengan buktinya

Telli.sh adalah salah satu pilihan untuk menyimpan materi sumber yang diizinkan, catatan evaluasi, dan keputusan di balik perubahan rekayasa. Buat ruang kerja catatan.