Cisco Project Quarry bertanya apa yang dilakukan ejen sepanjang seluruh tugas

Pembantu membaca fail. Kemudian ia menghantar permintaan web. Setiap tindakan boleh dibenarkan, berguna dan sepenuhnya biasa. Soalan keselamatannya ialah sama ada tindakan kedua membawa maklumat daripada tindakan pertama ke tempat yang tidak patut menerimanya.

Cisco memperkenalkan Project Quarry pada 28 Oktober 2026 sebagai bahasa pengesanan dan enjin sumber terbuka untuk tingkah laku ejen. Daripada menyemak mesej terasing sahaja, ia membolehkan pasukan menerangkan pola merentas mesej, panggilan alat, hasil dan urutan peristiwa. Penemuan merangkumi bukti yang membantu menerangkan aktiviti yang sepadan dengan peraturan. Artikel pelancaran Cisco

Bagi pasukan yang membawa ejen ke kerja sokongan, pengaturcaraan atau operasi, itu tambahan nyata kepada kelengkapan keselamatan. Panduan ini menerangkan sumbangan Quarry, cara bermula dengan contoh setempat dan sebab mengesan urutan berbahaya hanya satu bahagian kawalannya. Rangka kerja awam kini dalam peringkat alfa, jadi rintis turut patut mengambil kira perubahan peraturan sebelum versi 1.0.0. README Project Quarry, disemak pada 2 November 2026

Tembok api Cisco ASA 5510 pada 2010; perkakasan keselamatan rangkaian bersejarah. Quarry ialah perisian tingkah laku ejen, bukan peranti ini. Foto: Jon 'ShakataGaNai' Davis, CC BY-SA 3.0; saiz diubah dan margin ditambah. Sumber imej · Lesen dan nota imej. Rujukan produk rasmi.

Urutan boleh menjelaskan perkara yang tidak dijelaskan peristiwa tunggal

Bayangkan ejen sokongan dalaman yang boleh membaca pangkalan pengetahuan dan membuka isu luaran. Kedua-dua keupayaan mempunyai tujuan sah. Sekarang bayangkan halaman tidak dipercayai menyuruhnya melampirkan fail diagnostik dalaman kepada isu awam tidak berkaitan. Peraturan yang hanya mencari frasa “abaikan arahan sebelumnya” mungkin terlepas arahan lebih tidak langsung. Peraturan yang hanya melihat alat muat naik dibenarkan mungkin terlepas sebab argumennya tidak sesuai.

Urutan membekalkan konteks. Apa dibaca ejen? Arahan manakah mendahului muat naik? Data apa muncul dalam argumen? Adakah destinasi itu sebahagian tugas pengguna? Soalan ini sering lebih mudah disiasat apabila jejak berstruktur kekal utuh.

Cisco membingkai Quarry sebagai gabungan semakan tepat dengan pertimbangan model pilihan. Semakan tepat boleh menyatakan nama alat, medan, rentetan dan urutan; semakan disokong model boleh menangani soalan yang memerlukan tafsiran. Produk hos kemudian menentukan tindakan yang dicetuskan penemuan, seperti amaran atau tindakan disekat. Penjelasan Cisco, 28 Oktober 2026

Pandangan kami: peraturan baik ialah soalan tentang tingkah laku yang boleh diuji semula. Sepatutnya boleh ditunjukkan peristiwa sepadan dan dibincangkan sama ada peraturan menyatakan dasar dimaksudkan. Itu lebih berguna daripada amaran merah yang satu-satunya penjelasan ialah model tidak menyukai perbualan.

Urutan mencurigakan ilustrasi: Quarry menilai jejak dan mengembalikan bukti; aplikasi pengintegrasi bertanggungjawab terhadap respons.

Quarry melengkapi kebenaran akses dan semakan kandungan

Kebenaran akses menjawab sama ada pelaku tertentu boleh melakukan tindakan tertentu pada sumber. Pengelas kandungan bertanya sama ada sebahagian input atau output mempunyai sifat berkaitan. Pengesanan peringkat jejak bertanya hubungan beberapa peristiwa. Soalan itu bertindih, tetapi tiada satu pun menjadi tidak diperlukan kerana yang lain mempunyai demonstrasi meyakinkan.

Cisco merujuk Snort, YARA dan Sigma sebagai pendahulu bahasa pengesanan boleh dibaca dan dikongsi dalam analisis rangkaian, perisian hasad dan log. Quarry bertujuan membawa gaya peraturan boleh diperiksa itu kepada aktiviti ejen. Rasional pelancaran Cisco Analogi itu membantu sebagai matlamat reka bentuk; ia tidak menjadikan projek alfa muda sematang ekosistem mantap tersebut.

Pertimbangkan semula contoh fail dan muat naik. Kebenaran akses kukuh boleh menghentikan akses kepada fail terlarang sebelum peraturan tingkah laku diperlukan. Semakan kandungan boleh mengenal pasti arahan mencurigakan dalam hasil alat. Peraturan urutan boleh menghubungkan pembacaan dibenarkan dengan pemindahan tidak sesuai. Bersama-sama, ia menangani lebih banyak laluan daripada satu semakan sahaja.

Amaran memerlukan bukti mencukupi untuk manusia bertindak

Faedah penemuan berasaskan jejak ialah ia boleh menyokong langkah seterusnya yang khusus. Penyemak perlu mengetahui peristiwa penting, medan yang sepadan dan konteks sekeliling yang mengubah tafsiran. Matlamatnya ialah kes boleh dijelaskan, bukannya senarai skor risiko tanpa penjelasan yang semakin panjang.

Untuk aliran kerja sokongan ilustrasi, penemuan berguna boleh menghubungkan hasil dokumen dalaman dengan penghantaran berikutnya ke destinasi tidak diluluskan. Penganalisis kemudian boleh bertanya sama ada tindakan diminta membenarkan pemindahan itu, sama ada destinasi milik pelanggan dan sama ada muatan benar-benar mengandungi maklumat dilindungi. Peraturan luas yang menandakan setiap pembacaan fail diikuti setiap permintaan rangkaian akan menenggelamkan kes menarik.

Ketepatan bergantung pada perbendaharaan kata aplikasi. “Luaran” mungkin bermakna di luar organisasi, di luar penyewa diluluskan atau sekadar di luar satu perkhidmatan. “Sensitif” mungkin merujuk dokumen berlabel, medan sumber atau hasil pengelasan. Takrifkan istilah itu dalam integrasi sebelum menulis peraturan yang bergantung padanya.

Bukti sendiri turut memerlukan perlindungan. Jejak mungkin mengandungi kandungan fail atau cebisan kelayakan akses yang menjadikan peristiwa berisiko. Amaran berguna kepada penganalisis keselamatan mungkin tidak sesuai untuk halaman ralat awam. Rancang akses dan penyuntingan keluar maklumat sensitif bersama peraturan, bukannya menambahnya selepas insiden pertama.

Tiga aliran kerja menjadikan rintis pertama nyata

Penggunaan ilustrasi pertama ialah semakan retrospektif sesi ejen sokongan. Mulakan dengan set data kecil yang dibenarkan, mengandungi aktiviti sokongan biasa serta contoh sintetik pemindahan tidak sesuai. Jalankan peraturan sama pada kedua-duanya. Rintis baik menunjukkan pasukan boleh menjelaskan padanan serta sebab kerja sah tidak menghasilkan penemuan.

Penggunaan kedua ialah pengendalian syarat berhenti oleh ejen. Katakan tugas membenarkan tiga percubaan dan mewajibkan eskalasi selepasnya. Jejak boleh menunjukkan sama ada ejen berhenti, meneruskan atau menukar alat untuk mengejar tindakan sama secara tidak langsung. Ini soalan dasar berguna walaupun kandungan setiap mesej individu tidak berbahaya.

Yang ketiga ialah respons insiden. Apabila pasukan mempelajari pola tingkah laku baharu yang relevan, ia boleh bertanya sama ada jejak terdahulu disimpan turut mengandungi pola itu. Nilainya ialah pencarian lebih pantas dan konsisten merentas sejarah yang dibenarkan organisasi simpan. Kualiti jawapan tetap bergantung pada sama ada jejak terdahulu merekodkan medan dan urutan diperlukan peraturan.

Senario ini patut bermula dalam mod pemerhatian. Penemuan retrospektif mendedahkan positif palsu tanpa mengganggu pengguna dan membantu menganggarkan beban siasatan. Peraturan yang kelihatan meyakinkan pada satu jejak sintetik mungkin terlalu luas merentas aktiviti harian. Peningkatan kepada campur tangan langsung patut mengikuti pembelajaran itu, dengan pemilik respons jelas.

Mulakan dengan contoh setempat repositori

Repositori awam menggunakan lesen Apache 2.0 dan menyediakan antara muka Python serta baris perintah. README kini menyenaraikan Python 3.11 hingga 3.13 dan mula pantas berasaskan uv. Konfigurasi contoh memilih 14 peraturan setempat; empat contoh semantik menggunakan pengganti deterministik berasaskan kata kunci yang secara jelas dimaksudkan untuk demonstrasi dan ujian, bukannya keputusan pengeluaran. README Project Quarry

Prosedur berikut mengikuti laluan persediaan diterbitkan itu. Ia titik permulaan penilaian pembaca sendiri, bukannya dakwaan bahawa penerapan atau imbasan langsung dilakukan untuk artikel ini.

1. Gunakan folder penilaian terasing. Sahkan julat Python didokumentasikan dan pasang uv melalui proses alat biasa organisasi. Pisahkan penilaian daripada jejak pengeluaran dan kelayakan akses.

2. Dapatkan dan sediakan projek. Klon repositori rasmi, masuk ke foldernya dan segerakkan persekitaran berpinkan:

   BashJalankan dalam Terminal

   git clone https://github.com/cisco-ai-defense/project-quarry.git
   cd project-quarry
   uv sync --frozen
   

3. Jalankan contoh setempat tidak berbahaya. Gunakan konfigurasi dibekalkan sebelum menambah pembekal atau menghantar data perbualan sebenar:

   BashJalankan dalam Terminal

   uv run --frozen quarry scan --config examples/config.yaml --target examples/data/benign.json
   

4. Periksa contoh sepadan. Ubah sasaran kepada examples/data/tool_calls.json, kemudian periksa peraturan dan bukti bersama. Padanan patut difahami daripada peristiwa, bukannya diterima kerana arahan mencetak amaran.

5. Tambah satu pasangan ujian khusus aplikasi. Cipta jejak sintetik melanggar dasar dan jejak sah yang hampir sepadan dengan perbendaharaan alat sama. Nyatakan hasil dijangka sebelum melaraskan peraturan.

6. Catat revisi dan pengendalian hasil. Konvensyen CLI didokumentasikan ialah 0 untuk imbasan lengkap tanpa penemuan, 1 untuk padanan lengkap dan 2 untuk imbasan tidak sah atau tidak lengkap. Kekalkan perbezaan itu dalam sebarang pembalut.

Perbezaan kod keluar mempunyai kesan praktikal. Imbasan yang kehabisan sumber atau menerima input tidak sah tidak boleh dikira sebagai imbasan tanpa penemuan. Pemantauan patut menjadikan penilaian tidak lengkap jelas supaya pasukan mengetahui jurang liputan.

Peraturan disokong model memperkenalkan batas data lain

Sesetengah dasar memerlukan tafsiran yang tidak dapat diberikan padanan tepat. Model mungkin membantu menilai sama ada hasil alat cuba mengalihkan ejen atau tindakan diminta di luar tugas. Menambah pertimbangan itu turut menambah kependaman, kos, tingkah laku pembekal dan satu lagi sumber ralat yang mungkin.

Dokumentasi inferens model Quarry menyatakan operasi model boleh menghantar mesej terpilih, definisi alat dan teks dasar ke titik akhir dikonfigurasi. Ia menasihatkan semakan tempoh simpanan, pengelogan, pengangkutan dan kelayakan akses pembekal. Dokumentasi turut menerangkan had masa imbasan dan belanjawan panggilan model, dengan penyesuai dijangka mematuhi pembatalan serta tamat masa. Dokumentasi inferens model Quarry, disemak pada 2 November 2026

Ini menjadikan laluan data keputusan reka bentuk. Pasukan boleh bermula dengan semakan setempat, kemudian mendayakan peraturan disokong model hanya apabila faedah mewajarkan pemprosesan tambahan. Sebelum menggunakan jejak sensitif, tentukan medan tepat yang melintasi batas dan pihak yang boleh meluluskan konfigurasi. Semakan keselamatan tidak patut menjadi laluan tidak dijangka untuk mengeksport data yang dimaksudkan untuk dilindunginya secara senyap.

Pengganti kata kunci berguna untuk contoh boleh diramal kerana menghasilkan hasil berulang tanpa pembekal langsung. Ia tidak boleh menunjukkan ketepatan pengesan semantik pengeluaran. Nilai model sebenar dikonfigurasi terhadap kes berlabel dan berkaitan, termasuk mesej biasa yang menyerupai mesej berisiko. Positif palsu dan pengesanan terlepas perlu dalam semakan sama.

Integrasi pengeluaran mesti bertanggungjawab terhadap kes tidak lengkap

Panduan integrasi mengarahkan aplikasi menyediakan dan mengesahkan peraturan dipilih sebelum menerima trafik. Ia memisahkan input dasar dan penyesuai dipercayai daripada perbualan tidak dipercayai, serta mewajibkan status imbasan muktamad sebelum bertindak berdasarkan padanan. Panduan integrasi Quarry, disemak pada 2 November 2026

Kontrak itu paling penting apabila sesuatu gagal. Perbualan cacat, tamat masa, model tidak tersedia atau peraturan tidak sah patut mengikuti dasar aplikasi jelas. Bergantung pada operasi, dasar itu mungkin menjeda tindakan berimpak besar, meminta semakan atau melaporkan pemerhatian tidak lengkap. Menganggap setiap ralat sebagai “tiada penemuan” mencipta jurang senyap.

Padanan lengkap, hasil lengkap tanpa penemuan dan penilaian tidak lengkap mempunyai makna berbeza. Hos mesti menentukan kesan setiap satunya terhadap aliran kerja pengguna.

Perubahan versi memerlukan kejelasan sama. Amaran alfa bermakna perubahan sintaks masa depan mungkin memerlukan kemas kini peraturan. Pinkan revisi untuk penilaian, simpan jejak mewakili penggunaan dan jalankannya semula sebelum menerima kemas kini. Ini memberi pasukan cara membezakan dasar berubah daripada enjin berubah.

Pengumuman Cisco membincangkan penerapan dalam kerja AI Defense yang lebih luas, tetapi kematangan enjin awam patut dinilai berdasarkan keadaan didokumentasikannya sendiri. Integrasi dirancang ialah kerja masa depan. Produk pengeluaran yang menggunakan komponen tidak secara automatik menyediakan integrasi pengeluaran disokong untuk aplikasi setiap pembaca.

Keselamatan ejen memerlukan soalan yang boleh dirujuk semula

Idea terkuat Quarry ialah menjelaskan kebimbangan tingkah laku sehingga boleh diuji semula. Pasukan boleh menyimpan peraturan, versinya, aktiviti sepadan dan sebab mengubahnya. Ini menjadikan semakan dasar lebih nyata daripada perdebatan sama ada ejen secara umum kelihatan selamat.

Oleh itu, soalan rintis seterusnya praktikal: bolehkah penyemak memahami sebab sesi sah lulus, sebab sesi melanggar dasar sepadan dan perkara yang berlaku apabila penilaian tidak dapat selesai? Jika jawapannya jelas, pasukan mempunyai asas untuk menentukan tempat pengesanan patut mempengaruhi tindakan.

Sumber

• Cisco: memperkenalkan Project Quarry, 28 Oktober 2026.
• README Project Quarry, disemak pada 2 November 2026.
• Panduan integrasi aplikasi Quarry, disemak pada 2 November 2026.
• Panduan inferens model Quarry, disemak pada 2 November 2026. Senario bersifat ilustrasi dan tiada pemasangan atau imbasan jejak pengeluaran didakwa di sini.

---

Kekalkan hubungan peraturan dengan buktinya

Telli.sh ialah satu pilihan untuk menyimpan bahan sumber yang dibenarkan, nota penilaian dan keputusan di sebalik perubahan kejuruteraan. Cipta ruang kerja nota.