[Buku Nota Idea AI 03] ColGrep-Agent: biar peninjau setempat mencari kod sebelum model besar membacanya

Buku Nota Idea AI meneroka idea dan kemungkinan penggunaan praktikal di sebalik model serta alat AI yang baru muncul.

Laporan pepijat menyatakan bahawa muat naik selesai terlalu awal. Repositori mengandungi ratusan fail, beberapa pengendali kemajuan dan beberapa medan keadaan dengan nama yang serupa. Sebelum pembantu AI boleh mencadangkan pembaikan, sebahagian besar gilirannya mungkin digunakan hanya untuk mencari kod yang bertanggungjawab terhadap penyelesaian.

ColGrep-Agent, yang diumumkan oleh LightOn pada 12 Oktober 2026, mengendalikan peringkat carian itu secara setempat. Ia meneroka repositori dan mengembalikan laluan fail, julat baris dan kod berkaitan kepada pembantu pengekodan utama. Ideanya ialah peninjau setempat: biarkan pakar lebih kecil mencari jejak sebelum meminta model lebih besar memikirkan pembaikan. Pengumuman LightOn

Pengenalan ini menerangkan komponennya, laluan praktikal untuk bermula dan perkara yang perlu diukur dalam perbandingan awal. Tarikannya ialah kos tambahan carian yang lebih rendah. Persoalannya ialah sama ada pengurangan itu kekal pada repositori, soalan dan perkakasan yang benar-benar anda gunakan.

Halaman model awam, dirakam pada 20 Oktober 2026. Ini ialah skrin kad model yang diterbitkan, bukannya bukti model telah dijalankan pada mesin kami.

Tiga nama menerangkan tiga bahagian aliran kerja

ColGrep ialah alat carian semantik. ColGrep-Agent-2B ialah nama model yang dikeluarkan. Arahan colgrep --agent menjalankan model dengan kerangka carian yang dibataskan; ia ialah gabungan yang berfungsi, bukannya keluarga model lain. Penerangan rasmi

Pemisahan itu berguna apabila memilih jumlah infrastruktur yang mahu ditambah. Pembangun mungkin mahukan carian semantik dalam terminal tanpa gelung ejen. Pasukan lain mungkin mahu pembantu pengekodan mengemukakan soalan kepada ejen setempat dan menerima pakej konteks yang lebih kecil serta terarah.

Sistem carian menggabungkan pertanyaan berasaskan makna dengan kekangan tepat seperti laluan atau corak. Pendekatan ini menyelesaikan masalah berbeza. Soalan bahasa semula jadi boleh mencari tingkah laku yang pengecamnya tidak dikenali, manakala carian tepat masih berharga untuk nama fungsi yang disalin daripada jejak tindanan.

Bagi pemula, output pentingnya mudah: senarai pendek tempat untuk diperiksa. Anda masih perlu memahami kod, menyemak kontrak di sekelilingnya dan menjalankan ujian berkaitan selepas mengubah tingkah laku. Lokasi yang berguna ialah input kepada pembaikan, bukan pembaikan itu sendiri.

Sebab gelung carian boleh menjadi mahal

Pembantu pengekodan sering mengikuti jujukan: mencari istilah, membuka fail, menemui pengecam lain, mengikuti rujukan dan mencari lagi. Setiap langkah boleh menambah konteks kepada panggilan model kemudian. Repositori yang mudah diterokai oleh penyelenggara masih boleh menjadi mahal untuk pembantu yang baru pertama kali menemuinya.

ColGrep-Agent memindahkan langkah penerokaan itu ke dalam gelung setempat. Pembantu utama mengemukakan soalan, peninjau mencari dan membaca fail calon, lalu konteks yang dikembalikan mengenal pasti lokasi yang dianggap berkaitan. Pembahagian itu berkaitan tanggungjawab penerokaan dan bukannya meminta model setempat menyelesaikan setiap tugas pengaturcaraan.

Bayangkan anda menyiasat sebab sesi rakaman tidak pulih selepas penyambungan semula. Carian luas untuk “reconnect” mungkin mengembalikan pembantu pengangkutan, pemberitahuan antara muka dan ujian lama. Hasil yang berguna perlu mengecilkan senarai itu kepada komponen pemilik sesi semasa serta fungsi yang mencipta semula sambungannya.

Inilah juga sebab jawapan lebih pendek tidak semestinya bermaksud carian lebih baik. Jika peninjau menggugurkan satu-satunya fail yang menerangkan penyimpanan akhir, pembantu utama mungkin menghasilkan pembaikan yang yakin tetapi tidak lengkap. Tujuannya ialah mengurangkan konteks tidak berkaitan sambil mengekalkan bukti yang diperlukan untuk tugas itu.

Rajah penerangan asal tentang pembahagian kerja yang didokumenkan. Soalan contoh dan lokasi yang dikembalikan ialah ilustrasi.

Hasil utama itu khusus kepada carian kod

LightOn melaporkan 34% lebih sedikit token API dan kos API 40% lebih rendah dengan mengambil kira cache berbanding grep dalam kajian 52 soalan carian kod merentas 13 repositori. Itu ialah ukuran penerbit untuk perbandingan tersebut. Angka itu tidak membuktikan pengurangan 40% dalam kos membina atau menyelenggara aplikasi. Penerangan kajian

Skop itu penting kerana kerja perisian mempunyai beberapa kos. Carian mungkin berkurang sedangkan penaakulan pelaksanaan tidak berubah. Pelaksanaan ujian mungkin mendominasi masa keseluruhan. Model yang menjimatkan token awan mungkin juga menggunakan CPU, GPU, memori dan masa pengindeksan setempat.

Fikirkan tiga soalan berasingan: adakah carian menemui kod yang betul, adakah tugas pengekodan diselesaikan dengan betul dan apakah sumber yang digunakan oleh keseluruhan tugas? Mengukur hanya soalan paling mudah membiarkan dua yang lain tidak terjawab. Pasukan sepatutnya memilih pertukaran yang sepadan dengan kerja mereka, bukannya menerima peratusan sebagai ramalan sejagat.

Prom berulang juga merumitkan perbandingan harga. Penyedia mungkin mengenakan harga berbeza untuk input dalam cache, input tanpa cache dan output yang dijana. Rekodkan semuanya secara berasingan apabila alat mendedahkan maklumat itu, dan gunakan senarai harga bertarikh hanya selepas anda mempunyai kiraan penggunaan.

Mulakan dengan repositori yang boleh anda periksa dengan yakin

Arahan permulaan rasmi menyediakan laluan pemasangan untuk macOS, Windows dan pembinaan daripada kod sumber. Mulakan dengan salinan bersih atau repositori yang keadaannya anda fahami, dan baca arahan keluaran sebelum menjalankan pemasang. Jangan bermula dengan memberikan ruang kerja pengeluaran yang belum diperiksa kepada alat yang tidak dikenali. Dokumentasi ColGrep

Bagi pembaca macOS yang menggunakan Homebrew, pengumuman LightOn menunjukkan:

brew install lightonai/tap/colgrep
colgrep --install-agent

Arahan kedua menyediakan model setempat dan bukannya melanggan anda kepada titik hujung inferens terhos. Keluaran itu menerangkan muat turun model terkuantisasi lalai sekitar 2.5 GB. Itu ialah maklumat saiz muat turun daripada dokumentasi, bukannya bajet memori atau cakera lengkap untuk setiap konfigurasi. Persediaan model

Pembaca Windows patut mengikuti laluan PowerShell semasa dalam repositori rasmi dan memeriksa pemasang sebelum pelaksanaan. Masa jalan dan laluan pecutan yang tersedia bergantung pada mesin. Jangan menganggap arahan yang berjaya pada Mac membuktikan persediaan, kelajuan atau penggunaan sumber yang setara pada Windows.

Gunakan jujukan awal ini supaya eksperimen kekal mudah difahami:

1. Rekodkan komit repositori dan keadaan pepohon kerja. Pilih soalan dengan kod berkaitan yang telah diketahui.
2. Pasang melalui laluan yang didokumenkan, kemudian semak colgrep --help dan panduan pengindeksan bagi versi yang dipasang.
3. Jalankan carian semantik biasa sebelum mengaktifkan integrasi ejen. Pastikan fail yang diabaikan dan direktori yang dikecualikan sepadan dengan jangkaan anda.
4. Cuba colgrep --agent menggunakan bentuk panggilan yang ditunjukkan oleh bantuan versi tersebut. Periksa setiap lokasi yang dikembalikan dalam repositori.
5. Hubungkannya kepada pembantu pengekodan yang disokong hanya selepas carian kendiri berguna. Kekalkan konfigurasi carian terdahulu untuk perbandingan.

Ini ialah langkah persediaan dan penilaian, bukannya laporan pemasangan yang dijalankan untuk artikel ini. Pengenalan sepatutnya membantu anda memilih latihan pertama tanpa mereka hasil yang bakal anda lihat.

Tanya tentang tingkah laku dan bukannya menetapkan fail

Soalan carian yang baik menerangkan peristiwa dan tingkah laku yang ingin dicari. “Di manakah muat naik yang telah diterima menjadi lengkap selepas pemprosesan latar belakangnya selesai?” lebih bermaklumat daripada “cari kod muat naik”. Ia memberikan kontrak untuk dicari oleh peninjau sambil memberi ruang untuk menemui pemilik sebenar.

Elakkan memasukkan pembaikan cadangan anda dalam soalan. Jika anda hanya meminta fungsi yang patut menetapkan bendera tertentu, carian mungkin mengikuti andaian anda dan terlepas komponen yang patut memiliki keadaan itu. Mulakan dengan pemerhatian pengguna, kemudian periksa pelaksanaan yang menerangkannya.

Tiga soalan latihan yang berguna meliputi corak penerokaan berbeza. Tanya tempat permintaan disahkan, tempat tugas latar belakang menyimpan hasil akhirnya dan tempat bahagian hadapan melanggan kemas kini status. Ini ialah tugas ilustrasi yang menggalakkan penjejakan tanggungjawab merentas fail dan bukannya memadankan satu pengecam.

Rentetan tepat masih mempunyai tempatnya. Jejak tindanan, laluan penghalaan atau kod ralat boleh menjadikan soalan lebih tepat. Gabungkan bukti itu dengan penerangan tingkah laku yang diperhatikan supaya carian tidak terpisah daripada aliran kerja yang gagal.

Nilai lokasi yang dikembalikan sebelum menilai prosa

Buka baris yang dicadangkan dan baca kod sekeliling yang mencukupi untuk memahami tanggungjawab fungsi. Nombor baris boleh tepat sedangkan cebisan kod mengelirukan kerana menggugurkan syarat perlindungan, pemanggil atau langkah penyimpanan akhir. Konteks sepatutnya mencukupi untuk menyemak dakwaan, bukan sekadar kelihatan munasabah.

Komit repositori penting di sini. Laluan dan julat baris yang berguna boleh menjadi lapuk selepas pemfaktoran semula. Kaitkan hasil carian dengan semakan versi yang sama semasa penilaian dan segarkan indeks mengikut aliran kerja yang didokumenkan apabila fail sumber berubah.

Untuk projek rintis carian kod, minta penyelenggara mengenal pasti fail yang dijangka sebelum melihat jawapan alat. Jika tidak, mudah untuk menerima lokasi yang kelihatan munasabah dan mentakrifkan semula kejayaan secara senyap. Letakkan soalan kabur dalam kumpulan berasingan dan bukannya berpura-pura bahawa setiap isu mempunyai tepat satu fail yang betul.

Bina perbandingan yang turut mengira kos setempat

Jalankan soalan yang sama melalui kaedah carian sedia ada dan kaedah baharu pada semakan repositori yang sama. Set permulaan kecil mungkin merangkumi sedozen soalan biasa dan beberapa soalan tanggungjawab yang lebih sukar. Ini ialah reka bentuk projek rintis yang dicadangkan, bukannya penanda aras rasmi atau jaminan keyakinan statistik.

Rekodkan sama ada setiap hasil merangkumi fail berkaitan yang diketahui, jumlah kod tidak berkaitan yang dikembalikan, penggunaan token awan dan masa yang berlalu. Rekodkan juga pembinaan indeks secara berasingan daripada carian berulang. Kos persediaan awal mungkin munasabah untuk repositori yang kerap digunakan tetapi kurang menarik untuk penerokaan sekali sahaja.

Lejar penilaian asal. Ruang ukuran yang kosong disengajakan: kumpulkan nilai anda sendiri sebelum memutuskan sama ada pertukaran itu berbaloi.

Jika anda turut membandingkan pembaikan pepijat lengkap, jadikannya eksperimen berasingan. Gunakan isu, petikan keadaan repositori, kriteria ujian dan konfigurasi model yang sama, kemudian semak tampalan yang terhasil. Alat yang menang dalam soalan carian mungkin berkelakuan berbeza apabila tugas memerlukan penerokaan, suntingan, tafsiran ujian dan beberapa pusingan pembetulan.

Ulang beberapa soalan dan bukannya mempercayai satu pelaksanaan yang bernasib baik. Penerokaan berasaskan ejen boleh memilih laluan berbeza antara percubaan. Kesimpulan yang berguna mungkin ialah penggunaan token lazim menurun sementara soalan sukar menjadi lebih perlahan, iaitu pertukaran sebenar yang tidak dapat diterangkan oleh satu angka agregat.

Perolehan semula setempat tidak menjadikan pembantu awan luar talian

LightOn menerangkan pengindeksan setempat dan inferens ejen setempat. Itu boleh mengekalkan peringkat carian pada mesin anda, tetapi pembantu pengekodan awan yang diintegrasikan masih mungkin menerima kod terpilih daripada peninjau. Nilai keseluruhan laluan daripada soalan kepada panggilan model akhir dan bukannya menyamakan “carian setempat” dengan “tiada kod meninggalkan komputer”. Penerangan seni bina

Pengecualian repositori wajar disemak dengan teliti. Folder terjana boleh menghasilkan hingar, manakala kelayakan dan eksport peribadi tidak patut menjadi bahan carian hanya kerana berada di bawah direktori projek. Gunakan tingkah laku abaikan yang didokumenkan oleh alat serta amalan repositori biasa organisasi anda.

Carian baca sahaja ialah sempadan berguna untuk peninjau, tetapi tidak meluluskan perubahan kemudian. Pembantu utama masih perlu menghormati arahan repositori, mengekalkan kerja semasa dan mengesahkan pembaikan yang terhasil. Penerokaan dan kebenaran kekal sebagai tanggungjawab berbeza.

Bagi pasukan, nyatakan sempadan itu dalam dokumentasi integrasi. Pengguna patut mengetahui tempat indeks disimpan, model yang berjalan setempat, cebisan terpilih yang dihantar ke perkhidmatan lain dan cara menyahaktifkan integrasi. Tanggungjawab yang jelas membantu eksperimen berguna kekal mudah difahami selepas penulis asalnya beralih tugas.

Penjimatan terbaik ialah kurang penerokaan yang tidak berkaitan

Pada pandangan kami, ColGrep-Agent menunjukkan alasan praktikal untuk pengkhususan. Pembantu pengekodan tidak perlu menggunakan langkah penaakulannya yang paling mahal bagi setiap carian direktori jika peninjau setempat boleh dipercayai untuk mengembalikan bukti berkaitan. Perkataan dipercayai itulah yang perlu dibuktikan oleh projek rintis anda.

Mulakan dengan satu repositori dan satu soalan yang boleh dinilai penyelenggara. Jika lokasi yang dikembalikan mengurangkan bacaan tanpa menyembunyikan pemilik tingkah laku, perluaskan percubaan. Matlamatnya ialah laluan lebih pendek kepada perubahan yang betul, sambil mengukur kos carian sepanjang perjalanan.

Sumber dan media

Disemak pada 20 Oktober 2026. Angka prestasi yang diterbitkan ialah hasil carian kod yang dilaporkan LightOn. Tiada pemasangan setempat, ukuran kependaman atau penanda aras pengekodan menyeluruh yang didakwa. Tangkapan skrin awam dirakam oleh penulis; rajah ialah karya asal. Atribusi dan notis lesen terdapat dalam rekod media.

• Pengumuman dan kajian LightOn, 12 Oktober 2026
• Dokumentasi dan kod sumber ColGrep
• Kad model ColGrep-Agent
• Lesen repositori Apache 2.0

Kekalkan hubungan antara isu dengan buktinya

Simpan laporan asal, soalan carian, pautan kod berkaitan dan nota semakan bersama. Telli.sh boleh membantu menyusun rekod penyiasatan itu. Cipta akaun Telli.sh