[Buku Catatan Ide AI 03] ColGrep-Agent: biarkan penjelajah lokal menemukan kode sebelum model besar membacanya

Buku Catatan Ide AI menelusuri gagasan dan kemungkinan penggunaan praktis di balik model serta alat AI yang baru mulai bermunculan.

Laporan bug menyebut unggahan selesai terlalu dini. Repositori memuat ratusan berkas, beberapa penangan progres, dan sejumlah kolom status bernama mirip. Sebelum asisten AI menyarankan perbaikan, sebagian besar gilirannya mungkin habis hanya untuk menemukan kode yang memiliki tanggung jawab penyelesaian.

ColGrep-Agent, diumumkan LightOn pada 12 Oktober 2026, menangani tahap pencarian itu secara lokal. Ia menjelajahi repositori dan mengembalikan jalur berkas, rentang baris, serta kode relevan kepada asisten pemrograman utama. Idenya adalah penjelajah lokal: biarkan spesialis kecil menemukan jejak sebelum meminta model lebih besar menalar perbaikan. Pengumuman LightOn

Pengantar ini menjelaskan komponennya, jalur awal praktis, dan apa yang perlu diukur dalam perbandingan pertama. Daya tariknya adalah berkurangnya beban pencarian. Pertanyaannya, apakah pengurangan itu tetap berlaku pada repositori, pertanyaan, dan perangkat keras yang Anda gunakan.

Halaman model publik, diambil pada 20 Oktober 2026. Ini layar kartu model yang dipublikasikan, bukan bukti model berjalan di mesin kami.

Tiga nama menjelaskan tiga bagian alur kerja

ColGrep adalah alat pencarian semantik. ColGrep-Agent-2B adalah nama model yang dirilis. Perintah colgrep --agent menjalankan model dengan kerangka pencarian terbatas; itu kombinasi yang bekerja, bukan keluarga model lain. Penjelasan resmi

Pemisahan ini berguna saat memilih seberapa banyak infrastruktur yang ditambahkan. Pengembang mungkin menginginkan pencarian semantik di terminal tanpa perulangan agen. Tim lain mungkin ingin asisten pemrograman mengajukan pertanyaan ke agen lokal dan menerima paket konteks lebih kecil serta terarah.

Sistem pencarian menggabungkan kueri berbasis makna dengan batasan persis seperti jalur atau pola. Pendekatan ini memecahkan masalah berbeda. Pertanyaan bahasa alami dapat menemukan perilaku dengan pengenal yang belum dikenal, sedangkan pencarian persis tetap berharga untuk nama fungsi dari stack trace.

Bagi pemula, keluaran pentingnya sederhana: daftar pendek tempat yang perlu diperiksa. Anda masih harus memahami kode, memeriksa kontrak di sekitarnya, dan menjalankan pengujian relevan setelah mengubah perilaku. Lokasi yang berguna merupakan masukan untuk perbaikan, bukan perbaikan itu sendiri.

Mengapa perulangan pencarian dapat menjadi mahal

Asisten pemrograman sering bekerja berurutan: mencari istilah, membuka berkas, melihat pengenal lain, mengikuti referensi, lalu mencari lagi. Setiap langkah dapat menambah konteks untuk pemanggilan model berikutnya. Repositori yang mudah dinavigasi pengelola tetap dapat mahal bagi asisten yang baru pertama kali mengenalnya.

ColGrep-Agent memindahkan langkah eksplorasi itu ke perulangan lokal. Asisten utama bertanya, penjelajah mencari dan membaca berkas kandidat, lalu konteks yang dikembalikan menunjukkan lokasi yang dinilai relevan. Pembagiannya menyangkut tanggung jawab eksplorasi, bukan meminta model lokal menyelesaikan semua tugas pemrograman.

Bayangkan menyelidiki mengapa sesi rekaman tidak pulih setelah tersambung kembali. Pencarian luas untuk “reconnect” mungkin mengembalikan pembantu transport, notifikasi UI, dan pengujian lama. Hasil berguna perlu mempersempit daftar ke pemilik sesi saat ini serta fungsi yang membangun ulang koneksinya.

Itu pula alasan jawaban lebih pendek tidak otomatis merupakan pencarian lebih baik. Jika penjelajah membuang satu berkas yang menjelaskan penyimpanan akhir, asisten utama dapat menghasilkan perbaikan meyakinkan tetapi tidak lengkap. Tujuannya mengurangi konteks tidak relevan sambil mempertahankan bukti yang dibutuhkan tugas.

Diagram penjelasan orisinal tentang pembagian kerja terdokumentasi. Pertanyaan contoh dan lokasi hasil bersifat ilustratif.

Hasil utama khusus membahas pencarian kode

LightOn melaporkan 34% lebih sedikit token API dan 40% lebih rendah biaya API yang memperhitungkan cache dibanding grep, dalam studi 52 pertanyaan pencarian kode di 13 repositori. Itu pengukuran penerbit untuk perbandingan tersebut. Angka itu tidak membuktikan biaya membangun atau memelihara aplikasi turun 40%. Deskripsi studi

Ruang lingkup penting karena pekerjaan perangkat lunak memiliki beberapa biaya. Pencarian dapat menyusut sementara penalaran implementasi tetap sama. Eksekusi pengujian dapat mendominasi waktu total. Model yang menghemat token cloud juga dapat memakai CPU, GPU, memori, dan waktu pengindeksan lokal.

Pikirkan tiga pertanyaan terpisah: apakah pencarian menemukan kode yang tepat, apakah tugas pemrograman selesai dengan benar, dan sumber daya apa yang dikonsumsi seluruh tugas? Mengukur yang termudah saja membuat dua lainnya belum terjawab. Tim perlu memilih kompromi yang sesuai pekerjaan, bukan mengadopsi persentase sebagai ramalan universal.

Prompt berulang juga memperumit perbandingan harga. Masukan dalam cache, masukan tanpa cache, dan keluaran yang dihasilkan dapat memiliki tarif berbeda. Catat secara terpisah jika alat menyediakannya, lalu terapkan daftar harga bertanggal setelah memperoleh jumlah penggunaan.

Mulai dengan repositori yang dapat diperiksa dengan yakin

Petunjuk awal resmi menyediakan jalur instalasi untuk macOS, Windows, dan pembangunan dari sumber. Mulailah dengan salinan bersih atau repositori yang statusnya Anda pahami, dan baca petunjuk rilis sebelum menjalankan pemasang. Jangan langsung memberikan ruang kerja produksi yang belum ditinjau kepada alat yang belum dikenal. Dokumentasi ColGrep

Untuk pembaca macOS yang menggunakan Homebrew, pengumuman LightOn menunjukkan:

brew install lightonai/tap/colgrep
colgrep --install-agent

Perintah kedua menyiapkan model lokal, bukan mendaftarkan Anda ke endpoint inferensi terkelola. Rilis menjelaskan unduhan model terkuantisasi bawaan sekitar 2.5 GB. Itu keterangan ukuran unduhan dalam dokumentasi, bukan anggaran memori atau disk lengkap untuk semua konfigurasi. Penyiapan model

Pembaca Windows sebaiknya mengikuti jalur PowerShell terkini di repositori resmi dan memeriksa pemasang sebelum eksekusi. Runtime dan jalur akselerasi yang tersedia bergantung pada mesin. Jangan menganggap perintah yang berhasil di Mac membuktikan penyiapan, kecepatan, atau pemakaian sumber daya setara di Windows.

Gunakan urutan awal ini agar eksperimen tetap mudah dipahami:

1. Catat commit repositori dan status working tree. Pilih pertanyaan yang kode relevannya sudah diketahui.
2. Pasang melalui jalur terdokumentasi, lalu tinjau colgrep --help dan panduan pengindeksan untuk versi terpasang.
3. Jalankan pencarian semantik biasa sebelum mengaktifkan integrasi agen. Periksa berkas yang diabaikan dan direktori yang dikecualikan sesuai harapan.
4. Coba colgrep --agent dengan pemanggilan yang ditampilkan bantuan versi tersebut. Periksa setiap lokasi hasil dalam repositori.
5. Hubungkan ke asisten pemrograman yang didukung hanya setelah pencarian mandiri berguna. Pertahankan konfigurasi pencarian lama untuk perbandingan.

Ini langkah penyiapan dan evaluasi, bukan laporan instalasi untuk artikel ini. Pengantar seharusnya membantu memilih latihan pertama tanpa mengarang hasil yang akan Anda lihat.

Tanyakan perilaku, bukan menentukan berkas sebelumnya

Pertanyaan pencarian yang baik menggambarkan kejadian dan perilaku yang ingin ditemukan. “Di mana unggahan yang diterima menjadi selesai setelah pemrosesan latar belakang berakhir?” lebih informatif daripada “cari kode unggahan”. Pertanyaan itu memberi kontrak untuk dicari sambil membuka peluang menemukan pemilik sebenarnya.

Hindari menyisipkan usulan perbaikan ke pertanyaan. Jika hanya mencari fungsi yang seharusnya mengatur flag tertentu, pencarian mungkin mengikuti asumsi Anda dan melewatkan komponen yang seharusnya memiliki status. Mulailah dari apa yang diamati pengguna, lalu periksa implementasi yang menjelaskannya.

Tiga pertanyaan latihan berguna mencakup pola navigasi berbeda. Tanyakan tempat autentikasi permintaan, tempat pekerjaan latar belakang menyimpan hasil akhir, dan tempat frontend berlangganan pembaruan status. Ini tugas ilustratif yang mendorong penelusuran tanggung jawab lintas berkas, bukan sekadar pencocokan satu pengenal.

String persis tetap memiliki tempat. Stack trace, jalur rute, atau kode galat dapat membuat pertanyaan jauh lebih tepat. Gabungkan bukti itu dengan deskripsi perilaku teramati agar pencarian tidak terlepas dari alur yang gagal.

Nilai lokasi hasil sebelum menilai tulisannya

Buka baris yang disarankan dan baca kode sekitar secukupnya untuk memahami tanggung jawab fungsi. Nomor baris dapat akurat sementara cuplikan menyesatkan karena menghilangkan guard, pemanggil, atau tahap penyimpanan akhir. Konteks harus cukup untuk memeriksa klaim, bukan sekadar terlihat masuk akal.

Commit repositori penting di sini. Jalur dan rentang baris berguna dapat menjadi usang setelah refaktor. Kaitkan hasil pencarian dengan revisi yang sama saat evaluasi, lalu segarkan indeks mengikuti alur terdokumentasi ketika berkas sumber berubah.

Untuk pilot pencarian kode, mintalah pengelola mengidentifikasi berkas yang diharapkan sebelum melihat jawaban alat. Jika tidak, mudah menerima lokasi yang masuk akal lalu diam-diam mendefinisikan ulang keberhasilan. Pisahkan pertanyaan ambigu, alih-alih berpura-pura setiap masalah memiliki tepat satu berkas benar.

Susun perbandingan yang memasukkan tagihan lokal

Jalankan pertanyaan yang sama melalui metode pencarian lama dan baru pada revisi repositori yang sama. Set awal kecil dapat mencakup belasan pertanyaan biasa dan beberapa pertanyaan tanggung jawab yang lebih sulit. Ini rancangan pilot usulan, bukan benchmark resmi atau jaminan keyakinan statistik.

Catat apakah setiap hasil menyertakan berkas relevan yang diketahui, banyaknya kode tidak relevan, penggunaan token cloud, dan waktu total. Catat pula pembangunan indeks terpisah dari pencarian berulang. Biaya awal bisa wajar untuk repositori yang sering dipakai, tetapi kurang menarik untuk navigasi sekali jalan.

Lembar evaluasi orisinal. Kolom pengukuran sengaja kosong: kumpulkan nilai Anda sendiri sebelum menentukan apakah komprominya layak.

Jika juga membandingkan perbaikan bug lengkap, jadikan eksperimen terpisah. Gunakan isu, snapshot repositori, kriteria pengujian, dan konfigurasi model yang sama, lalu periksa patch hasilnya. Alat yang unggul dalam pertanyaan pencarian dapat berperilaku berbeda saat tugas memerlukan eksplorasi, penyuntingan, penafsiran pengujian, dan beberapa putaran koreksi.

Ulangi beberapa pertanyaan, bukan percaya satu eksekusi yang kebetulan baik. Navigasi agentik dapat memilih jalur berbeda antarpercobaan. Kesimpulan berguna mungkin bahwa penggunaan token tipikal turun tetapi pertanyaan sulit melambat; itu kompromi nyata yang tidak dapat dijelaskan satu angka agregat.

Retrieval lokal tidak membuat asisten cloud menjadi offline

LightOn menjelaskan pengindeksan lokal dan inferensi agen lokal. Itu dapat mempertahankan tahap pencarian di mesin Anda, tetapi asisten pemrograman cloud terintegrasi masih dapat menerima kode pilihan yang dikembalikan penjelajah. Evaluasi seluruh jalur dari pertanyaan hingga panggilan model terakhir, bukan menyamakan “pencarian lokal” dengan “tidak ada kode keluar dari komputer”. Deskripsi arsitektur

Pengecualian repositori perlu ditinjau secara sengaja. Folder hasil generasi dapat menambah gangguan, sedangkan kredensial dan ekspor privat tidak boleh menjadi bahan pencarian hanya karena berada dalam direktori proyek. Gunakan perilaku ignore terdokumentasi dan praktik repositori normal organisasi.

Pencarian hanya-baca merupakan batas berguna bagi penjelajah, tetapi tidak menyetujui perubahan sesudahnya. Asisten utama tetap perlu menghormati instruksi repositori, menjaga pekerjaan saat ini, dan memvalidasi perbaikan. Navigasi dan otorisasi tetap tanggung jawab berbeda.

Untuk tim, jelaskan batas tersebut dalam dokumentasi integrasi. Orang perlu tahu tempat indeks, model yang berjalan lokal, cuplikan terpilih yang mencapai layanan lain, dan cara menonaktifkan integrasi. Tanggung jawab jelas membuat eksperimen berguna tetap dipahami setelah pembuat awal beralih tugas.

Penghematan terbaik adalah lebih sedikit eksplorasi tak relevan

Menurut kami, ColGrep-Agent memberikan alasan praktis untuk spesialisasi. Asisten pemrograman tidak perlu menghabiskan penalaran termahal pada setiap pencarian direktori jika penjelajah lokal dapat mengembalikan bukti relevan secara andal. Kata andal itulah yang harus dibuktikan pilot Anda.

Mulai dengan satu repositori dan satu pertanyaan yang dapat dinilai pengelola. Jika lokasi hasil mengurangi pembacaan tanpa menyembunyikan pemilik perilaku, perluas uji. Tujuannya jalur lebih pendek menuju perubahan benar, dengan biaya pencarian diukur sepanjang proses.

Sumber dan media

Diperiksa pada 20 Oktober 2026. Angka kinerja publik adalah hasil pencarian kode yang dilaporkan LightOn. Tidak ada klaim instalasi lokal, pengukuran latensi, atau benchmark pemrograman menyeluruh. Tangkapan layar publik diambil penulis; diagram merupakan karya orisinal. Atribusi dan pemberitahuan lisensi berada di catatan media.

• Pengumuman dan studi LightOn, 12 Oktober 2026
• Dokumentasi dan sumber ColGrep
• Kartu model ColGrep-Agent
• Lisensi repositori Apache 2.0

Hubungkan isu dan buktinya

Simpan laporan asli, pertanyaan pencarian, tautan kode relevan, dan catatan peninjauan bersama. Telli.sh dapat membantu menata catatan penyelidikan tersebut. Buat akun Telli.sh