Agen pemrograman Anda berikutnya bisa berjalan di Mac sendiri: kenali Flint

Logo resmi Flint dari repositori model Recursive, ditampilkan tanpa perubahan dengan ruang netral untuk identifikasi editorial. Ini bukan tangkapan layar model yang sedang berjalan atau bukti hasil tolok ukur.

Asisten coding yang bekerja di mesin Anda sendiri mengubah pertanyaan yang sudah akrab. Alih-alih bertanya apakah repositori boleh dikirim ke API, Anda dapat bertanya apakah komputer di meja mampu menyelesaikan perubahan dengan andal. Ini pergeseran yang berguna, khususnya untuk kode privat, eksperimen berulang, atau koneksi yang tidak stabil.

Flint dari Recursive membuat gagasan itu konkret. Pengumuman dukungan hari pertama vLLM bertanggal 21 Oktober 2026 memperkenalkan dukungan untuk model coding baru tersebut. Recursive menjelaskannya sebagai model mixture-of-experts dengan sekitar 40 miliar parameter total dan sekitar 2,5 miliar parameter aktif per token. Runtime Mac yang dioptimalkan memberi jalur dari unduhan model menuju lingkungan kerja agen coding.

Menurut kami, Flint menarik karena model, perangkat lunak serving, dan koneksi agen hadir bersama. Keputusan pembelian yang penting tetap mencakup seluruh workstation. “2,5B aktif” menjelaskan sebagian komputasi; angka itu tidak berarti laptop bermemori kecil dapat menampung seluruh model. Panduan ini menjelaskan perbedaan perangkat keras tersebut, tiga pekerjaan awal berguna, dan cara mengevaluasi coding lokal tanpa menyamakan teks cepat dengan perbaikan selesai.

Model lokal menjadi berguna ketika dapat bekerja dengan alat Anda

Recursive merupakan perusahaan riset AI yang mengembangkan Eureka Machine, sistem riset otomatis. Flint adalah produk publik dari upaya itu, dengan bobot yang dapat diunduh dan mesin inferensi khusus bernama rec. Bagi pengembang yang belum mengenal perusahaan ini, titik awal praktisnya sederhana: model teks ini ditujukan untuk memeriksa kode, mengusulkan perubahan, dan memakai alat melalui aplikasi coding.

Perbedaan model dengan lingkungan pengendalinya penting. Model menghasilkan respons atau meminta tindakan alat. Program di sekelilingnya menentukan berkas yang boleh dibaca, menjalankan perintah, mengembalikan hasil, dan menyajikan perubahan kepada Anda. Memasang model lokal tidak otomatis memberinya alur pengembangan yang berguna; menghubungkan bagian-bagian itu merupakan bagian pengalaman produk.

Dokumentasi penyiapan Recursive mencantumkan opsi runtime lokal bersama aplikasi coding, termasuk Pi, OpenCode, Cline, dan OpenHands. Ini membuat Flint lebih mudah didekati dibandingkan rilis yang hanya menyediakan unduhan bobot. Tim juga mendapat pilihan: mempertahankan editor yang sudah dikenal, memakai peluncur yang disarankan, atau menjalankan server model secara terpisah.

Batas inferensi lokal bernilai, tetapi hanya salah satu batas. Lingkungan agen tetap dapat memanggil pengelola paket, menghubungi situs dokumentasi, atau menjalankan perintah deployment jika izinnya memungkinkan. Untuk repositori privat, periksa endpoint model dan alat di sekitarnya. Server inferensi lokal menjaga inferensi tetap lokal; koneksi agen lainnya mengikuti konfigurasi masing-masing.

Empat puluh miliar parameter tetap membutuhkan tempat

Model mixture-of-experts memilih sebagian komponen terpelajarnya untuk setiap token. Ini mengurangi komputasi model yang diperlukan untuk menghasilkan token dibandingkan mengaktifkan seluruh jaringan. Ibarat bengkel besar yang pekerjaan saat ini hanya menggunakan beberapa alat: peralatan yang menganggur tetap memerlukan ruang penyimpanan.

Kartu model Flint, diperiksa 23 Oktober, menyebut 39,8B parameter total, sekitar 2,5B aktif per token, serta masukan dan keluaran teks. Kartu itu mencantumkan konfigurasi konteks terdokumentasi 262.144 token, yang dibagi antara prompt dan keluaran. Angka-angka ini menjawab pertanyaan berbeda, sehingga satu label “ukuran model” tidak cukup untuk perencanaan.

Perhitungan sederhana memperjelas persoalan penyimpanan. Pada tepat empat bit per parameter, 39,8 miliar parameter mengandung sekitar 19,9 GB bit parameter mentah dalam satuan desimal. Pada 16 bit, perhitungan yang sama menghasilkan 79,6 GB. Ini perhitungan tingkat dasar sebagai ilustrasi, bukan ukuran unduhan terukur atau kebutuhan RAM lengkap: metadata, skala kuantisasi, alokasi runtime, dan cache percakapan menambah totalnya.

Infografik orisinal. Perhitungan bit parameter bersifat ilustratif; parameter aktif tidak menentukan memori total perangkat. Alokasi runtime dan konteks merupakan tambahan.

Perbedaan ini semakin penting ketika percakapan memanjang. Berkas sumber, instruksi, definisi alat, keluaran perintah, dan jawaban model sendiri memakai konteks. Batas maksimum besar memungkinkan sesi membawa lebih banyak materi, tetapi tidak menjamin kualitas sama pada setiap panjang atau membuat prompt panjang bebas biaya pemrosesan. Menjaga tugas tetap terfokus masih merupakan pilihan rekayasa yang berguna.

Persyaratan rec saat ini menetapkan Mac M4 Pro, M5 Pro, atau M5 Max, setidaknya 48 GB unified memory, dan sekitar 30 GB ruang disk kosong. Ini persyaratan jalur runtime yang dioptimalkan tersebut, bukan janji bagi setiap mesin Apple Silicon. Pemilik komputer lebih kecil perlu memeriksa persyaratan runtime lain yang didukung, bukan menafsirkan parameter aktif sebagai saran kompatibilitas.

Angka kecepatan membutuhkan perangkat dan panjang konteks

Halaman peluncuran Recursive melaporkan lebih dari 125 token yang dihasilkan per detik pada MacBook Pro M4 Pro dengan konteks pendek menggunakan mesinnya yang dioptimalkan. Ini hasil inferensi yang dilaporkan perusahaan. Halaman itu juga menyajikan evaluasi coding, tetapi klaim throughput maupun posisi tolok ukur tidak memprediksi kecepatan rangkaian pengujian aplikasi Anda. Pengumuman peluncuran Recursive.

Artikel peluncuran vLLM menjelaskan lingkungan berbeda: satu GB200, decoding dengan batch satu, dan konteks 100K token. Artikel melaporkan sekitar 485 token per detik dari awal hingga akhir dalam konfigurasi tersebut. Hasil GPU server dan laptop tidak seharusnya berada dalam baris perbandingan sama tanpa kondisinya; perangkat keras dan tumpukan inferensi memberi kontribusi penting.

Ada pula perbedaan antara menghasilkan token dan menyelesaikan tugas. Model dapat menghasilkan lebih banyak penalaran, lebih sering memanggil alat, atau memilih perbaikan yang memerlukan percobaan lagi. Keluaran lebih cepat membantu ketika generasi menjadi hambatan. Manfaatnya lebih kecil ketika langkah terlama ialah pengujian integrasi sepuluh menit atau rangkaian edit yang keliru.

Untuk evaluasi sehari-hari, ukur waktu sampai perubahan yang ditinjau melewati pemeriksaan yang tepat. Catat banyaknya koreksi manusia dan apakah perubahan mengganggu perilaku yang tidak terkait. Kecepatan token tetap merupakan informasi diagnostik berguna, tetapi hasil yang Anda inginkan ialah patch yang benar. Asisten cepat yang berulang kali mengambil jalur keliru dapat menghabiskan lebih banyak waktu sore hari.

Mulai dengan perbaikan terbatas sebelum mencoba migrasi menyeluruh

Skenario awal yang berguna ialah bug biasa dalam repositori yang Anda pahami. Bayangkan parser yang salah menangani masukan kosong. Minta Flint mengenali fungsi penanggung jawab, menjelaskan perilaku sekarang, dan menambahkan pengujian regresi sebelum mengubah implementasi. Ini percobaan ilustratif, bukan laporan eksekusi kami sendiri.

Tugas itu memberi asisten garis akhir yang kecil dan dapat diamati. Perilaku harapan dinyatakan jelas, berkas relevan terbatas, dan peninjau dapat menentukan apakah pengujian benar-benar menguji kegagalan. Jika model beralih ke pembersihan luas, Anda dapat mengenali penyimpangannya sebelum patch membesar. Generasi lokal memungkinkan iterasi tanpa tagihan API per permintaan, tetapi batasan tugas tetap memperbaiki pekerjaan.

Skenario kedua ialah mempelajari modul privat. Minta peta jalur permintaan beserta referensi berkas, kemudian periksa sendiri beberapa referensi tersebut. Lanjutkan dengan permintaan sempit seperti menambahkan satu aturan validasi yang hilang. Nilainya ialah percakapan yang berpijak pada repositori aktual, bukan penjelasan umum yang terpisah dari kontraknya.

Skenario ketiga ialah pemeliharaan pengujian rutin. Tim dapat mencoba Flint pada kumpulan kegagalan yang sudah dipahami atau celah pengujian kecil, sambil menyembunyikan hasil yang diharapkan sampai peninjauan. Sertakan tugas yang jawaban benarnya adalah perilaku sekarang memang disengaja. Kemampuan asisten menahan diri dari edit yang tidak perlu merupakan bagian kualitas pengembangan, meskipun kurang dramatis dibandingkan fitur besar yang dihasilkan.

Ketiga kasus ini sengaja memiliki keluaran berbeda: perbaikan, penjelasan, dan keputusan pengujian. Keberhasilan pada satu kasus sebaiknya mengarahkan eksperimen berikutnya, bukan dianggap bukti bahwa semua kegiatan pengembangan dapat dipindahkan ke model lokal yang sama.

Mac yang didukung memiliki jalur singkat menuju tugas pertama

Urutan berikut memakai alur rec yang dipublikasikan, diperiksa 23 Oktober. Diasumsikan Anda memakai Mac yang didukung serta repositori yang berwenang Anda periksa. Perintah ini petunjuk penyiapan bagi pembaca; bukan bukti bahwa kami memasang atau menjalankan model.

1. Cocokkan chip, ruang penyimpanan kosong, dan memori dengan persyaratan terkini. Mulai pada branch sementara atau salinan proyek yang dikenal agar eksperimen awal mudah ditinjau.
2. Buka repositori rec resmi, periksa petunjuk dan skrip instalasinya, kemudian ikuti jalur pemasangan yang didokumentasikan. Unduhan model pertama membutuhkan jaringan meskipun inferensi selanjutnya lokal.
3. Periksa instalasi, kemudian jalankan lingkungan yang disarankan dari direktori proyek:

rec doctor
rec launch pi

4. Berikan satu tugas konkret beserta perilaku harapan, cakupan relevan, dan perintah verifikasi. Misalnya: jelaskan penyebab pengujian masukan kosong gagal, tambahkan regresi terfokus, dan ubah hanya fungsi penanggung jawab perilaku itu.
5. Tinjau diff dan keluaran pengujian aktual. Setelah selesai, periksa status server dan hentikan runtime jika tidak lagi perlu memakai memori:

rec status
rec stop

Kemudahan peluncur perlu dipahami. Recursive mendokumentasikan bahwa server model dapat tetap berjalan setelah lingkungan agen atau terminal ditutup. Menghentikan sesi interaktif dan melepaskan model lokal merupakan tindakan terpisah. Ini penting pada mesin yang juga digunakan untuk build, browser, serta aplikasi harian lain.

Simpan konfigurasi generasi bersama hasilnya

Panduan pengaturan generasi menyarankan memulai dengan temperature 1,0, top-p 0,95, dan top-k 20. Panduan itu juga menjelaskan bahwa penalaran menggunakan anggaran keluaran. Jika respons berhenti karena batas tercapai, jawaban yang belum selesai merupakan persoalan berbeda dari jawaban selesai yang salah.

Gunakan konfigurasi bawaan peluncur untuk evaluasi pertama. Jika kemudian beralih ke runtime atau presisi lain, catat perubahan bersama hasilnya. Jika tidak, regresi model yang tampak bisa sebenarnya berasal dari templat chat yang tidak sesuai, respons terpotong, atau parser alat yang tidak memahami format keluaran.

Artikel vLLM mendokumentasikan parser alat dan penalaran bergaya GLM-4.7 untuk jalur serving tersebut. Ini contoh konkret mengapa model yang muncul dalam menu pilihan belum merupakan seluruh integrasi. Aplikasi harus mempertahankan struktur percakapan relevan dan menjalankan panggilan alat yang dimaksud dengan benar. Respons chat yang sehat saja tidak membuktikan edit berkas berfungsi.

Alur konseptual orisinal. Pemeriksaan akhir ialah hasil tugas yang ditinjau; diagram tidak mewakili kinerja terukur atau instalasi yang telah dilakukan.

Catatan evaluasi dapat tetap kecil: revisi checkpoint, versi runtime, perangkat keras, pengaturan konteks, tugas, durasi, hasil pengujian, dan koreksi peninjau. Mengulangi tugas terbatas yang sama setelah pembaruan lebih informatif daripada membandingkan sesi yang pengaturan dan tujuannya sama-sama berubah. Pertahankan percobaan gagal dalam catatan karena biaya pemulihannya memengaruhi kegunaan alat.

Inferensi lokal mengubah tagihan, tetapi tetap memiliki biaya

Menghindari biaya API inferensi dapat menarik untuk pekerjaan berulang pada perangkat yang sudah dimiliki. Tim yang sering meminta asisten menjelaskan kode atau membuat pengujian kecil mungkin lebih menyukai kapasitas lokal yang dapat diprediksi. Perbandingan tetap mencakup waktu pemasangan, pemeliharaan, dan peninjauan sistem, beserta biaya peluang memori mesin.

Membeli laptop baru bermemori besar hanya untuk satu rilis merupakan perhitungan berbeda dari mencoba model pada mesin yang sudah didukung. Perkirakan beban kerja aktual sebelum menganggap perangkat keras sebagai penghematan. Sertakan tugas yang diselesaikan model hosted lebih besar dengan lebih sedikit koreksi; pembagian lokal dan hosted dapat masuk akal ketika pekerjaan berbeda memperoleh manfaat dari alat berbeda.

Konkurensi juga perlu diperhatikan. Dokumentasi rec saat ini menyebut mesinnya menangani satu generasi pada satu waktu, dengan permintaan bersamaan bisa menerima HTTP 429. Karena itu, pengalaman berguna bagi satu pengembang tidak berarti server tim bersama akan berperilaku sama. Melayani beberapa agen menimbulkan beban kerja berbeda dan mungkin membutuhkan runtime lain.

Perkembangan menjanjikannya ialah coding lokal menjadi pilihan alur kerja yang lengkap. Komputasi aktif kecil Flint, bobot yang dapat diakses, dan runtime khusus menangani bagian berbeda dari persoalan itu. Langkah berikut yang diharapkan ialah bukti lebih luas tentang perbaikan selesai pada proyek biasa, dukungan runtime stabil, serta perilaku jelas dalam sesi panjang. Perbaikan itulah yang mengubah demo mengesankan menjadi alat harian yang dapat diandalkan.

Workstation menjadi bagian dari asisten coding

Flint meminta pengembang mengevaluasi lebih dari skor model. Kapasitas memori, izin alat, lingkungan agen, dan kebiasaan peninjauan menjadi bagian asisten yang benar-benar Anda gunakan. Ini tuntutan besar, sekaligus memberi kendali: siklus pengembangan dapat diperiksa dan dibentuk pada mesin yang Anda kuasai.

Mulai dengan tugas yang hasilnya bisa Anda nilai. Jika siklus lokal berulang kali menghasilkan perubahan baik dengan beban tinjauan wajar, Anda telah menemukan alat berguna. Klaim lebih kuat—bahwa alat itu seharusnya menangani kategori pekerjaan berikutnya yang lebih sulit—dapat menunggu bukti selanjutnya.

Sumber

• Recursive: Memperkenalkan Flint, pengumuman peluncuran; diperiksa 23 Oktober 2026. Halaman terpisah ini tidak menampilkan tanggal peluncuran yang andal.
• vLLM dan Recursive: Dukungan Hari Pertama untuk Flint, 21 Oktober 2026.
• Kartu model resmi Flint dan spesifikasi, diperiksa 23 Oktober 2026.
• Recursive: Dokumentasi Flint, penyiapan dan persyaratan rec, serta pengaturan generasi, diperiksa 23 Oktober 2026.
• Repositori rec resmi, diperiksa 23 Oktober 2026.

Simpan alasan di balik keputusan teknis

Jika Anda menginginkan ruang kerja terpisah untuk tautan sumber dan catatan teknis yang telah ditinjau, Telli.sh merupakan salah satu pilihan. Buka ruang kerja catatan Anda.