Ejen pengekodan anda yang seterusnya boleh berjalan pada Mac sendiri: kenali Flint

Lambang rasmi model Flint daripada repositori model Recursive, dipaparkan tanpa perubahan dengan ruang latar neutral untuk pengenalan editorial. Ini bukan tangkapan skrin model yang sedang berjalan atau bukti keputusan penanda aras.

Pembantu pengekodan yang berfungsi pada mesin anda sendiri mengubah satu persoalan biasa. Daripada bertanya sama ada repositori boleh dihantar kepada API, anda boleh bertanya sama ada mesin di meja anda mampu menyiapkan perubahan itu dengan andal. Peralihan ini berguna, terutama apabila kerja melibatkan kod persendirian, eksperimen berulang atau sambungan yang tidak stabil.

Flint daripada Recursive menjadikan tawaran itu nyata. Pengumuman sokongan hari pertama vLLM bertarikh 21 Oktober 2026 memperkenalkan sokongan untuk model pengekodan baharu ini. Recursive menerangkannya sebagai model campuran pakar dengan kira-kira 40 bilion parameter keseluruhan dan sekitar 2.5 bilion parameter aktif bagi setiap token. Masa jalan Mac yang dioptimumkan menyediakan laluan daripada muat turun model kepada persekitaran ejen pengekodan sebenar.

Pandangan kami: Flint menarik kerana model, perisian pelayan dan sambungan ejen tiba bersama. Keputusan pembelian yang penting tetap melibatkan seluruh stesen kerja. “2.5B aktif” menerangkan sebahagian pengiraan; ia tidak bermaksud komputer riba dengan memori kecil boleh memuatkan seluruh model. Panduan ini menerangkan perbezaan perkakasan, tiga tugasan permulaan yang berguna dan cara menilai pengekodan setempat tanpa mengelirukan teks pantas dengan pembaikan yang siap.

Model setempat menjadi berguna apabila boleh bekerja dengan alat anda

Recursive ialah syarikat penyelidikan AI yang membangunkan Eureka Machine, sistem penyelidikan automatik. Flint ialah hasil awam usaha itu, dengan pemberat yang boleh dimuat turun dan enjin inferens khusus bernama rec. Bagi pembangun yang belum mengenali syarikat ini, titik mula praktikalnya mudah: ini ialah model teks untuk memeriksa kod, mencadangkan perubahan dan menggunakan alat melalui aplikasi pengekodan.

Perbezaan antara model dan persekitaran ejennya penting. Model menghasilkan respons atau meminta tindakan alat. Program yang mengelilinginya menentukan fail yang boleh dibaca, melaksanakan arahan, memulangkan keputusan dan membentangkan perubahan kepada anda. Memasang model setempat tidak secara automatik memberikannya aliran pembangunan yang berguna; menghubungkan bahagian tersebut ialah sebahagian pengalaman produk.

Dokumentasi persediaan Recursive menyenaraikan pilihan masa jalan setempat bersama aplikasi pengekodan, termasuk Pi, OpenCode, Cline dan OpenHands. Ini menjadikan Flint lebih mudah didekati berbanding keluaran yang hanya menyediakan muat turun pemberat. Pasukan turut mendapat pilihan: kekalkan penyunting biasa, gunakan pelancar yang dicadangkan atau hidangkan model secara berasingan.

Sempadan inferens setempat bernilai, tetapi ia cuma satu sempadan. Persekitaran ejen masih boleh memanggil pengurus pakej, menghubungi laman dokumentasi atau menjalankan arahan penggunaan jika keizinannya membenarkan. Untuk repositori persendirian, periksa titik akhir model serta alat di sekelilingnya. Pelayan inferens setempat mengekalkan inferens pada mesin; sambungan lain ejen mengikut konfigurasi masing-masing.

Empat puluh bilion parameter masih memerlukan tempat penyimpanan

Model campuran pakar memilih sebahagian komponen yang dipelajarinya bagi setiap token. Ini mengurangkan pengiraan model ketika menjana token berbanding mengaktifkan seluruh rangkaian. Keadaannya seperti bengkel besar yang hanya menggunakan beberapa alat untuk kerja semasa: peralatan yang tidak digunakan masih memerlukan ruang simpanan.

Kad model Flint, disemak pada 23 Oktober, menyatakan 39.8B parameter keseluruhan, sekitar 2.5B aktif bagi setiap token, serta input dan output teks. Ia menyenaraikan konfigurasi konteks terdokumen sebanyak 262,144 token, dikongsi oleh prom dan output yang dijana. Angka ini menjawab soalan berbeza, jadi satu label “saiz model” tidak cukup untuk perancangan.

Pengiraan mudah memperlihatkan isu penyimpanan. Pada tepat empat bit bagi setiap parameter, 39.8 bilion parameter mengandungi kira-kira 19.9 GB bit parameter mentah dalam unit perpuluhan. Pada 16 bit, pengiraan sama menghasilkan 79.6 GB. Ini pengiraan asas sebagai ilustrasi, bukan saiz muat turun terukur atau keperluan RAM lengkap: metadata, skala pengkuantuman, peruntukan masa jalan dan cache perbualan menambah jumlahnya.

Infografik asli. Pengiraan bit parameter bersifat ilustrasi; parameter aktif tidak menetapkan jumlah memori peranti. Peruntukan masa jalan dan konteks ialah tambahan.

Perbezaan itu semakin penting apabila perbualan memanjang. Fail sumber, arahan, takrif alat, output arahan dan jawapan model sendiri semuanya menggunakan konteks. Had maksimum yang besar membolehkan sesi membawa lebih banyak bahan, tetapi tidak menjamin mutu sama pada setiap panjang atau menjadikan pemprosesan prom panjang percuma. Memfokuskan tugasan tetap pilihan kejuruteraan yang berguna.

Keperluan rec semasa daripada Recursive menetapkan Mac M4 Pro, M5 Pro atau M5 Max, sekurang-kurangnya 48 GB memori bersatu dan kira-kira 30 GB ruang cakera kosong. Itulah keperluan bagi laluan masa jalan yang dioptimumkan tersebut, bukannya janji untuk setiap mesin Apple Silicon. Pemilik mesin lebih kecil patut memeriksa keperluan masa jalan lain yang disokong, bukannya mentafsir angka parameter aktif sebagai nasihat keserasian.

Angka kelajuan memerlukan peranti dan panjang konteks

Halaman pelancaran Recursive melaporkan lebih 125 token terjana sesaat pada MacBook Pro M4 Pro dengan konteks pendek menggunakan enjin yang dioptimumkannya. Itu keputusan inferens yang dilaporkan syarikat. Halaman tersebut juga membentangkan penilaian pengekodan, tetapi dakwaan daya pemprosesan atau kedudukan penanda aras tidak meramalkan kelajuan suite ujian aplikasi anda. Pengumuman pelancaran Recursive.

Artikel pelancaran vLLM menerangkan persekitaran lain: satu GB200, penyahkodan kelompok satu dan konteks 100K token. Ia melaporkan kira-kira 485 token sesaat dari hujung ke hujung dalam persediaan itu. Keputusan GPU pelayan dan keputusan komputer riba tidak patut berada dalam baris perbandingan sama tanpa syaratnya; perkakasan serta susunan inferens memainkan peranan besar.

Menjana token juga berbeza daripada menyiapkan tugasan. Model boleh menjana lebih banyak penaakulan, memanggil alat lebih kerap atau memilih pembaikan yang memerlukan percubaan semula. Output lebih pantas membantu apabila penjanaan menjadi penghalang. Manfaatnya lebih kecil apabila langkah terpanjang ialah ujian integrasi sepuluh minit atau rangkaian suntingan tersilap.

Untuk penilaian harian, ukur masa sehingga perubahan yang disemak lulus pemeriksaan sewajarnya. Catat jumlah pembetulan manusia yang diperlukan dan sama ada tingkah laku tidak berkaitan terganggu. Kelajuan token kekal maklumat diagnostik yang berguna, tetapi hasil yang anda perlukan ialah tampalan betul. Pembantu pantas yang berulang kali mengambil jalan salah boleh menghabiskan lebih banyak waktu petang.

Mulakan dengan pembaikan terbatas sebelum migrasi menyeluruh

Senario pertama yang berguna ialah pepijat biasa dalam repositori yang sudah anda fahami. Bayangkan penghurai yang salah mengendalikan input kosong. Minta Flint mengenal pasti fungsi pemilik tingkah laku itu, menerangkan keadaan semasa dan menambah ujian regresi sebelum mengubah pelaksanaan. Ini contoh percubaan, bukan laporan pelaksanaan kami sendiri.

Tugasan itu memberikan garis penamat yang kecil dan boleh diperhatikan kepada pembantu. Tingkah laku dijangka jelas, fail berkaitan terbatas, dan penyemak boleh menentukan sama ada ujian benar-benar menguji kegagalan tersebut. Jika model tersasar kepada pembersihan besar, anda boleh mengenalinya sebelum tampalan membesar. Penjanaan setempat membolehkan lelaran tanpa bil API bagi setiap permintaan, tetapi batasan masih memperbaiki kerja.

Senario kedua ialah memahami modul persendirian. Minta peta laluan permintaan dengan rujukan fail, kemudian sahkan beberapa rujukan sendiri. Susuli dengan permintaan sempit seperti menambah satu peraturan pengesahan yang hilang. Nilainya ialah perbualan yang berasaskan repositori sebenar, bukannya penjelasan umum yang terpisah daripada kontraknya.

Senario ketiga ialah penyelenggaraan ujian rutin. Pasukan boleh mencuba Flint pada kumpulan kegagalan yang sudah difahami atau jurang ujian kecil, sambil menyimpan hasil dijangka sehingga semakan. Sertakan tugasan yang jawapan betulnya ialah tingkah laku semasa memang disengajakan. Keupayaan pembantu menahan diri daripada suntingan tidak perlu ialah sebahagian mutu pembangunan, walaupun kurang dramatik berbanding ciri besar yang dijana.

Kes ini sengaja berbeza hasilnya: pembaikan, penjelasan dan keputusan ujian. Kejayaan dalam satu kes patut memandu eksperimen seterusnya, bukannya menjadi bukti bahawa semua aktiviti pembangunan boleh dipindahkan kepada model setempat yang sama.

Mac yang disokong mempunyai laluan ringkas ke tugasan pertama

Urutan berikut menggunakan aliran rec yang diterbitkan, disemak pada 23 Oktober. Ia mengandaikan Mac yang disokong dan repositori yang anda diberi kuasa untuk memeriksa. Arahan ini ialah panduan persediaan pembaca; ia bukan bukti kami memasang atau menjalankan model.

1. Sahkan cip, ruang simpanan kosong dan memori berdasarkan keperluan semasa. Mulakan dalam cabang sementara atau salinan projek biasa supaya eksperimen pertama mudah disemak.
2. Buka repositori rec rasmi, periksa arahan pemasangan serta pemasangnya, kemudian ikuti laluan pemasangan terdokumen. Muat turun model pertama memerlukan sambungan rangkaian walaupun inferens kemudian berlaku setempat.
3. Periksa pemasangan, kemudian lancarkan persekitaran ejen yang dicadangkan dari direktori projek:

rec doctor
rec launch pi

4. Berikan satu tugasan konkrit dengan tingkah laku dijangka, skop berkaitan dan arahan pengesahan. Contohnya: terangkan mengapa ujian input kosong gagal, tambah regresi terfokus dan ubah hanya fungsi yang memiliki tingkah laku itu.
5. Semak perbezaan kod dan output ujian sebenar. Apabila selesai, periksa keadaan pelayan dan hentikan masa jalan jika ia tidak lagi patut menggunakan memori:

rec status
rec stop

Kemudahan pelancar itu wajar difahami. Recursive mendokumenkan bahawa pelayan model boleh terus berjalan selepas persekitaran ejen atau terminal ditutup. Menghentikan sesi interaktif dan melepaskan model setempat ialah dua tindakan berasingan. Ini penting pada mesin yang turut digunakan untuk binaan, pelayar dan aplikasi harian lain.

Simpan konfigurasi penjanaan bersama keputusannya

Panduan tetapan penjanaan mengesyorkan permulaan dengan temperature 1.0, top-p 0.95 dan top-k 20. Ia turut menerangkan bahawa penaakulan menggunakan belanjawan output. Apabila respons berhenti kerana mencapai had, jawapan tidak selesai ialah masalah berbeza daripada jawapan lengkap yang salah.

Gunakan konfigurasi yang disertakan dengan pelancar untuk penilaian pertama. Jika kemudian beralih kepada masa jalan atau ketepatan lain, catat perubahan itu bersama hasilnya. Jika tidak, kemerosotan model yang kelihatan mungkin sebenarnya berpunca daripada templat sembang tidak sepadan, respons terpotong atau penghurai alat yang tidak memahami format terjana.

Artikel vLLM mendokumenkan penghurai alat dan penaakulan gaya GLM-4.7 untuk laluan penyajian tersebut. Ini contoh konkrit mengapa kemunculan model dalam menu lungsur bukan keseluruhan integrasi. Aplikasi mesti mengekalkan struktur perbualan berkaitan dan melaksanakan panggilan alat yang dimaksudkan dengan betul. Respons sembang yang baik sahaja tidak membuktikan suntingan fail berfungsi.

Aliran kerja konsep asli. Pemeriksaan akhir ialah hasil tugasan yang disemak; rajah ini tidak mewakili prestasi terukur atau pemasangan yang selesai.

Nota penilaian boleh kekal ringkas: semakan titik semak, versi masa jalan, perkakasan, tetapan konteks, tugasan, masa berlalu, keputusan ujian dan pembetulan penyemak. Mengulangi tugasan terbatas sama selepas kemas kini lebih bermaklumat daripada membandingkan dua sesi yang tetapan serta matlamatnya berubah serentak. Simpan percubaan gagal dalam rekod kerana kos pemulihannya mempengaruhi kegunaan alat.

Inferens setempat mengubah bil, bukan menghapuskan kos

Mengelakkan fi API inferens boleh menarik untuk kerja berulang pada perkakasan yang sudah dimiliki. Pasukan yang kerap meminta pembantu menerangkan kod atau menjana ujian kecil mungkin memilih kapasiti setempat yang boleh dijangka. Perbandingan masih merangkumi masa pemasangan, penyelenggaraan dan semakan sistem, serta kos peluang penggunaan memori mesin.

Membeli komputer riba baharu bermemori besar semata-mata untuk satu keluaran ialah pengiraan berbeza daripada mencuba model pada mesin disokong sedia ada. Anggarkan beban kerja sebenar sebelum menganggap perkakasan sebagai penjimatan. Sertakan tugasan yang model terhos lebih besar siapkan dengan kurang pembetulan; pembahagian kerja setempat dan terhos boleh munasabah apabila tugasan berbeza mendapat manfaat daripada alat berbeza.

Keserentakan juga memerlukan perhatian. Dokumentasi rec semasa menyatakan enjinnya mengendalikan satu penjanaan pada satu masa, dengan permintaan bertindih boleh menerima HTTP 429. Oleh itu, pengalaman berguna bagi seorang pembangun tidak bermaksud pelayan pasukan bersama akan berkelakuan sama. Menyajikan beberapa ejen memperkenalkan beban kerja lain dan mungkin memerlukan masa jalan berbeza.

Perkembangan yang menjanjikan ialah pengekodan setempat semakin menjadi pilihan aliran kerja lengkap. Pengiraan aktif kecil Flint, pemberat yang mudah diperoleh dan masa jalan khususnya menangani bahagian masalah yang berbeza. Seterusnya, kita perlukan bukti lebih luas tentang pembaikan siap pada projek biasa, sokongan masa jalan stabil dan tingkah laku jelas dalam sesi panjang. Peningkatan itulah yang mengubah demo mengagumkan menjadi alat harian yang boleh dipercayai.

Stesen kerja semakin menjadi sebahagian pembantu pengekodan

Flint meminta pembangun menilai lebih daripada skor model. Kapasiti memori, keizinan alat, persekitaran ejen dan kebiasaan semakan anda menjadi sebahagian pembantu yang benar-benar dialami. Tuntutannya besar, tetapi turut memberi kawalan: gelung pembangunan boleh diperiksa dan dibentuk pada mesin yang anda kuasai.

Mulakan dengan tugasan yang hasilnya boleh anda nilai. Jika gelung setempat berulang kali menghasilkan perubahan baik dengan semakan yang terkawal, anda telah menemui alat berguna. Dakwaan lebih besar—bahawa ia patut mengendalikan kategori kerja seterusnya yang lebih sukar—boleh menunggu bukti berikutnya.

Sumber

• Recursive: Memperkenalkan Flint, pengumuman pelancaran; disemak 23 Oktober 2026. Halaman kendiri itu tidak memaparkan tarikh pelancaran yang boleh dipercayai.
• vLLM dan Recursive: Sokongan Hari Pertama untuk Flint, 21 Oktober 2026.
• Kad model dan spesifikasi rasmi Flint, disemak 23 Oktober 2026.
• Recursive: Dokumentasi Flint, persediaan dan keperluan rec, serta tetapan penjanaan, disemak 23 Oktober 2026.
• Repositori rec rasmi, disemak 23 Oktober 2026.

Simpan penaakulan di sebalik keputusan teknikal

Jika anda mahukan ruang kerja berasingan untuk pautan sumber dan nota teknikal yang telah disemak, Telli.sh ialah satu pilihan. Buka ruang kerja nota anda.