Syarikat pemula ini terus menggunakan Claude dan Codex, sambil menyerahkan kerja dokumentasi kepada AI setempat
Grayhat Developers mencuba menggantikan ejen pengekodan berbayar, kemudian menggunakan model setempat untuk dokumentasi, tiket dan serahan kerja. Kajian kesnya menunjukkan cara menguji pembahagian itu.
Seorang pembangun meminta ejen pengekodan membaiki pepijat pada sebuah perkhidmatan. Mula-mula ejen perlu mencari tiket asal, mendapatkan beberapa keputusan produk dan menentukan keperluan yang masih terpakai. Selepas tampalan dibuat, seseorang perlu menjadikan baki kerja itu tiket yang boleh dilihat oleh pereka atau ketua sokongan. Perubahan kod cuma satu bahagian daripada tugas tersebut, tetapi semuanya boleh diserahkan kepada model berbayar yang sama.
Grayhat Developers, sebuah syarikat perisian dengan kurang daripada 40 orang, menerangkan apa yang berlaku apabila tugas itu dipisahkan dalam pracetak bertarikh 5 November 2026. Juruteranya mencuba model yang dihos sendiri untuk kerja pembangunan dan mendapati bahawa menggantikan ejen pengekodan komersial menyebabkan sesetengah tugas repositori menjadi lebih perlahan atau lebih sukar. Mereka terus menggunakan ejen itu bagi perubahan yang rumit dan memindahkan sebahagian pengambilan dokumen, penyediaan bahan dan penyegerakan tiket ke perkhidmatan setempat.
Soalan yang menarik untuk pasukan kecil lain ialah bahagian mana yang patut dipindahkan dahulu. Pengalaman Grayhat memberikan titik mula yang jelas, anggaran yang wajar diteliti dan contoh masalah orientasi pengguna yang boleh menggagalkan rintis sebelum pasukan sempat menilai mutu model.
Sebelum kod disentuh, pembaikan pepijat memerlukan kerja mencari konteks
Grayhat menggunakan Outline untuk dokumentasi, Plane untuk menjejak kerja dan ERPNext untuk maklumat organisasi. Pasukan itu telah mengehos perkhidmatan tersebut pada sebuah komputer pejabat dan menyambungkan sistem identitinya melalui Authentik. Penyambung Model Context Protocol, atau MCP, turut dihoskan pada komputer yang sama. Komputer kedua mengendalikan inferens model. Pembahagian ini mempunyai tujuan yang praktikal. Sistem dokumentasi dan tiket boleh terus menyediakan antara muka biasa, sementara proses model menggunakan sumber pengkomputeran di tempat lain.
Proses yang diterangkan dalam makalah melibatkan serahan antara manusia. Seorang ahli pasukan menggunakan model dalaman untuk mendapatkan dan meringkaskan bahan daripada wiki atau penjejak isu. Bahagian yang berkaitan boleh dimasukkan dalam fail repositori untuk ejen pengekodan. Selepas menyiapkan kerja repositori, ahli pasukan boleh membawa langkah seterusnya kembali kepada pembantu dalaman untuk dijadikan draf tiket dan dihantar ke penjejak. Makalah itu meletakkan komunikasi terus antara ejen sebagai kerja masa hadapan. Dengan proses sedia ada, seseorang boleh menyemak maklumat yang akan diserahkan dan menentukan sama ada maklumat itu wajar diteruskan.
Titik serahan dalam aliran kerja Grayhat. Ilustrasi asli oleh Telli.sh berdasarkan kajian kes 5 November.
Katakan seorang pelanggan melaporkan bahawa eksport menghasilkan baris berulang. Laporan asal mengandungi rujukan akaun peribadi dan transkrip yang tiada kaitan dengan pepijat. Pembantu setempat boleh mencari peraturan eksport semasa, pemilik perkhidmatan dan jalan penyelesaian sementara sebelum ini. Jurutera kemudian boleh menulis ringkasan dengan contoh sintetik dan bilangan baris yang dijangkakan. Ejen pengekodan menerima maklumat yang diperlukan untuk menghasilkan semula pepijat. Maklumat sensitif kekal dalam sistem dalaman kerana orang yang menguruskan serahan memilih bahan yang boleh dikongsi.
Kekalkan pautan asal pada draf dalaman. Apabila syarat bercanggah, penyemak boleh melihat sama ada peraturan yang dicadangkan datang daripada keputusan baharu atau penyelesaian sementara lama. Ringkasan setempat yang meninggalkan sumbernya masih mewujudkan masalah serupa dengan yang cuba diselesaikan. Ahli pasukan seterusnya terpaksa menentukan sendiri penerangan yang boleh dipercayai.
Pasukan membeli kapasiti dan menganggarkan bahagian yang boleh dialihkan
Para pengarang melaporkan perbelanjaan asas AI komersial sekitar $325 sebulan, yang merangkumi kira-kira $175 untuk tujuh lesen Claude, $140 untuk tujuh langganan Codex dan $10 untuk kredit. Mereka juga melaporkan lebih daripada 25.93 bilion token yang direkodkan merentas perkhidmatan. Makalah itu tidak menunjukkan bahawa token yang direkodkan tersebut adalah bagi tempoh pengebilan yang sama dengan $325. Gunakan setiap angka mengikut perkara yang diukurnya. Membahagi satu dengan yang lain akan menghasilkan harga token yang belum berasas.
Pasukan Grayhat menganggarkan bahawa pemindahan konteks, dokumentasi dan penyelarasan projek merangkumi 30–40% beban kerja AI komersialnya. Para pengarang menganggarkan sistem setempat boleh menangani kira-kira 90% kerja dalam kategori itu. Apabila didarab, anggaran tersebut bersamaan 27–36% daripada keseluruhan beban kerja komersial. Jika bahagian itu digunakan pada $325, nilainya kira-kira $88–117 sebulan. Angka tersebut ialah anggaran beban kerja dan nilai setara kos daripada kajian kes 5 November. Makalah itu tidak menjalankan eksperimen terkawal terhadap bil sebelum dan selepas perubahan.
Anggaran Grayhat bermula daripada bahagian beban kerja dan menghasilkan nilai setara kos. Ilustrasi asli oleh Telli.sh.
| Angka daripada pracetak | Perkara yang diwakili | Cara menggunakannya |
|---|---|---|
| $325 sebulan | Perbelanjaan asas yang dilaporkan untuk langganan komersial dan kredit | Tentukan angka asas yang setara daripada bil anda |
| 30–40% | Anggaran bahagian kerja bagi penyelarasan dan konteks | Jejak tugas berulang sebelum memasang perkhidmatan lain |
| Kira-kira 90% | Anggaran bahagian kerja penyelarasan yang boleh dibuat secara setempat | Semak hasil setiap tugas dengan orang yang menerimanya |
| 27–36% dan $88–117 sebulan | Anggaran beban kerja yang dialihkan dan nilai setaranya berbanding kos asas | Bandingkan invois secara berasingan daripada aktiviti model |
| $10–30 sebulan | Kos operasi model setempat dalam jadual pengarang | Kira kos peralatan dan masa penyelenggaraan secara berasingan |
Perbezaan ini penting apabila yuran dikenakan bagi setiap pengguna. Jika tujuh pembangun masih perlu melanggan untuk kerja rumit, penggunaan yang berkurangan boleh membiarkan bil seterusnya pada nilai yang sama. Faedahnya mungkin berupa ruang untuk menyiapkan satu lagi set tampalan, tekanan yang lebih rendah akibat had penggunaan atau kurang pembelian tambahan. Pasukan yang dibilkan mengikut permintaan mungkin melihat perubahan lebih awal, tetapi cubaan berulang dan giliran yang lambat boleh mengurangkan penjimatan yang kelihatan. Sekiranya pasukan perlu membeli GPU baharu dan membayar seseorang untuk memastikannya tersedia, kos itu juga perlu dikira.
Pilih unit ukuran yang boleh disemak. Bilangan tiket yang disediakan mudah dikira, tetapi tiket yang ditulis semula dari awal oleh ketua projek memberikan sedikit bukti penjimatan. Ukur ringkasan dan tiket yang diterima, serta catat suntingan yang mengubah maksud tugas. Setelah penyemak boleh mengenal pasti hasil yang boleh diterima secara konsisten, jejaki usaha yang diperlukan untuk menghasilkannya.
Antara muka kedua mengubah siapa yang perlu menyediakan sambungan
Pelaksanaan pertama menggunakan LobeHub. Jurutera diberikan arahan untuk menyambungkan antara muka masing-masing dengan alatan dalaman organisasi. Menurut para pengarang, demonstrasi yang memberangsangkan tidak berkembang menjadi penggunaan tetap. Pengguna perlu tahu penyambung yang patut dipilih, tempat penyambung itu berada dan cara membuat pengesahan. Setiap pilihan tambahan melambatkan pengguna mendapat jawapan pertama yang berguna.
Alatan kerja dalam antara muka kedua Grayhat dikonfigurasikan secara berpusat. Rajah 2 daripada “Create Your Own Work Stack” oleh Saad Ahmed Bazaz, Talha Amjad, Abdurrehman Subhani, Sohaib Ahmed Bazaz dan Abdullah Aamir, CC BY 4.0.
Pasukan itu beralih kepada pelaksanaan LibreChat yang dikonfigurasikan secara berpusat. Pengguna boleh melihat alatan yang tersedia dan membuat pengesahan apabila mengaksesnya. Para pengarang mengira lapan komen tentang penyediaan dan orientasi daripada 11 temu bual berstruktur bagi versi pertama. Versi kedua mendapat tiga komen dalam kategori itu melalui maklum balas Discord tanpa struktur. Dua angka tersebut datang daripada kaedah kutipan yang berbeza. Kedua-duanya membantu mengenal pasti masalah orientasi, tetapi tidak boleh menunjukkan sejauh mana penggunaan meningkat atau berapa ramai pekerja yang tidak lagi menghadapinya.
Rancang sesi pertama berdasarkan tugas sebenar yang paling kecil. Ketua projek yang log masuk untuk mencari kriteria penerimaan sesuatu isu patut dapat melihat sama ada penjejak disambungkan dan akaun yang aktif. Jurutera yang mahu menyediakan tiga tiket patut boleh menyemaknya sebelum menghantar. Pasukan yang mengajar orang menyediakan penyambung sebelum mereka boleh mencari kerja sendiri berisiko mengukur kesabaran pengguna dan bukannya kegunaan alat itu.
Penyediaan berpusat membawa tanggungjawab baharu. Seseorang perlu menyelenggarakan senarai penyambung yang diluluskan, menggantikan kelayakan akses secara berkala dan menjelaskan siapa yang boleh mengubah keizinan. Tanpa penjagaan itu, konfigurasi yang salah oleh seorang pengguna boleh menjejaskan semua orang. Kelebihannya ialah pasukan boleh menyelesaikan masalah penyediaan yang berulang sekali sahaja dan memberikan pembetulan yang sama kepada setiap pengguna perkhidmatan.
Beri sistem setempat tugas yang hasilnya mempunyai pemilik yang jelas
Saringan isu sesuai sebagai tugas pertama. Pembantu dalaman boleh mengumpulkan laporan pendua dan mencadangkan ringkasan berserta pautan ke tiket sumber. Pemilik projek menentukan sama ada dua laporan memang pendua dan sama ada penerangan gabungan meninggalkan mana-mana syarat. Pembantu boleh menyediakan draf komen yang menerangkan cara laporan itu dikumpulkan. Orang boleh mengetahui apa yang berlaku kerana kemas kini tersebut mempunyai pemilik yang dikenal pasti.
Penyelenggaraan dokumentasi ialah tugas yang berbeza. Bayangkan perubahan memindahkan satu tetapan daripada satu skrin ke skrin lain. Pembantu boleh mencari halaman bantuan yang lapuk, mengenal pasti edisi produk yang diliputi dan menyediakan cadangan suntingan. Seorang editor mengesahkan navigasi semasa dan menerbitkan perubahan yang betul. Model jauh yang lebih berkuasa memberi sedikit nilai tambahan jika kesukaran utama ialah mendapatkan halaman dalaman terkini dan mengekalkan skop setiap artikel.
Pengekodan rumit memberikan contoh yang berbeza. Migrasi pangkalan data boleh memerlukan semakan kontrak data lama, perubahan pada lebih daripada satu perkhidmatan dan pengesahan cara untuk kembali ke keadaan terdahulu. Grayhat mendapati susunan setempat yang diuji sukar mengendalikan kerja repositori yang lebih besar, terutamanya apabila model memerlukan konteks luas dan inferens pantas. Kajian itu menerangkan perkakasan, model dan pengalaman pasukan. Penemuan tersebut menyokong ujian setempat pada beban kerja anda sendiri sebelum meluaskan jenis tugas yang diberikan.
Gunakan laluan terhad bagi tugas yang menggabungkan pemformatan ringkas dengan data sensitif. Menghantar draf ke luar rangkaian masih boleh mendedahkan maklumat walaupun alatan asal beroperasi di premis sendiri. Jika tugas memerlukan serahan jauh, luluskan destinasi dan sediakan bahan paling ringkas yang mencukupi untuknya. Jika hasil dalaman belum diluluskan, simpan dalam giliran semakan dalaman. Apabila masa menunggu tamat, paparkan ralat supaya pemindahan tidak berlaku tanpa diketahui pengguna.
Rintis singkat boleh mengasingkan kerja berguna daripada urusan infrastruktur
- Tentukan tiga hasil. Pilih ringkasan bertaut kepada tiket, suntingan dokumentasi dan draf isu. Tulis satu ayat bagi setiap hasil yang menyatakan orang yang menerimanya serta bukti yang diperlukan. Simpan contoh hasil yang gagal bersama contoh yang baik, termasuk kesilapan yang mudah terlepas pandang.
- Ukur proses semasa. Untuk satu minggu bekerja biasa, kira contoh yang disiapkan, pembetulan yang mengubah isi dan masa mencari konteks. Rekod penggunaan komersial mengikut aliran kerja jika boleh. Catat sama ada memindahkan tugas benar-benar mengubah bilangan lesen yang dibilkan atau caj lebihan. Rekod secara berasingan kerja yang langsung tidak dibuat oleh pasukan.
- Sambungkan satu alat dalaman. Mulakan dengan akses baca untuk satu projek yang dikenal pasti. Sahkan bahawa pekerja yang dibenarkan boleh mendapatkan isu yang diketahui dan orang di luar projek tidak boleh berbuat demikian. Hadkan rintis kepada sekumpulan kecil orang yang sudah membuat kerja pilihan. Sediakan cara yang jelas untuk menyelesaikan kerja secara manual apabila alat gagal.
- Bandingkan draf sebelum memberi akses tulis. Minta penyemak yang sama menerima atau menolak hasil menggunakan kriteria yang sama. Rekod pautan ke isu yang salah, fakta lapuk dan kesimpulan tanpa sokongan. Tambahkan pratonton, kelulusan dan rekod yang kekal sebelum membenarkan pembantu mengemas kini penjejak sebenar.
- Semak kerja yang berjaya dialihkan. Bandingkan kerja yang diterima, masa semakan, penggunaan aktif dan invois sebenar. Kira masa menyelenggarakan komputer, gangguan dan perubahan pada penyambung. Masukkan bantuan penyediaan yang diberikan terus kepada pengguna. Aplikasi yang hanya berfungsi selepas pakar melatih setiap orang selama sepuluh minit masih membawa kos orientasi.
Jika anda sudah mengendalikan model setempat untuk pembangun, cuba proses ini seiring trafik biasa. Giliran mula terbentuk apabila beberapa orang mula bekerja serentak. Perkhidmatan yang cepat menjawab satu arahan masih boleh membuat tiga orang menunggu. Sediakan cara untuk menunjukkan kemajuan tugas yang terikat masa dan pilihan untuk kembali ke proses manual biasa. Ini membolehkan rintis terus digunakan sambil pasukan mengetahui tugas yang sesuai.
Lampiran Grayhat memberikan gambaran skala untuk perbandingan ini. Komputer yang menjalankan alatan menggunakan 16 GB memori sistem, manakala komputer inferens yang berasingan mempunyai 32 GB dan RTX 4080 dengan 16 GB VRAM. Pasukan melaporkan bahawa mereka menambah pemantauan rangkaian, penjadualan dan bekalan kuasa tanpa gangguan apabila keperluan operasi menjadi lebih jelas. Maklumat ini berguna untuk menyediakan belanjawan rintis. Pemerhatian tersebut menggambarkan kos mengendalikan perkhidmatan yang diharap oleh rakan sekerja, di samping kos untuk mendapatkan jawapan daripada model.
Tentukan tugas untuk satu jam kerja AI seterusnya
Idea yang boleh diguna semula ialah memisahkan penyediaan konteks daripada penaakulan khusus dan menetapkan pemilik bagi setiap serahan. Mulakan dengan kerja yang kerap berulang dan menghasilkan bahan yang sudah biasa disemak oleh pasukan. Ukur usaha untuk menerima bahan itu, kemudian tentukan sama ada laluan setempat wajar diberikan tugas seterusnya. Pengalaman Grayhat menyediakan cara untuk membuat keputusan itu sambil mengekalkan alatan pengekodan yang masih memberi manfaat.
Sumber
- Pracetak Grayhat Developers, 5 November 2026
- Makalah penuh, termasuk anggaran beban kerja, infrastruktur dan Rajah 2
- Imej asal Rajah 2
- Lesen CC BY 4.0 bagi rajah dalam makalah
Untuk menyimpan perbincangan di sebalik serahan kerja dalam rekod yang boleh dicari, cipta akaun Telli.sh.