Bolehkah pembantu AI tempatan mendiagnosis masalah tanpa mewarisi akses rangkaian?
Keluaran sumber terbuka Transit membolehkan pasukan memilih model tempatan atau dihoskan. Arahan, kelayakan akses dan data yang merentasi sempadan itu masih menentukan perkara yang selamat disiasat.
Sebuah cawangan melaporkan bahawa telefon boleh membuat panggilan tetapi tidak sentiasa boleh menerimanya. Pasukan rangkaian melihat perubahan antara muka, peristiwa penghalaan dan beberapa operasi yang tamat masa. Pembantu yang berguna boleh menyusun pemerhatian itu dan mencadangkan arahan baca sahaja seterusnya. Pemilihan model cuma satu bahagian daripada kerja ini. Pengendali juga perlu tahu kelayakan akses yang boleh digunakan alat, teks yang dihantar keluar daripada mesin dan sama ada model boleh mencetuskan perubahan.
Transit ialah alat penyiasatan rangkaian yang memasukkan kliennya ke projek sumber terbuka Apache 2.0 pada 21 Oktober 2026. Halaman peralihan menetapkan 5 November sebagai tarikh tamat akses tahunan dan menyebut 17 November sebagai tarikh perubahan AI dihoskan yang dirancang. Tarikh itu menerangkan peralihan perniagaan produk. Perisian yang tersedia dan status akaun tertentu bagi perkhidmatan dihoskan ialah soalan berasingan. Keluaran projek, README dan dokumentasi ciri merupakan rujukan terbaik untuk binaan yang akan diuji pasukan.
Makna tempatan dalam sesuatu penyiasatan
Memilih titik akhir model. Ilustrasi asal Telli.sh.
Klien boleh menggunakan Ollama atau titik akhir lain yang serasi dengan OpenAI. Dokumentasinya turut menerangkan penggunaan kunci OpenAI atau Anthropic sendiri dan pratonton log masuk ChatGPT Plus atau Pro yang layak. Mengarahkan Transit kepada pelayan Ollama pada mesin yang sama boleh mengekalkan inferens pada mesin tersebut. Mengarahkannya ke titik akhir syarikat menghantar data ke sana. Memilih penyedia awan menghantar permintaan kepada penyedia itu dengan penyamaran mengikut dokumentasi projek.
Secara berasingan, klien masih perlu mencapai peralatan rangkaian untuk mengumpul bukti. Penyiasatan mungkin melibatkan hos perantara, akaun pengendali baca sahaja dan beberapa peranti. Titik akhir model tempatan tidak mengehadkan peranti yang boleh dihubungi klien. Batas itu datang daripada kebolehcapaian rangkaian dan skop kelayakan akses.
Repositori mendokumenkan set alat yang terhad dan senarai arahan dibenarkan bagi vendor yang disokong. Ia menerangkan dasar kelulusan arahan, termasuk pilihan kelulusan automatik yang ditetapkan pengendali bagi peraturan yang sepadan pada sistem yang disokong. Penyamaran data dan penapisan arahan ialah lapisan yang boleh diuji pasukan. Anggap sepanduk peranti dan log sebagai teks tidak dipercayai, terutama apabila ia mengandungi ayat berbentuk arahan. Pembantu boleh meringkaskannya tanpa menganggap kandungannya berkuasa memberi arahan.
| Sempadan | Soalan kepada pengendali | Ujian yang berguna |
|---|---|---|
| Titik akhir model | Ke mana gesaan yang dihimpunkan dihantar? | Periksa destinasi sambungan menggunakan kes contoh |
| Akses peralatan | Peranti dan akaun manakah yang boleh dicapai alat? | Cuba hos di luar skop yang diketahui dalam makmal |
| Kelulusan arahan | Siapa boleh meluluskan tindakan yang dicadangkan? | Tolak satu arahan dan pastikan ia tidak dijalankan pada peranti |
| Bukti dan log | Data manakah kekal atau keluar daripada mesin? | Gunakan nilai penanda yang tidak berbahaya dan periksa eksport |
Suis dan panel tampalan sejenis dengan peralatan yang disiasat pengendali. Foto konteks oleh Dsimic, dipangkas dan diubah saiz, CC BY-SA 4.0. Sumber imej · Lesen.
Percubaan berasaskan gangguan yang diketahui
Penyiasatan rangkaian. Ilustrasi asal Telli.sh.
Sediakan makmal kecil dengan masalah penghalaan atau antara muka yang diketahui. Beri alat akaun dengan keistimewaan minimum pada peranti sasaran dan sertakan hos tidak berkaitan yang sepatutnya kekal tidak boleh dicapai. Minta hipotesis dan senarai ringkas pemerhatian yang boleh menyangkalnya. Jalankan satu arahan show yang dicadangkan selepas menyemaknya. Bandingkan output dengan pemerhatian sama yang dikumpulkan secara manual.
Beri pembantu gejala kabur dalam percubaan kedua. Perkhidmatan yang perlahan mungkin sepadan dengan beberapa laluan rangkaian, dan arahan peranti boleh mendedahkan pengecam pelanggan dalam persekitaran sebenar. Rentetan penanda contoh membantu pasukan menyemak lokasi output dihantar, dilog atau disimpan. Asingkan sambungan makmal daripada hos perantara produksi sehingga pengendali memahami perkara yang didedahkan oleh setiap mod.
Apabila hasil dieksport, lampirkan arahan, masa, identiti peranti dan output berkaitan pada hipotesis yang disokongnya. Pengendali kemudian boleh menyemak rantaian bukti tanpa perlu mengingati ayat yang datang daripada penghala atau model.
Integriti keluaran dan had model tempatan
Transit mengatakan binaan keluarannya tidak ditandatangani. Fail SHA256SUMS setiap keluaran boleh membantu menyemak sama ada fail yang dimuat turun sepadan dengan ringkasan kriptografi yang diterbitkan. Perbandingan itu sahaja tidak mengesahkan identiti penerbit. Pasukan yang memerlukan artifak ditandatangani boleh menilai pembinaan daripada tag yang disemak melalui proses pengedaran perisian sendiri. Dokumentasi pemasang Windows juga menetapkan PowerShell 7.
Inferens tempatan boleh mengurangkan pergantungan kepada penyedia awan dan sesuai dengan persekitaran yang mengehadkan perkongsian data. Model tempatan yang lebih kecil mungkin tertinggal konteks, tersalah baca output pelbagai vendor atau mengambil masa lebih lama pada perkakasan yang tersedia. Uji kes diketahui yang sama pada konfigurasi tempatan dan dihoskan yang diluluskan jika kedua-duanya dibenarkan. Ukur bilangan hipotesis betul, arahan yang tidak diperlukan, perkaitan peranti yang salah dan jumlah masa pengendali.
Jangkaan yang munasabah untuk penggunaan pertama ialah pengumpulan bukti dalam skop terhad dengan kelulusan automatik dimatikan dan setiap cadangan arahan disemak pengendali. Jika percubaan makmal menghasilkan bukti konsisten dan laporan yang boleh dipertahankan, soalan seterusnya ialah jenis penyiasatan baca sahaja yang boleh menggunakan aliran itu dalam produksi. Keputusan tersebut lebih khusus dan berguna daripada memberikan akses rangkaian umum kepada model.
Pasang binaan yang dikenal pasti dan catat batasnya
Keluaran v6.5.11 membetulkan ketidakpadanan nama dalam manifes checksum supaya entri sepadan dengan nama fail yang dinormalkan GitHub. Pilih keluaran dan platform dengan teliti dan semak checksum yang diterbitkan sebelum menjalankan pemasang. Semak nota keluaran dan dapatkan fail melalui repositori rasmi. Jika organisasi mengedarkan perisian diluluskan melalui katalog terurus, ikut prosedur itu. Ringkasan yang sepadan sahaja tidak memberikan kebenaran memasang.
README menerangkan enam alat penyiasatan. Bilangan yang kecil berguna jika pengendali mengetahui jangkauan setiap alat. Senaraikan titik akhir model, hos perantara dan satu suis ujian sebelum memberikan kelayakan akses. Rekod akaun yang membuka setiap sambungan. Jika pembangun mengkonfigurasi pelayan Ollama berasingan, semak alamat yang benar-benar dicapai klien. Perkhidmatan di rangkaian pejabat masih merupakan destinasi luaran dari sudut komputer riba.
- Cipta kes makmal dengan gejala diketahui dan akaun yang terhad kepada peralatan sasaran.
- Sahkan binaan yang dipilih dan semak tetapan titik akhir, kelayakan akses dan pengekalan.
- Minta pemerhatian seterusnya dan hipotesis yang boleh disangkal oleh pemerhatian itu.
- Dengan kelulusan automatik dimatikan, tolak satu cadangan dan semak log peranti sebelum membenarkan arahan selamat lain.
- Masukkan nilai penanda yang tidak berbahaya ke dalam log contoh. Sahkan sama ada klien menyembunyikannya dan lokasi nilai itu muncul dalam rekod tempatan atau pada titik akhir yang dikonfigurasikan.
- Eksport dapatan dan minta pengendali lain menghasilkan semula diagnosis menggunakan bukti yang direkodkan.
Pengguna yang bertukar penyedia patut mengulangi latihan ini selepas konfigurasi berubah. Butang yang sama boleh menghasilkan laluan data baharu apabila titik akhir berubah. Pemerhati rangkaian di makmal yang dibenarkan boleh mengesahkan destinasinya. Tangkapan skrin tetapan sahaja tidak menunjukkan destinasi yang menerima permintaan.
Bezakan suis yang disokong daripada shell umum
Model ancaman pada tag Transit menerangkan dasar arahan bagi vendor disokong, termasuk kelulusan automatik pilihan jika peraturan sepadan telah didayakan. Percubaan boleh mematikan pilihan itu dan mewajibkan pengendali menyemak setiap cadangan. Alat masih memerlukan akaun peranti dengan skop sempit. Dialog kelulusan tidak mengecilkan keistimewaan akaun perkhidmatan.
Model ancaman yang sama mendokumenkan dasar berlainan untuk Linux dan Unix umum. Laluan itu memberi amaran kepada pengendali, memerlukan kelulusan bagi setiap arahan dan tidak menawarkan peraturan sentiasa benarkan. Dasar arahan bagi sistem umum itu tiada sekatan. Asingkan aliran ini daripada percubaan awal baca sahaja kecuali organisasi boleh menguatkuasakan skop secara bebas. Kelas peranti dan akaun merupakan sebahagian daripada reka bentuk keselamatan.
Senario makmal kedua boleh menguji saat alat menemui output yang tidak dikenali. Arahan mungkin melaporkan pembilang yang model tidak kenal, atau nama antara muka boleh berbeza antara dua vendor. Respons yang berguna memetik pemerhatian asal dan meminta semakan yang boleh membezakan kemungkinan. Respons lemah menganggap tafsiran yang munasabah sebagai fakta. Pengendali boleh menilai kedua-duanya tanpa mendedahkan peranti produksi.
Jadikan eksport berguna kepada syif seterusnya
Diagnosis satu baris memudahkan orang yang menjalankan penyiasatan. Serahan syif memerlukan pemerhatian terakhir yang disahkan, perkara yang sudah disingkirkan, ketidakpastian yang tinggal dan perkara yang boleh disemak pengendali seterusnya tanpa membuka semula semua sesi. Sertakan rujukan bukti di sebelah setiap dakwaan penting. Jika model mengubah diagnosis selepas melihat entri log baharu, catat sebabnya.
Perbandingan terbaik memasukkan proses manual yang sudah digunakan pasukan. Catat masa untuk menemui pemerhatian pertama yang berguna, bilangan cadangan arahan yang tidak berkaitan dan masa menulis serahan. Model tempatan boleh memberikan kelebihan privasi yang bermakna apabila mampu membuat kerja pada kelajuan yang boleh diterima. Model dihoskan yang diluluskan mungkin lebih praktikal bagi kes lebih sukar jika dasar data membenarkannya. Pastikan laluan sambungan dan bukti yang terhasil jelas dalam kedua-dua mod.
Jejaki setiap destinasi secara berasingan
Rekod konfigurasi yang berguna menyenaraikan perkara yang dihantar antara muka pengguna, perkara yang diteruskan untuk inferens dan perkara yang dikumpulkan daripada peralatan. Ini boleh memudahkan semakan apabila penyedia berubah. Anggap tetapan pengekalan pada setiap destinasi sebagai berasingan. Sejarah sesi tempatan yang telah dipadam tidak membuktikan titik akhir membuang permintaan lama.
| Mod | Destinasi inferens | Satu semakan yang berguna |
|---|---|---|
| Ollama pada stesen kerja yang sama | Titik akhir gelung balik | Pastikan proses menyambung ke pendengar tempatan yang dimaksudkan |
| Pelayan inferens syarikat | Alamat dalaman | Sahkan pengesahan perkhidmatan dan pengekalan gesaan |
| Penyedia dihoskan | Titik akhir penyedia yang diluluskan | Semak penyamaran dan dasar menggunakan bukti rekaan |
| Pratonton log masuk akaun | Akaun penyedia yang layak | Sahkan akaun yang betul dan kawalan pentadbiran yang tersedia |
Jadual menerangkan penggunaan biasa. Pasukan patut memerhati titik akhir sebenar dan konfigurasi perkhidmatan yang dipilih. Pentadbir mungkin melihat jenama yang sama pada panel tetapan untuk perkhidmatan dihoskan dan gerbang peribadi. Mengenal pasti nama hos dan pengendali sebenar menjadikan aliran data boleh diaudit.
Gunakan bukti sintetik untuk menyemak penyamaran
Bina log makmal dengan alamat IP palsu, label peranti rekaan dan penanda yang menyerupai pengecam pelanggan. Tandakan butiran yang perlu dikekalkan, disamarkan atau dibuang mengikut dasar. Cuba data ujian yang sama dalam dua operasi berasingan, seperti ringkasan sembang dan eksport. Sistem mungkin membina kedua-dua output secara berlainan. Periksa setiap saluran sebelum membenarkan data sebenar.
Ujian kedua patut menggunakan penanda yang tertanam dalam penerangan panjang atau output berformat. Peraturan penyamaran boleh mengendalikan medan yang dikenalinya tetapi terlepas nilai sama dalam teks biasa. Jika hasil masih mendedahkan penanda kepada destinasi tanpa kebenaran, tutup laluan itu sebelum menyambung peralatan produksi. Pengendali boleh mengecilkan set data asal dan mengulang ujian untuk melihat perlindungan yang benar-benar berfungsi.
Nilai semula selepas naik taraf
Selepas mengemas kini klien, rekod penyedia yang dipilih dan ulangi kes makmal yang sama. Perubahan kepada senarai arahan dibenarkan atau padanan kelulusan automatik boleh mempengaruhi cadangan alat. Perubahan pada titik akhir lalai boleh mengubah destinasi bukti. Sahkan arahan yang ditolak, satu kes penyamaran dan satu diagnosis berjaya bagi masalah diketahui. Set regresi kecil itu memudahkan pengendalian alat sumber terbuka apabila persekitaran pasukan berubah.
Semak alat dan akaun peranti secara bebas
Alat baca boleh mengembalikan metadata peranti atau bukti yang sudah tersedia. Alat pelaksanaan arahan boleh meminta bukti baharu daripada peranti menggunakan akaun yang disambungkan. Permintaan ringkasan patut kekal boleh dibuat apabila pelaksanaan tiada. Uji sempadan itu dengan memutuskan sambungan peranti sambil membiarkan titik akhir model aktif. Respons perlu membezakan maklumat daripada pemerhatian terdahulu dengan pemerhatian baharu yang tidak dapat dikumpulkan.
Kemudian sambung menggunakan akaun yang boleh memeriksa satu suis tetapi tidak boleh memasuki mod konfigurasi atau mencapai segmen rangkaian lain. Pasukan boleh menguji laluan yang ditolak pada infrastruktur makmal sendiri tanpa meminta pembantu mencuba perubahan sebenar. Bandingkan rekod tindakan dicadangkan aplikasi dengan audit log masuk dan arahan peranti. Latihan ini mengasingkan keputusan dasar alat daripada akses yang sebenarnya dimiliki akaun.
Sumber
Untuk menyimpan rekod perbualan dan keputusan di sebalik kerja anda yang boleh dicari, Cipta akaun Telli.sh.