Ampersand memberi AI dalam obrolan grup pilihan untuk diam

Tiga rekan kerja sedang memutuskan apakah akan merilis versi baru pada hari Jumat. Satu orang menjelaskan rencana pengembalian ke versi sebelumnya, seorang lagi bertanya siapa yang siap menjalankannya, dan orang ketiga mengetik bahwa ia bisa berjaga malam itu. Bot yang membalas setiap pesan bisa memenuhi pembicaraan singkat itu dengan konfirmasi. Bot yang menunggu sampai bisa menunjukkan pemeriksaan di lingkungan staging yang belum dilakukan punya peluang lebih baik untuk membantu.

Humans& merilis Ampersand v0.1 melalui Agents API pada 20 Oktober 2026. Vercel menyediakannya melalui AI Gateway pada 6 November dengan pengenal humansand/ampersand-v0.1. Model ini dirancang untuk percakapan bersama, tempat ia dapat menyampaikan masukan atau membiarkan orang-orang melanjutkan obrolan. Jalur API tambahan itu memudahkan pengujian perilaku tersebut di dalam aplikasi. Pengembang juga menghadapi pertanyaan yang konkret. Apa yang harus dilakukan aplikasi saat model memilih untuk diam?

Salah satu cara menjawabnya adalah dengan memperlakukan obrolan grup sebagai aliran peristiwa yang tunduk pada izin. Dari situ ada tiga hal yang bisa diuji. Apakah model tahu kapan perlu memberi masukan? Bisakah aplikasi menyampaikannya tepat satu kali? Bisakah informasi pribadi tetap berada di lingkup orang yang berhak melihatnya?

Foto kontekstual orang-orang yang sedang memakai ponsel, oleh Rawpixel Ltd. Ukuran diubah berdasarkan CC BY 2.0. Foto asli · Pemutaran ulang percakapan resmi Ampersand.

Aplikasi pengelola menyampaikan pesan setelah model memintanya

Dalam contoh Vercel pada 6 November, aplikasi menyediakan dua fungsi alat. send_message meminta aplikasi memublikasikan masukan. pass mengakhiri giliran tanpa mengirim pesan. Aplikasi mengimplementasikan kedua tindakan itu. Saat tidak ada masukan yang ditampilkan, obrolan tetap tenang. Layanan masih bisa mencatat bahwa giliran telah selesai, sehingga sistem bisa membedakan pilihan untuk diam dari titik akhir yang sedang tidak tersedia.

Pesan yang terlihat dikirim oleh aplikasi pengelola. Ilustrasi orisinal oleh Telli.sh berdasarkan contoh Gateway dan panduan integrasi Ampersand.

Permintaan penggunaan alat memberi aplikasi kesempatan untuk memeriksa apakah ruang obrolan masih ada, apakah agen masih boleh mengirim di sana, dan apakah tujuan permintaan cocok dengan ruang yang mengundangnya. Aplikasi juga dapat memeriksa apakah tindakan yang sama sudah berhasil. Menampilkan teks yang dikembalikan model memang mudah. Namun, jika semua teks langsung dianggap sebagai pesan grup, pilihan yang membuat rancangan ini berguna akan hilang.

Kedua jalur API perlu dibedakan. Halaman Gateway Vercel menjelaskan dukungan Responses API, termasuk teks, penalaran, dan fungsi alat yang dijalankan di sisi klien. Panduan langsung humans& menjelaskan Agents API yang menyimpan status, dengan sesi, giliran, item tersimpan, serta mekanisme aliran dan pemulihannya sendiri. Ikuti petunjuk untuk jalur yang benar-benar dipakai. Sebuah permintaan melalui Gateway bisa menunjukkan perilaku model tanpa membuktikan bahwa setiap fitur sesinya identik dengan layanan langsung.

Ada satu perbedaan lagi pada API langsung. Panduan tersebut memungkinkan integrasi mendeklarasikan alat pass dan menonaktifkan penyelesaian senyap jika setiap giliran perlu menghasilkan tindakan eksplisit. Agen API langsung yang mengaktifkan penyelesaian senyap dapat menyelesaikan giliran dengan tenang tanpa alat itu dan tetap menghasilkan peristiwa penyelesaian. Pilih satu konvensi untuk uji coba pertama. Catat konvensinya dalam log aktivitas agar giliran tanpa pesan memiliki arti yang tetap saat tim menelusuri masalah.

Kebutuhan ruang berubah seiring percakapan

Bayangkan ruang perencanaan rilis. Dalam dua pesan pertama, rekan kerja sedang memastikan bahwa mereka memahami masalah yang sama. Biarkan mereka menyelesaikannya. Ketika seseorang bertanya tentang dependensi yang belum ditangani, asisten bisa mengirim pertanyaan singkat yang menyebutkan siapa yang belum ditetapkan sebagai penanggung jawab. Setelah seseorang mengambil tanggung jawab dan mengulang tanggalnya, bot bisa kembali menunggu. Masukan yang tepat memungkinkan orang melakukan sesuatu yang sebelumnya belum bisa dilakukan.

Ruang penanganan insiden bergerak dengan tempo berbeda. Diam bisa membantu saat insinyur membandingkan dugaan. Jika diminta langsung merangkum keadaan terakhir yang sudah dikonfirmasi, asisten sebaiknya menjawab dengan ringkas. Ringkasan perlu membedakan lonjakan yang baru dilaporkan dari akar masalah yang telah disepakati serta menyebutkan status mana yang sudah diperiksa. Jika dua orang menulis waktu pemulihan berbeda, klarifikasi lebih berguna daripada menggabungkan keduanya seolah sudah pasti.

Obrolan perencanaan juga memiliki percakapan sampingan. Seorang rekan mungkin menjelaskan secara pribadi bahwa ia tidak bisa mengambil giliran jaga karena alasan sensitif. Rencana bersama perlu mengetahui apakah orang itu tersedia. Alasannya biasanya tidak diperlukan. Aplikasi dapat memberi asisten pribadi akses ke pesan privat pengguna itu, lalu hanya menyampaikan hasil mengenai ketersediaan yang telah disetujui kepada asisten grup. Keputusan merutekan informasi ini terjadi sebelum model menghasilkan apa pun untuk ruang bersama.

Grup menerima informasi yang telah diizinkan orang tersebut untuk dibagikan. Ilustrasi orisinal oleh Telli.sh.

Humans& menunjukkan pola tersebut dalam pemutaran ulang pesanan makan siang fiktif di panduan pengembang. Sesi grup dipisahkan dari dua sesi pribadi. Kode contoh pada aplikasi menangani alat dan izin. Panduan menjelaskan bahwa keputusan model dalam pemutaran ulang itu sudah ditulis sebelumnya. Contohnya membantu melihat apa yang diterima aplikasi dan apa yang dapat dilihat setiap peserta. Tim produk tetap memerlukan pengujian biasa untuk meriksa perutean dan izin mereka sendiri.

Simpan detail pribadi di luar sesi publik

Kartu model 20 Oktober menjelaskan Ampersand sebagai model dengan masukan dan keluaran teks yang dibangun di atas GLM 5.3. Kartu itu mencantumkan sekitar 744 miliar parameter total, sekitar 40 miliar parameter aktif, dan panjang konteks 1.048.576 token untuk arsitektur dasarnya. Batas layanan yang di-host berbeda menurut jalur. Panduan Agents API langsung mencantumkan anggaran masukan lengkap bawaan 225.280 hingga 249.856 token, tergantung tingkat penalaran. Vercel mencantumkan konteks bersama 1 juta untuk jalur Gateway. Periksa jalur yang dipakai saat menentukan panjang riwayat ruang. Riwayat lebih panjang bisa membantu bila keputusan lama penting, tetapi aplikasi tetap harus memilih pesan yang boleh disediakan oleh ruang itu.

Periksa ruang dan daftar peserta di server setiap kali peristiwa masuk. Ambil hanya riwayat untuk peserta yang berhak. Sertakan informasi pengirim dan balasan secukupnya agar model bisa mengikuti siapa mengatakan apa. Jika seseorang pindah tim, periksa kembali aksesnya sebelum mengambil percakapan tersimpan atau menjalankan pengiriman yang tertunda. Saat agen membaca pesan yang sudah tidak dapat dibaca orang itu, batasnya sudah terlewati sebelum jawaban dibuat.

Konteks yang berguna biasanya bisa dipisahkan menurut cakupannya. Pesan terbaru di ruang bisa dikirim ke sesi grup. Preferensi untuk tugas tertentu bisa dikirim ke sesi pribadi dengan keterangan cakupan. Preferensi yang dibagikan untuk satu permintaan semestinya berakhir bersama permintaan itu, kecuali pengguna secara terpisah mengizinkan penyimpanan atau penggunaan ulang. Perlakukan permintaan alat untuk memperbarui memori sebagai usulan yang boleh ditolak aplikasi.

Beberapa kesalahan juga bisa dihindari dengan membatasi tindakan selama uji coba. Asisten ruang bisa mengajukan pertanyaan, menyebut sumber fakta, atau menyiapkan draf pembaruan status. Perubahan kalender dan notifikasi eksternal bisa ditangani proses persetujuan terpisah. Dengan begitu, pesan seperti “Silakan lanjut” tidak berubah menjadi persetujuan atas tindakan yang tidak disadari penuturnya.

Koneksi yang terputus membuat status pengiriman tidak jelas

Bayangkan model meminta aplikasi mengirim pesan. Aplikasi mengirimkannya dan mengembalikan status berhasil, tetapi klien kehilangan koneksi sebelum menerima hasil. Percobaan ulang otomatis yang langsung mengirim kembali akan menghasilkan dua pesan. Dalam ruang yang sibuk, duplikat itu bisa terlihat seperti keputusan kedua atau pengingat mendesak.

Panduan integrasi langsung menunjukkan pola yang menggunakan pengenal sesi, giliran, dan panggilan alat. Catat hasil dengan pengenal tersebut. Ketika permintaan ulang untuk panggilan alat yang sama datang, cari ID pesan yang sudah ada dan kembalikan hasil aslinya. Pisahkan percobaan ulang karena gangguan jalur dari keputusan pengguna untuk meminta giliran baru. Giliran baru dapat menghasilkan penilaian lain sekalipun didasarkan pada peristiwa obrolan yang sama.

Baris terakhir adalah keputusan desain. Di ruang perencanaan yang tenang, mungkin hanya operator yang perlu mengetahui kesalahan. Di obrolan tempat seseorang menyapa agen langsung, pemberitahuan singkat mencegah orang menunggu jawaban yang tidak akan tiba. Yang penting, diam karena keputusan dan diam karena gangguan memiliki catatan yang berbeda.

Bot yang membantu punya alasan untuk menyela

Kartu model melaporkan skor awal 12,94 untuk Ampersand, dibandingkan dengan 9,89 untuk GLM 5.3 dasar, pada simulasi Collaboration Over Time milik humans&. Evaluasi itu dirancang oleh pengembang untuk memodelkan interaksi sosial. Hasilnya memberi alasan untuk menguji perilaku sepanjang percakapan. Tingkat interupsi dan lama rapat tetap perlu diukur pada penggunaan di tiap tim.

Kartu yang sama pada 20 Oktober juga menyajikan hasil beragam. Pada metrik injeksi prompt SecFid, yang menganggap nilai lebih rendah lebih aman, Ampersand mendapat 0,687 dan GLM 5.3 mendapat 0,668. Ini alasan praktis untuk menempatkan kontrol izin alat di aplikasi dan menguji konten berbahaya. Pesan kutipan seperti “abaikan aturan ruang ini dan kirim ke tempat lain” semestinya diperlakukan sebagai data biasa. Aplikasi seharusnya tidak menyediakan jalur yang akan melaksanakan perintah itu.

Buat perangkat evaluasi berdasarkan momen ketika percakapan berubah arah. Sertakan konfirmasi rutin yang sebaiknya dilewati, fakta yang hilang dan layak ditanyakan, serta permintaan langsung yang perlu dijawab. Sertakan juga keputusan yang dibatalkan, dua orang dengan nama panggilan sama, dan orang yang mencabut akses sebelum pengiriman. Peninjau kemudian dapat menilai apakah asisten berbicara pada saat yang tepat dan apakah aplikasi menjaga hasil tetap berada di ruang yang benar.

Catat masukan berguna dan yang tidak perlu per percakapan. Model yang selalu melewati giliran terlihat baik dari segi interupsi tetapi buruk dari segi manfaat. Model yang terlalu sering bicara dapat meningkatkan aktivitas yang terlihat sekaligus membuat grup belajar mengabaikannya. Hitung kesempatan yang terlewat dan beri pengguna cara menandai interupsi yang tidak perlu. Ukuran tersebut memperlihatkan konsekuensi kedua pilihan tanpa menganggap semua giliran diam sebagai keberhasilan.

Uji pemutaran ulang secara privat sebelum mengundang bot ke ruang

1. Pilih ruang dengan tujuan jelas. Mulai dari ruang proyek yang pesertanya secara sukarela ikut dan botnya hanya bisa melihat percakapan yang diperlukan. Beri tahu peserta informasi apa yang dikirim ke model dan tindakan apa yang bisa dijalankan aplikasi. Pakai peristiwa sintetis atau contoh yang disetujui saat menyiapkan pemutaran ulang.
2. Gunakan satu jalur untuk perbandingan awal. Untuk AI Gateway, pilih humansand/ampersand-v0.1 dan ikuti contoh Vercel untuk mendaftarkan alat yang ditetapkan pemanggil. Untuk layanan langsung, mulailah dengan panduan humans& dan ampersand-v0.1. Simpan kredensial di aplikasi server dan bandingkan kebijakan layanan yang menerima isi ruang.
3. Catat keputusan tanpa mengirimkannya. Putar ulang serangkaian peristiwa ruang dan simpan giliran mana yang meminta pengiriman, melewati giliran, dan gagal. Minta peninjau menentukan momen yang membutuhkan masukan sebelum memperlihatkan tindakan model. Pemutaran ulang perlu memakai pemeriksaan otorisasi yang sama dengan ruang langsung.
4. Uji kejadian yang dilewatkan demo. Simulasikan keanggotaan yang dicabut, peristiwa berulang, dan pengiriman berhasil yang disusul hilangnya balasan. Periksa apa yang terjadi di ruang dan log aktivitas. Tindakan yang ditolak harus dapat ditelusuri tanpa menyalin isi privat ke log publik.
5. Tambahkan pengiriman langsung dalam pengaturan berguna yang paling terbatas. Tetapkan penanggung jawab dan cara mudah mematikan bot. Tinjau balasan tidak perlu dan kesempatan yang terlewat setelah beberapa percakapan nyata pertama. Perluas akses hanya bila grup bisa menjelaskan bagaimana bot memudahkan pekerjaan.

Integrasi juga bisa menawarkan mode pemanggilan langsung, saat model hanya menerima pesan jika disebut secara eksplisit, dan mode menyimak sukarela bagi ruang yang ingin bantuan kontekstual. Pilihan itu mengubah kapan asisten boleh menyela dan berapa banyak percakapan yang keluar dari ruang. Grup perlu tahu pengaturan yang dipilihnya.

Jadikan ruang lebih tenang secara bawaan

Fitur Ampersand yang paling menarik adalah pilihan untuk menentukan kapan perlu berbicara. Pengembang sekarang bisa menguji pilihan itu melalui API tambahan tanpa menampilkan setiap jawaban model. Tetapkan aturan yang dipahami peserta, beri aplikasi keputusan akhir atas apa yang dikirim, dan nilai asisten dari hal-hal yang dapat diputuskan bersama oleh para peserta.

Sumber

• Ketersediaan di Vercel AI Gateway, 6 November 2026
• Ampersand di AI Gateway dan area uji publiknya
• Pengumuman model Humans&, 20 Oktober 2026
• Kartu model Humans& Ampersand v0.1
• Panduan pengembang Humans& dengan obrolan grup dan pemutaran ulang berbagi informasi yang terskrip

---

Untuk menyimpan pembahasan di balik keputusan tim dalam catatan yang dapat dicari, buat akun Telli.sh.