Local AI8 menit baca

Bisakah AI suara luring di Mac menunggu giliran bicara?

Versi Apple Silicon Sophon-Realtime memproses percakapan di perangkat. Coba simulasi wawancara untuk membedakan memori, jeda respons, gema, dan interupsi.

K
Ken Jo

Bayangkan Anda berlatih wawancara kerja di meja dapur. Anda mulai menjelaskan cara menyelesaikan sebuah masalah, berhenti sesaat untuk mencari kata yang tepat, lalu pewawancara menyela seperti Anda sudah selesai. Beberapa saat kemudian, Anda mencoba mengoreksi pewawancara, tetapi ia terus berbicara. Kedua kegagalan itu bisa terjadi pada aplikasi suara yang terdengar bagus ketika jawaban diputar ulang.

Pada 13 November 2026, Adventists AI mengumumkan versi lokal Sophon-Realtime untuk Mac. Versi itu memadukan model suara Flash-4bit dengan runtime MLX milik Apple pada perangkat Apple Silicon. Proyek merekomendasikan memori terpadu 36 GB atau lebih, mencantumkan pengaturan giliran dan interupsi sebagai kemampuan, serta menyebut unduhan model sekitar 24 GB saat memasang versi Mac. API dengan layanan hos yang diumumkan terpisah pada 14 November tidak menjalankan proses percakapan itu di Mac Anda.

Pertanyaan menariknya bukan sekadar apakah Mac bisa memutar suara model. Yang penting adalah apakah proses dari mendengar sampai menjawab terasa seperti percakapan tanpa menggunakan jaringan. Simulasi wawancara singkat bisa membantu mengetahuinya. Kita akan membedakan waktu menunggu suara pertama dari keputusan kapan aplikasi mulai bicara, lalu melihat berapa banyak ruang yang tersisa untuk pekerjaan lain di komputer.

Mikrofon, pemrosesan MLX lokal, dan pengeras suara dalam ilustrasi alur suara

Setelah penyiapan, jalur lokal memproses audio di perangkat; API dengan layanan hos memakai jalur lain.

Dari titik mana perkiraan satu detik sebaiknya diukur?

Untuk M4 Max dengan memori 36 GB, kartu model Mac dari proyek melaporkan 0,9–1,1 detik dari berhenti bicara hingga audio pertama ketika model yakin giliran sudah selesai. Jika model perlu waktu untuk memastikan, proyek melaporkan jeda hingga sekitar 2,5 detik. Ini hasil proyek untuk konfigurasi tersebut. Sebelum mencoba mereproduksinya, tentukan arti “berhenti”. Anda dapat menandai suku kata terakhir yang terdengar dalam rekaman, sedangkan sistem membuat keputusan sendiri mengenai kapan giliran masukan berakhir. Kedua waktu itu bisa terpisah oleh jeda yang terdengar wajar bagi manusia.

Waktu ke audio pertama mencakup apa pun yang terjadi antara akhir ucapan dan awal keluaran suara. Kadang jeda muncul karena model sedang memproses, kadang karena sistem menunggu untuk menentukan apakah Anda sudah selesai. Model cepat pun bisa menyela di setiap jeda jika keheningan dianggap sebagai jawaban akhir terlalu dini. Sebaliknya, sistem yang tertib dapat menunggu sedikit lebih lama saat pergantian giliran belum jelas. Stopwatch saja tidak menentukan pengalaman mana yang lebih baik.

Coba pertanyaan “mengapa Anda memilih caching?” Jawab singkat, akhiri dengan jelas, lalu biarkan aplikasi menanggapi. Pada percobaan kedua, katakan “kami memilih caching karena…” dan berhenti sesaat sebelum melanjutkan. Pada percobaan ketiga, ucapkan jawaban yang sama dengan kipas menyala di dekat Anda. Aplikasi bisa punya waktu ke audio pertama yang sama dalam uji pertama tetapi gagal pada dua uji lain. Bandingkan waktu hanya setelah memeriksa bahwa aplikasi mulai bicara pada saat yang tepat.

Peristiwa percakapanPengamatan yang dicatatMengapa penting
Jawaban jelas sudah selesaiWaktu dari suku kata terakhir hingga respons terdengarMenunjukkan apakah menunggu respons terasa lama
Jeda di tengah kalimatAsisten menunggu atau mulai menjawab?Menunjukkan apakah diam dianggap izin untuk mengambil giliran
Koreksi saat suara sedang diputarWaktu hingga asisten berhenti dan apakah koreksi dipahamiMenguji apakah pengguna dapat mengambil kembali giliran
Suara aplikasi tertangkap mikrofonRespons yang dipicu oleh suara sendiri atau teks yang diulangMenunjukkan bagaimana gema memengaruhi percakapan di ruangan itu

Ukuran ini dapat dikumpulkan di rumah dengan suara Anda sendiri. Catat kondisi bersama angkanya. Speaker dan headphone menimbulkan jalur gema yang berbeda. Menggunakan kipas adalah uji tekanan praktis, bukan tolok ukur suara yang baku. Jangan pakai uji ruangan tanpa kendali untuk menarik kesimpulan tentang latensi server.

Interupsi perlu diuji dalam dua bagian

Sophon menggambarkan versi Mac sebagai full duplex dan mencantumkan kemampuan untuk menerima interupsi saat bicara serta meredam gema. Pada aplikasi interaktif, interupsi berguna jika keluaran berhenti dan informasi baru tetap dipahami. Sistem yang langsung diam saat mendengar “maaf, maksud saya Selasa” tetapi terus menalar tentang Kamis baru menyelesaikan separuh masalah.

Dalam simulasi wawancara, minta tanggapan panjang, lalu katakan “sebentar, yang saya bahas itu migrasi basis data, bukan peluncuran untuk pelanggan.” Perhatikan apakah jawaban berhenti, apakah aplikasi mengakui koreksi, dan apakah pertanyaan selanjutnya sesuai. Coba interupsi dengan koreksi bermakna dan dengan suara pendek seperti batuk. Aplikasi tidak harus memperlakukan keduanya sebagai kejadian yang sama. Perilaku baik dalam uji pertama bisa menyamarkan betapa mudahnya aplikasi menghentikan keluaran di ruangan nyata.

Gema berbeda dari interupsi. Uji dengan headphone dan dengan speaker pada volume nyaman. Jika suara konfirmasi memicu giliran perekaman baru dengan sendirinya, posisi mikrofon atau cara meredam gema bisa lebih berpengaruh daripada ukuran model. Jangan sekaligus mengganti perangkat keras, model, dan pengaturan audio. Anda perlu tahu mengapa uji berikutnya lebih baik atau lebih buruk.

Tiga contoh giliran bicara: jeda singkat, konfirmasi, dan interupsi

Uji jeda dan koreksi yang disengaja secara terpisah. Keduanya bisa mengandung keheningan, tetapi aplikasinya semestinya merespons dengan cara berbeda.

Pada versi Mac, memori ikut menentukan pengalaman

Panduan instalasi Mac mendokumentasikan jalur Apple Silicon berbasis MLX dan merekomendasikan memori terpadu 36 GB atau lebih. Unduhan sekitar 24 GB adalah ukuran penyimpanan. Itu tidak berarti kebutuhan memori aktif persis 24 GB. Model, cache, pemrosesan audio, dan aplikasi lain berbagi sumber daya dalam sesi nyata.

Untuk uji pertama, tutup aplikasi berat dan pakai skenario singkat. Periksa tekanan memori di Activity Monitor dan lihat apakah penggunaan swap meningkat. Kemudian buka alat yang biasanya Anda pakai bersama asisten dan ulangi uji. Meski model bisa dimuat, tekanan memori yang terus naik atau audio yang tersendat bisa membuatnya tidak cocok untuk penggunaan rutin. Tujuannya menemukan konfigurasi yang nyaman, bukan menganggap perangkat terkecil yang bisa membuka program sudah memenuhi rekomendasi.

Pada 16 November, proyek mengumumkan varian 4B terpisah untuk GPU konsumen. Catatan rilis membedakan jalur GPU itu dari versi Mac 32B Flash-4bit MLX. Angka VRAM yang lebih rendah pada backend lain tidak mengubah rekomendasi Mac. Hasil API hos, GPU server, dan MLX lokal juga berbeda menurut model dan kondisi lalu lintas. Pilih jalur yang benar-benar akan Anda pakai sebelum menafsirkan angka di repositori.

Cakupan bahasa resmi penting bagi aplikasi percakapan. Repositori mencantumkan bahasa Korea sebagai rencana. Pakai bahasa yang tercatat didukung, misalnya bahasa Inggris, untuk uji pertama. Jangan anggap kemampuan multibahasa menjamin suara, pengenalan, dan pengaturan giliran yang setara di semua bahasa. Jika Anda membutuhkan wawancara berbahasa Korea, versi saat ini berguna untuk belajar menguji interaksi, tetapi tidak menggantikan validasi dukungan bahasa Korea.

Uji mode luring setelah unduhan selesai

Untuk penyiapan, koneksi jaringan dibutuhkan guna mengambil dependensi proyek dan bobot model sesuai panduan Mac. Gunakan petunjuk resmi, baca skrip sebelum memasang, dan pastikan Anda tahu di mana fail lokal disimpan. Izin mikrofon perangkat juga terpisah dari pemasangan model. Mulailah dengan audio yang Anda kendalikan dan jangan merekam orang lain tanpa persetujuan.

  1. Ikuti panduan Mac dengan versi proyek yang dikunci bila memungkinkan. Tunggu semua unduhan lalu coba satu percakapan dalam bahasa yang didukung saat masih tersambung.
  2. Putuskan jaringan setelah penyiapan. Mulai sesi lokal baru dan pastikan pertanyaan lisan baru memperoleh jawaban baru, bukan contoh yang tersimpan.
  3. Ajukan beberapa jawaban yang tuntas, jeda di tengah kalimat, dan koreksi dengan konfigurasi mikrofon dan speaker yang sama. Catat model perangkat, memori, kesalahan, dan waktu yang diamati.
  4. Ulangi bagian singkat dengan aplikasi biasa Anda tetap terbuka. Jika suara atau latensi memburuk, periksa tekanan memori dan perbedaan kondisi sebelum menyimpulkan.

Pengumuman API dengan layanan hos pada 14 November memberi pengembang cara mencoba proyek tanpa memasang model lokal. Ini membantu untuk membandingkan interaksi atau mengembangkan integrasi. Di jalur itu, aplikasi mengirim audio ke layanan dengan kondisi privasi dan jaringan sendiri. Peralihan dari layanan hos ke CLI Mac mengubah lebih dari sekadar apakah skrip yang sama bisa dijalankan.

Pemakaian luring bisa mengurangi data yang keluar dari perangkat, misalnya saat melatih cerita sensitif atau membangun purwarupa yang harus bekerja saat koneksi lemah. Itu bukan jaminan tidak ada data yang ditulis ke penyimpanan. Periksa perilaku klien yang Anda pakai, termasuk rekaman, transkrip, dan log. Uji tanpa jaringan dapat membuktikan bahwa percakapan masih berjalan; uji itu tidak menunjukkan semua karakteristik privasi aplikasi yang mungkin dibangun kelak.

Contoh kedua adalah purwarupa formulir suara. Misalkan pengguna menjawab empat pertanyaan dan boleh mengoreksi jawaban terakhir sebelum lanjut. Aplikasi perlu menyimpan jawaban yang sudah diterima, terpisah dari penafsiran terbaru model. Jika koreksi muncul di tengah pemutaran, kolom yang tepat sebaiknya baru berubah setelah koreksi dipahami. Alur suara tanpa tangan bisa mempermudah interaksi, tetapi aplikasi tetap menentukan kapan jawaban sementara masuk ke catatan.

Ketika membandingkan dua versi, tentukan kriteria lulus sebelum keduanya dijalankan. Misalnya, aplikasi harus menunggu sepanjang jeda yang direncanakan, berhenti sesudah koreksi nyata, dan melanjutkan dengan pertanyaan tentang hal yang sudah dikoreksi. Catat jumlah percobaan yang tuntas; gunakan median dan rentang waktu jika ada cukup pengulangan sebanding. Catat pengulangan yang diperlukan, alih-alih hanya memakai percakapan paling mulus. Dalam uji kecil di rumah, giliran yang gagal sering lebih informatif daripada rata-rata.

Jaga agar perbandingan luring dan daring mengerjakan tugas yang sama. Layanan hos bisa menjadi pembanding untuk purwarupa yang tidak punya cukup memori untuk memproses suara secara lokal. Namun, jika suara, konfigurasi giliran, model, dan akses perangkat berbeda, sebutkan perbedaan itu. Respons lebih cepat pada satu jalur tidak menjawab mana yang lebih baik saat pengguna ragu atau harus bekerja tanpa internet. Gunakan hasilnya sebagai pedoman untuk aplikasi, bukan sebagai klasemen.

Purwarupa juga perlu punya cara untuk pulih. Misalkan pengguna menghentikan asisten saat berbicara, kemudian tidak mengatakan apa pun. Isyarat visual singkat atau indikator status lokal bisa memperjelas bahwa sistem masih mendengarkan dan bukan macet. Jika perangkat audio dicabut atau model berhenti karena tekanan memori, pastikan aplikasi kembali ke keadaan siaga yang diketahui sebelum sesi berikutnya. Ukur pemulihan secara terpisah dari jeda respons. Aplikasi yang terasa cepat saat semua berjalan lancar masih bisa membuat pengguna frustrasi ketika percakapan menyimpang dari rencana.

Wawancara lokal yang baik memberi ruang untuk berbicara

Pengujian yang paling mengungkap mungkin kurang dari satu menit. Mulai menjawab, berhenti sejenak, tuntaskan jawaban, biarkan asisten merespons, lalu ubah sebuah detail saat ia masih berbicara. Jika setiap langkah berjalan sesuai niat, suara mulai terasa sebagai antarmuka yang berguna, bukan sekumpulan fail audio. Versi Mac memungkinkan perangkat dengan memori cukup menjalankan uji itu secara lokal. Hasilnya tetap bergantung pada komputer, bahasa, ruangan, dan perangkat lunak yang dipakai.

Sumber


Simpan pertanyaan wawancara, catatan latihan, dan hasil uji lokal di satu tempat. Buat catatan pertama Anda dengan Telli.sh.


← Kembali ke blog