speech-to-text12 menit baca

Tingkat kesalahan kata 2,4%, dan tetap tidak tahu siapa yang bicara

MAI-Transcribe-1.5 dari Microsoft mencatat tingkat kesalahan kata 2,4%, sementara dokumentasi resmi model yang sama menyatakan bahwa diarisasi tidak didukung. Penjelasan sederhana tentang apa yang diukur WER, mengapa papan peringkat sudah menumpuk di dekat dasar, dan lapisan mana di atas pengenalan suara yang sebenarnya menentukan apakah sebuah transkrip menjadi catatan rapat yang berguna.

T
Telli.sh Team
#speech-to-text#word-error-rate#transcription#diarization#meeting-notes#mai-transcribe#ai-notetaker

Awal Juni lalu, tim AI Superintelligence Microsoft merilis MAI-Transcribe-1.5, dan model itu mencatat tingkat kesalahan kata 2,4% di papan peringkat independen Artificial Analysis. Satu model mencakup 43 bahasa, tahan terhadap aksen dan ruang rapat yang berisik, serta melahap satu jam audio dalam waktu kurang dari lima belas detik.

Lalu bukalah dokumentasi Azure milik Microsoft untuk model yang sama. Di bagian catatan penggunaan ada satu baris: "Diarisasi tidak didukung."

Diarisasi adalah bagian yang memberi tahu Anda siapa yang sedang berbicara. Artinya, model suara paling banyak dibicarakan tahun ini menghasilkan dinding kata yang nyaris tanpa cela, tanpa tahu sama sekali dari mulut siapa kata-kata itu keluar. Ini bukan kelalaian dalam catatan rilis. Ini potret yang sangat tepat tentang di mana industri ini sebenarnya berdiri. Urusan mendengar praktis sudah selesai. Dan mendengar tidak pernah menjadi bagian sulit dari sebuah catatan rapat.

Tulisan ini membahas jarak antara transkrip yang akurat dan catatan yang benar-benar akan Anda kirim ke tim: apa yang diukur tingkat kesalahan kata, apa yang secara struktural tidak bisa diukurnya, dan lapisan apa saja yang bertumpu di atas pengenalan suara lalu diam-diam menentukan apakah sebuah rekaman menjadi berguna. Kalau Anda pernah menerima transkrip yang sempurna secara teknis tetapi tidak berguna sama sekali dalam praktik, inilah penjelasan atas perasaan itu.

TL;DR:

  • Tingkat kesalahan kata sudah menumpuk di dekat dasar: sembilan model teratas di papan independen Artificial Analysis berada di rentang 1,73% hingga 3,31%, jadi berpindah ke mesin yang "lebih akurat" hanya memberi Anda beberapa puluh kata dalam rapat satu jam.
  • WER menimbang semua kata sama rata. Kehilangan kata "tidak" dalam sebuah keputusan berbiaya 0,016% yang sama dengan menelan satu "emm" — metrik ini tidak bisa membedakan salah ketik dari komitmen yang terbalik.
  • Pekerjaan yang tersisa berada di atas transkrip: atribusi pembicara, segmentasi, penyuntingan, dan peringkasan. Kartu model Microsoft sendiri adalah buktinya: akurasi papan atas, tanpa diarisasi, tanpa streaming.

Konsol mixer studio 48 kanal memenuhi bingkai, dengan deretan fader, kenop, dan meteran kanal

Gambar: Steve Knight, Rockfield Studios, Wikimedia Commons, CC BY 2.0.

Bagaimana rasanya 2,4% ketika Anda yang harus membacanya

Tingkat kesalahan kata adalah angka tertua sekaligus paling kasar dalam pengenalan suara — dan justru karena ia dikutip di mana-mana, angka ini layak dipahami dengan benar. Ambil apa yang benar-benar diucapkan: transkrip acuan yang dibuat manusia. Ambil apa yang ditulis model. Lalu hitung kata yang salah dalam tiga jenis: substitusi (menulis "tunda" padahal seseorang berkata "tuntas"), penghapusan (satu kata hilang seluruhnya), dan penyisipan (model mengarang kata yang tak pernah diucapkan). Jumlahkan, bagi dengan jumlah kata di transkrip acuan, dan itulah WER. Makin rendah makin baik.

Jadi 2,4% berarti kira-kira satu kata salah dari setiap empat puluh dua kata.

Terapkan itu pada rapat sungguhan. Rapat satu jam di mana orang benar-benar berbicara sekitar empat puluh lima menit, pada kecepatan percakapan normal sekitar 140 kata per menit, menghasilkan kurang lebih 6.300 kata. Pada WER 2,4%, sekitar 150 di antaranya salah. Tersebar di sepanjang transkrip, itu berarti beberapa kesalahan di setiap layar.

Dan inilah pertanyaan yang menolak dijawab oleh metrik tersebut: 150 kata yang mana?

WER memberi bobot identik pada setiap kata dalam bahasa. Kata sambung "dan" dan kata ingkar "tidak" bernilai persis sama. Bayangkan transkrip yang mengubah "kita tidak rilis di kuartal 3" menjadi "kita rilis di kuartal 3". Itu satu penghapusan. Satu kata dari 6.300 — 0,016% dari transkrip, sekadar galat pembulatan terhadap anggaran 2,4%. Dan catatan itu kini merekam kebalikan persis dari apa yang diputuskan ruangan.

Ketimpangan yang sama menjalar ke nama orang, kode produk, dan singkatan internal — yaitu justru kata-kata yang membawa makna paling padat per karakter dan paling jarang muncul di data pelatihan. Sebuah transkrip bisa menaklukkan 6.150 kata jaringan penghubung sambil menghancurkan setiap nama diri di ruangan itu, dan WER-nya tetap terlihat cemerlang. Siapa pun yang pernah membaca ulang transkrip stand-up timnya sendiri mengenali rasa ini: kata-katanya benar, dan rapatnya hilang.

Papan peringkat sudah menumpuk di dekat dasar

Inilah bagian yang membingkai ulang seluruh kategori. Kami menarik papan peringkat speech-to-text Artificial Analysis pada 4 Agustus 2026 — sebuah tolok ukur independen, bukan lembar nilai buatan vendor. Indeks AA-WER v2 miliknya adalah rata-rata tertimbang durasi audio atas sekitar delapan jam yang diambil dari tiga himpunan data: AA-AgentTalk (50%), VoxPopuli-Cleaned-AA (25%), dan Earnings22-Cleaned-AA (25%). Puncaknya seperti ini:

PeringkatModelAA-WER
1Fun-Realtime-ASR-preview1,73%
2Scribe v22,18%
3MAI-Transcribe-1.52,38%
4Smallest AI Pulse Pro2,43%
5Voxtral Small2,77%
6Gemini 3.1 Pro Preview (High)2,82%
7Universal-3.5 Pro3,02%
8Solaria-3 (Gladia)3,23%
9GPT Transcribe3,31%
11Whisper Large v34,07%

Sumber: papan peringkat speech-to-text Artificial Analysis, diambil 4 Agustus 2026 (AA-WER v2, non-streaming).

Dua hal langsung mencolok. Pertama, angka 2,4% Microsoft itu nyata dan diukur secara independen — tetapi itu peringkat ketiga, bukan pertama. Klaim yang lebih kuat, yakni akurasi terbaik di kelasnya pada FLEURS untuk seluruh 43 bahasa, berasal dari Microsoft sendiri, jadi bacalah sebagai angka vendor sampai ada pihak luar yang mengukurnya.

Kedua, dan ini jauh lebih penting: sembilan model berdesakan dalam pita selebar 1,6 poin. Kembalikan ke rapat 6.300 kata kita tadi. Model teratas salah pada sekitar 109 kata. Model peringkat sembilan salah pada sekitar 209 kata. Whisper Large v3 — basis terbuka yang masih dijalankan sangat banyak produk — salah pada sekitar 256 kata.

Pikirkan apa artinya itu bagi keputusan pembelian. Berpindah dari mesin papan tengah ke pemuncak klasemen menghemat sekitar seratus kata per jam. Itu bukan hal sepele, dan dalam transkripsi medis atau hukum benar-benar berarti. Tetapi itu masih sangat jauh dari selisih antara catatan yang Anda percayai dan catatan yang Anda tulis ulang dari nol. Setiap mesin yang serius kini sudah melewati akurasi 96%. Variabel yang menentukan apakah catatan rapat Anda berguna berada di tempat yang sama sekali lain.

Catatan rilis Microsoft adalah dokumen paling jujur di kategori ini

Yang membawa kita kembali ke baris pembuka tadi. Dokumentasi Azure Speech mendaftar batasan MAI-Transcribe dengan lugas: diarisasi tidak didukung, penyetelan lewat prompt tidak didukung, dan model berjalan dalam pratinjau publik melalui LLM Speech API. Pemberitaan peluncurannya menambahkan bahwa tidak ada pula API streaming bawaan, sehingga penggunaan waktu nyata menjadi terbatas.

Cermati bentuk daftar itu. Perusahaan ini menuangkan rekayasa dalam jumlah luar biasa ke persoalan mendengar — 43 bahasa dibanding 25 pada generasi sebelumnya, dengan 18 bahasa baru yang ditambahkan tanpa menurunkan akurasi. Lalu merilisnya tanpa label pembicara dan tanpa streaming. Padahal keduanya justru yang dibutuhkan rapat yang sedang berlangsung.

Pembacaan kami: ini bukan lubang pada produk Microsoft, melainkan pernyataan tentang bagaimana seluruh bidang ini berlapis. Pengenalan suara kini adalah komponen, bukan produk. Ia telah menjadi sesuatu yang dibeli, diukur, dan ditukar — dan pekerjaan yang menarik sudah pindah ke segala sesuatu yang membungkusnya.

Langit-langit juru steno

Inilah istilah yang kami pakai secara internal: langit-langit juru steno. Yakni titik di mana mendengar lebih baik berhenti membantu, karena pekerjaan yang tersisa bukan lagi soal mendengar.

Juru steno yang sempurna memberi Anda catatan kata yang sempurna. Dia tidak akan memberi tahu Anda bahwa dua kalimat "ya, boleh" itu datang dari orang berbeda dan bermakna berbeda. Dia tidak menandai di mana sebuah topik berakhir. Dia juga tidak memberi tahu bahwa dua puluh menit soal pindah kantor sama sekali tidak layak masuk catatan. Di atas transkrip hidup empat lapisan berbeda, dan masing-masing gagal dengan caranya sendiri.

Atribusi pembicara, alias diarisasi. Inilah mesin yang memecah satu aliran audio menjadi "pembicara 1, pembicara 2, pembicara 3" dan menjaga label itu tetap konsisten sepanjang satu jam. Ini persoalan yang benar-benar terpisah dari pengenalan suara, dengan pola kegagalannya sendiri: dua orang bicara bersamaan, seseorang bergabung di tengah jalan, satu peserta yang terdengar berbeda lewat pengeras suara dibanding lewat headset. Dan ketika gagal, kegagalannya bersifat merusak. Transkrip yang menempelkan sebuah komitmen ke orang yang salah lebih buruk daripada transkrip yang tidak menempelkannya ke siapa pun, karena pembaca akan mempercayainya. Dan inilah persisnya kemampuan yang tidak disertakan model dengan skor tertinggi.

Segmentasi. Keluaran mentah pengenalan suara adalah sungai. Ucapan nyata tidak datang dalam kalimat; ia datang dalam bentuk pengulangan awal, anak kalimat yang menggantung, dan potongan pembicaraan. Sistem harus memutuskan di mana kalimat terputus, di mana giliran bicara seseorang berakhir, dan di mana percakapan berganti topik. Salah di sini, Anda mendapat paragraf yang akurat secara teknis tetapi tidak akan dibaca siapa pun, karena mata tidak punya tempat beristirahat. Benar di sini, kata-kata yang sama menjadi bisa dipindai sekilas. Tidak satu karakter pun dari perbaikan itu muncul di WER.

Penyuntingan. Antara transkrip mentah dan catatan ada satu babak pembersihan: membuang kata pengisi dan awalan kalimat yang gagal, membakukan angka dan tanggal, memperbaiki istilah teknis yang mustahil diketahui model akustik. "Kuartal tiga" menjadi "Q3". Nama sandi internal yang keluar sebagai tiga kata umum yang terdengar masuk akal dikembalikan ke tempatnya. Inilah lapisan tempat pengetahuan domain masuk, dan inilah pembeda antara dokumen yang terbaca seperti risalah sidang dan dokumen yang terbaca seperti catatan.

Peringkasan. Terakhir, pertimbangan: bagian mana dari satu jam itu yang merupakan keputusan, mana pertanyaan yang masih terbuka, mana penugasan pekerjaan kepada orang yang disebut namanya, dan mana dua puluh menit soal parkir. Ini satu-satunya lapisan yang benar-benar dikonsumsi kebanyakan pembaca, dan ia sepenuhnya bergantung pada tiga lapisan sebelumnya. Peringkas yang bekerja di atas transkrip tanpa atribusi dan tanpa segmentasi sedang menebak siapa berkomitmen atas apa. Beri dia giliran bicara yang bersih, dan ia berhenti menebak.

Ketergantungan itu mengalir satu arah, dan justru itulah sebabnya perdebatan soal akurasi begitu menyesatkan. Memperbaiki WER dari 2,4% ke 1,7% berarti memperbaiki masukan bagi rantai empat langkah yang tidak pernah diukur sama sekali.

Pembobotan kata kunci adalah pengakuan diam-diam dari industri ini

Ada satu fitur dalam rilis MAI-Transcribe-1.5 yang membuka seluruh kartunya — dan sekaligus merupakan hal paling berguna dari peluncuran itu.

Model ini mendukung pembobotan kata kunci, disebut juga pembobotan entitas: Anda menyerahkan daftar berisi hingga 200 istilah domain — nama peserta, nama produk, singkatan internal — dan model memiringkan prediksinya ke arah daftar itu, memakai konteks di sekelilingnya untuk memutuskan kapan pembobotan sebaiknya diterapkan alih-alih memaksakan kecocokan secara buta. Microsoft melaporkan penurunan WER hingga 30% pada FLEURS ketika fitur ini digunakan. Contoh yang mereka publikasikan sangat konkret: tanpa daftar kata kunci, tiga nama keluar sebagai "Sean", "Oif", dan "Societal". Dengan daftar itu, model memulihkan "Shaun", "Aoife", dan "Xochitl".

Perhatikan baik-baik apa yang terjadi di sana. Audionya tidak berubah. Akustiknya tidak membaik. Model tadinya bukan mendengar lebih buruk — ia mendengar dengan sangat baik lalu menebak dengan salah, karena ia tidak tahu siapa saja yang ada di ruangan. Serahkan daftar peserta, dan hampir sepertiga kesalahannya menguap.

Itulah seluruh argumen tulisan ini, dikirimkan sebagai fitur produk oleh vendor yang memiliki model dengan skor tertinggi. Perbaikan akurasi paling efektif dalam rilis andalan tahun ini bekerja dengan menyuntikkan informasi yang tidak pernah ada di dalam audio. Artinya, batas terakhir dalam transkripsi bukan soal akustik. Soal konteks — dan konteks persis merupakan bahan pembentuk lapisan-lapisan di atas transkrip.

Sementara itu, semua orang berlomba menangkap lebih banyak audio

Pasar perangkat keras justru menarik kesimpulan sebaliknya, dan itu layak dicatat. Kacamata GO3 dari INMO, seharga 599 dolar, menjanjikan terjemahan waktu nyata dalam lebih dari 98 bahasa yang diproyeksikan ke lensa, ditambah perekaman, transkripsi, dan peringkasan otomatis atas setiap percakapan dan rapat, ditenagai ChatGPT dan Gemini. Semuanya adalah klaim produsen di halaman produknya sendiri, dan ambisinya jelas: tangkap semuanya, di mana pun, tanpa memakai tangan.

Padahal menangkap tidak pernah menjadi hambatan. Sebuah ponsel di atas meja sudah cukup baik merekam rapat sejak satu dekade lalu. Membuat penangkapan makin ada di mana-mana hanya menaikkan volume audio yang mengalir ke saluran pemrosesan yang persis sama dan masih belum terpecahkan. Kalaupun ada efeknya, masalahnya justru menajam: perangkat yang merekam seluruh percakapan Anda sepanjang hari menghasilkan jauh lebih banyak bahan yang perlu dikenai keputusan tentang apa yang penting.

Yang perlu diuji, alih-alih membaca angka WER

Kalau Anda sedang mengevaluasi alat transkripsi atau pencatat rapat, angka akurasi yang dipublikasikan tidak akan memisahkan para kandidat, karena semuanya berkerumun dalam beberapa poin saja. Tiga pengujian ini yang akan memisahkan.

Rekam rapat sungguhan dengan minimal tiga orang dan satu bagian di mana orang benar-benar bicara bersamaan, lalu periksa apakah label pembicara tetap konsisten dari menit kelima sampai menit kelima puluh — di situlah diarisasi diam-diam merosot. Berikutnya, ambil satu keputusan yang dinyatakan dalam bentuk negatif ("kuartal ini kita tidak melakukan migrasi") lalu cari di ringkasannya; sistem yang membalik atau menghilangkan kata ingkar akan ketahuan di sini. Terakhir, bandingkan ringkasan itu dengan ingatan Anda sendiri tentang rapat tersebut dan hitung dua hal secara terpisah: apa yang dimasukkan padahal tidak penting, dan apa yang terlewat padahal penting. Angka kedua itu tidak pernah dipublikasikan siapa pun, dan angka itulah yang menentukan apakah tiga bulan lagi Anda masih memakai alat tersebut.

Kesimpulan

Tingkat kesalahan kata menjawab pertanyaan "apakah mesin mendengar kata-katanya?" — dan industri kini sudah menjawabnya. Yang belum pernah dijawab papan peringkat mana pun adalah: "apakah ini memberi tahu saya apa yang diputuskan dalam rapat?"

Itu dua pertanyaan berbeda, dan hanya satu yang sejak awal menjadi intinya. Transkrip adalah rekaman bunyi. Catatan rapat adalah rekaman sebuah keputusan. Jarak di antara keduanya tidak diukur dalam poin persentase, dan tidak akan tertutup oleh mikrofon yang lebih baik ataupun WER yang lebih rendah. Ia tertutup oleh segala sesuatu yang Anda bangun di atasnya: mengetahui siapa yang bicara, di mana sebuah gagasan berakhir, kata mana yang sekadar derau, dan tiga kalimat mana dari satu jam itu yang menjadi alasan rapat tersebut digelar.

Transkrip tidak pernah menjadi hasil akhir. Ia bahan mentah.

Persis begitulah kami membangun Telli.sh: pengenalan suara adalah satu komponen, dan pekerjaan yang kami perlakukan sebagai produk berada di atasnya — pemisahan pembicara, segmentasi, penyuntingan, dan ringkasan yang memisahkan keputusan dari obrolan, dalam 15 bahasa. Kalau Anda ingin melihat bedanya transkrip dan catatan pada rapat Anda sendiri, rekam satu rapat lalu baca hasilnya beberapa menit kemudian.

Mulai catatan AI langsung

Sumber


Kembali ke blog