Local AI11 min de lectura

¿Sabe esperar su turno una IA de voz sin conexión en el Mac?

La versión de Sophon-Realtime para Apple Silicon procesa la conversación en el dispositivo. Simula una entrevista para evaluar la memoria, el tiempo de respuesta, el eco y las interrupciones.

K
Ken Jo

Imagina que ensayas una entrevista de trabajo en la mesa de la cocina. Empiezas a explicar cómo resolviste un problema, haces una pausa para encontrar la palabra adecuada y el entrevistador interviene como si hubieras terminado. Al poco rato intentas corregirle y sigue hablando por encima de ti. Ambos fallos pueden aparecer en una aplicación de voz cuyas respuestas suenen muy bien al escucharlas después.

El 13 de noviembre de 2026, Adventists AI anunció una versión de Sophon-Realtime que funciona en local en el Mac. Combina su modelo de voz Flash-4bit con el entorno de ejecución MLX de Apple en Apple Silicon. El proyecto recomienda al menos 36 GB de memoria unificada para esta versión, enumera la gestión de turnos y las interrupciones entre sus funciones e indica que la instalación para Mac descarga unos 24 GB de archivos del modelo. La API alojada, anunciada por separado el 14 de noviembre, no ejecuta ese intercambio de voz en tu Mac.

Lo que queremos averiguar es si todo el intercambio se comporta como una conversación sin usar la red. Una entrevista breve de prueba sirve para verlo. Distinguiremos la espera hasta la primera respuesta audible de la decisión sobre cuándo empezar a hablar. Después, veremos qué recursos deja libres el modelo para las demás tareas del ordenador.

Un micrófono, el procesamiento local con MLX y un altavoz en un ejemplo de intercambio de voz

Después de la instalación, la versión local procesa el audio en el dispositivo. La API alojada sigue otro recorrido.

¿Cómo se mide la espera de alrededor de un segundo?

En un M4 Max con 36 GB, la ficha del modelo para Mac indica entre 0,9 y 1,1 segundos hasta el primer sonido después de que la persona deje de hablar cuando el modelo está seguro de que el turno terminó. Si necesita más tiempo para decidir, indica esperas de hasta unos 2,5 segundos. Son los resultados del proyecto para esa configuración. Antes de intentar reproducirlos, define qué significa «dejar de hablar». En una grabación puedes marcar la última sílaba audible. El sistema decide por su cuenta cuándo acaba el turno de entrada. Entre esos dos instantes puede haber una pausa que a una persona le suene del todo natural.

La demora hasta el primer sonido incluye lo que sucede desde el final de tu intervención hasta el inicio de la salida audible. A veces el retraso viene del cálculo del modelo y otras de esperar para determinar que el turno ha terminado. Incluso un modelo rápido puede interrumpirte en cada pausa si interpreta demasiado pronto el silencio como final de la respuesta. Un sistema que se comporta bien puede esperar algo más ante una transición dudosa. El cronómetro por sí solo no permite saber qué experiencia fue mejor.

Prueba con la pregunta «¿Por qué elegiste la caché?». Responde en pocas palabras, termina de forma clara y deja contestar a la aplicación. En el segundo intento, di «Elegimos la caché porque…» y haz una pausa antes de seguir. En el tercero, repite la respuesta con un ventilador encendido cerca. Una aplicación puede tardar lo mismo en emitir el primer sonido en la primera prueba y fallar en las otras dos. Compara los tiempos después de comprobar si empezó a hablar cuando correspondía.

Momento de la conversaciónQué anotarPor qué importa
Una respuesta que termina con claridadTiempo de la última sílaba a la primera respuesta audibleIndica si la espera tras el final del turno resulta larga
Una pausa a mitad de una frase¿El asistente esperó o empezó a responder?Muestra si el silencio se interpreta como permiso para tomar la palabra
Una corrección durante la reproducciónTiempo hasta que deja de hablar y si entiende la correcciónComprueba si la persona puede recuperar el turno
El micrófono capta el sonido de la reproducciónCualquier respuesta que se dispara sola o texto repetidoMuestra cómo se comporta el eco en la habitación

Puedes recoger estas medidas en casa con tu propia voz. Anota las condiciones junto a las cifras. Los altavoces y los auriculares generan condiciones de eco distintas. El ventilador sirve para complicar una prueba práctica. Un ensayo doméstico sin condiciones controladas no permite comparar la latencia con la de un servidor.

Una interrupción pone a prueba dos capacidades

Sophon describe la versión de Mac como bidireccional simultánea e incluye interrupción de la respuesta en curso y cancelación de eco. En una aplicación interactiva, interrumpir bien exige que se detenga el sonido y que se conserve la información nueva. Si el sistema se calla en cuanto dices «Perdona, quería decir el martes», pero sigue razonando sobre el jueves, solo ha resuelto la mitad del problema.

Durante la entrevista simulada, pide una intervención larga y di después «Un momento, hablo de la migración de la base de datos, no del lanzamiento para el cliente». Anota si se para la respuesta, si registra la corrección y si la siguiente pregunta la tiene en cuenta. Prueba también con un sonido breve, como una tos. La aplicación debería poder distinguirlo de una corrección. Un buen resultado en el primer ensayo puede ocultar que el sistema corta la reproducción demasiado a menudo en una habitación real.

El eco se prueba por separado de la interrupción. Haz ambas pruebas con auriculares y después con un altavoz a un volumen cómodo. Si una confirmación sonora abre por sí sola otro turno de grabación, cambiar la posición del micrófono o el tratamiento del eco puede importar más que usar un modelo pequeño. Evita cambiar a la vez el equipo, el modelo y los ajustes de audio. Así podrás saber por qué el siguiente ensayo ha ido mejor o peor.

Tres turnos de voz a modo de ejemplo: una pausa breve, una confirmación y una interrupción

Prueba por separado una pausa y una corrección deliberada. Ambas pueden incluir silencio, pero requieren respuestas distintas.

En el Mac, la memoria disponible se nota en el uso diario

La guía de instalación para Mac documenta la versión de Apple Silicon con MLX y recomienda al menos 36 GB de memoria unificada. La descarga de unos 24 GB es una cifra de almacenamiento. La memoria que usa el programa mientras funciona puede ser distinta. El modelo, la caché, el procesamiento de audio y las demás aplicaciones comparten los recursos de la sesión.

Para empezar, cierra las aplicaciones que más memoria consumen y usa un guion corto. Observa en el Monitor de Actividad la presión de memoria y si aumenta el uso de espacio de intercambio durante la prueba. Abre después las herramientas que usarías junto al asistente y repite. Aunque el modelo se cargue, una presión creciente o los cortes de audio pueden hacer incómodo el uso diario. Busca una configuración en la que el trabajo sea fluido. Que el programa arranque en un equipo modesto no convierte ese equipo en el recomendado.

El 16 de noviembre, el proyecto anunció variantes independientes de 4.000 millones de parámetros para GPU de consumo. Las notas de versión las documentan por separado del modelo Flash-4bit de 32.000 millones para Mac con MLX. Una cifra menor de VRAM en otro entorno no altera la recomendación para Mac. Los resultados de la API alojada, las GPU de servidor y MLX en local también dependen del modelo y de las condiciones de tráfico. Decide qué versión vas a usar antes de interpretar las cifras del repositorio.

Los idiomas compatibles importan en un flujo de voz. El repositorio indica que está previsto incorporar el coreano. Empieza con un idioma documentado, como el inglés. Que un modelo pueda trabajar con varios idiomas no garantiza la misma calidad de voces, reconocimiento y gestión de turnos en todos. Si necesitas entrevistas en coreano, la versión actual te sirve para aprender a probar la interacción. La compatibilidad con el idioma requiere su propia validación.

Prueba el funcionamiento sin conexión después de descargar los archivos

Según la guía para Mac, la preparación requiere conexión para descargar las dependencias y los pesos del modelo. Usa las instrucciones del proyecto, revisa sus scripts antes de ejecutarlos y localiza dónde se guardan los archivos. El acceso al micrófono del dispositivo requiere un permiso aparte de la instalación. Empieza con audio que puedas usar y pide el consentimiento de otras personas antes de grabarlas.

  1. Sigue la guía de instalación en Mac y usa una revisión fija del proyecto si puedes. Espera a que se completen las descargas y prueba un intercambio en un idioma compatible con el equipo aún conectado.
  2. Termina la instalación y desconecta la red. Inicia una sesión local nueva y comprueba que las preguntas nuevas reciben respuestas nuevas, sin recurrir a ejemplos guardados.
  3. Repite varias respuestas completas, pausas a mitad de frase y correcciones con los mismos ajustes de micrófono y altavoz. Anota el modelo del equipo, la memoria, los errores y los tiempos que observes.
  4. Repite una parte corta con tus aplicaciones habituales abiertas. Si la latencia o el sonido empeoran, revisa la presión de memoria y las diferencias entre pruebas antes de sacar conclusiones.

El anuncio de la API alojada del 14 de noviembre ofrece una forma de probar el proyecto sin instalar un modelo local. Puede servir para comparar una interacción o desarrollar una integración. En ese caso, la aplicación envía el audio a un servicio con sus propias condiciones de red y privacidad. Pasar del servicio alojado a la línea de comandos en Mac cambia tanto el entorno de ejecución como el recorrido del audio.

El uso sin conexión puede reducir los datos que salen del dispositivo, algo que importa si ensayas una historia delicada o desarrollas un prototipo para una conexión poco fiable. El programa puede seguir escribiendo datos en el disco. Comprueba cómo el cliente guarda las grabaciones, transcripciones y registros. Una prueba desconectada permite demostrar que la conversación funciona sin red. Para comprobar las propiedades de privacidad de una aplicación futura hará falta revisar otros aspectos.

Un segundo caso de uso es un prototipo de formulario hablado. Imagina que alguien responde a cuatro preguntas y puede corregir la última respuesta antes de avanzar. La aplicación debería conservar la respuesta aceptada por separado de la última interpretación del modelo de voz. Si llega una corrección durante la reproducción, solo debería cambiar el campo correspondiente después de entenderla. Un intercambio de voz con manos libres puede facilitar el uso. La aplicación sigue decidiendo en qué momento un borrador pasa a formar parte del registro.

Antes de comparar dos versiones, escribe qué cuenta como una prueba superada. Por ejemplo, que espere durante la pausa prevista, deje de hablar ante una corrección real y plantee la siguiente pregunta sobre el asunto corregido. Anota por separado el número de ensayos completados. Si tienes suficientes repeticiones comparables, calcula la mediana y el intervalo de los tiempos. Registra los reintentos y conserva también los intercambios interrumpidos. En una prueba casera pequeña, el detalle de un fallo suele decir más que una sola media.

Compara las versiones con la misma tarea. Un servicio alojado sirve como referencia para un prototipo sin memoria suficiente para procesar voz en local. Indica las diferencias si usa una voz, una configuración de turnos, un modelo o un acceso a dispositivos distinto. Que una opción tarde menos no decide cuál se comporta mejor cuando alguien duda o necesita trabajar sin conexión. Interpreta el resultado según la aplicación que estás construyendo.

Da también al prototipo una forma clara de recuperarse. Supón que alguien interrumpe al asistente mientras habla y después se queda en silencio. Una señal visual breve o un indicador de estado local puede mostrar que el sistema está escuchando. Si se desconecta un dispositivo de audio o el modelo se cierra por falta de memoria, comprueba que la aplicación vuelve a un estado de reposo conocido antes de iniciar otra sesión. Mide la recuperación por separado de la demora de respuesta. Un sistema ágil cuando todo va bien puede frustrar a la persona en cuanto la conversación se aparte del guion.

Una buena entrevista en local deja espacio para hablar

La prueba más reveladora quizá dure menos de un minuto. Empieza una respuesta, haz una pausa, termina, deja que el asistente empiece y cambia un detalle mientras habla. Si cada transición funciona como esperas, la voz empieza a servir como interfaz de conversación. La versión de Mac permite hacer esa prueba en local a quien tiene suficiente memoria. El resultado sigue dependiendo del equipo, el idioma, la habitación y el software que uses.

Fuentes


Guarda juntas las preguntas de entrevista, las notas de práctica y las observaciones de tus pruebas en local. Crea tu primera nota con Telli.sh.


← Volver al blog