Может ли голосовой ИИ на Mac дождаться своей очереди без интернета?
Sophon-Realtime для Apple Silicon обрабатывает звук локально. Проведите пробное собеседование и отдельно проверьте память, задержку ответа, эхо и перебивания.
Представьте, что вы репетируете собеседование за кухонным столом. Вы начали рассказывать, как решили задачу, остановились, чтобы подобрать слово, а собеседник тут же вмешался, словно ответ окончен. Через пару секунд вы пытаетесь его поправить, но он продолжает говорить поверх вас. Даже голосовое приложение, чьи ответы прекрасно звучат в записи, может допускать обе ошибки.
13 ноября 2026 года Adventists AI объявила о локальной сборке Sophon-Realtime для Mac. Голосовая модель Flash-4bit работает на Apple Silicon в среде Apple MLX. Для этой сборки разработчики рекомендуют не менее 36 ГБ объединённой памяти, указывают поддержку смены говорящего и перебивания модели, а при установке загружается около 24 ГБ файлов модели. Размещённый на сервере API, о котором отдельно объявили 14 ноября, запускает голосовую обработку на стороне сервиса.
Важнее всего, ведёт ли себя вся система как собеседник без подключения к сети. Это можно проверить коротким пробным интервью. Отдельно измерим ожидание первой слышимой реакции и проверим, в какой момент модель начинает говорить. Затем посмотрим, сколько ресурсов остаётся на другую работу.
После установки локальная сборка обрабатывает звук на устройстве. Серверный API использует отдельный путь.
Как проверить оценку в одну секунду?
Для M4 Max с 36 ГБ памяти в карточке модели указано 0,9–1,1 секунды до первого звука после окончания речи, если модель уверена, что вы закончили. Когда ей нужно больше времени на решение, задержка достигает примерно 2,5 секунды. Эти результаты относятся к конфигурации разработчиков. Перед воспроизведением определите, что значит «закончил». На записи можно отметить последний слышимый слог. Система самостоятельно определяет момент окончания реплики. Эти отметки могут оказаться разделены паузой, которая для человека звучит совершенно естественно. Карточка модели для Mac.
В задержку до первого звука входит всё, что происходит между концом вашей речи и началом слышимого ответа. Часть времени может уходить на работу модели, другая — на определение конца реплики. Даже быстрая модель будет перебивать, если слишком рано принимает тишину за завершённый ответ. Система, которая лучше чувствует очередь, может потратить чуть больше времени на определение неоднозначного перехода. Одного секундомера мало, чтобы понять, с какой из них удобнее разговаривать.
Возьмите вопрос «Почему вы выбрали кэширование?». Коротко ответьте, закончите фразу чётко и дождитесь реакции приложения. Во второй попытке скажите «Мы выбрали кэширование, потому что…», затем сделайте паузу и продолжите. В третьей попытке дайте тот же ответ рядом с включённым вентилятором. Приложение может показать хороший результат по времени до первого звука в первом случае и плохо справиться в двух других. Сравнивайте время только после проверки того, вовремя ли начался ответ.
| Что происходит в разговоре | Что записать | Зачем это нужно |
|---|---|---|
| Ответ явно закончен | Время от последнего слога до первого слышимого звука | Помогает понять, ощущается ли задержка после завершённого ответа |
| Пауза посреди фразы | Подождал ли помощник или начал говорить | Показывает, принимает ли он тишину за разрешение вступить |
| Поправка во время воспроизведения | Как быстро прервался звук и принята ли поправка | Проверяет, может ли пользователь вернуть себе слово |
| Микрофон уловил звук из динамика | Самопроизвольные ответы или повторяющийся текст | Показывает, что происходит с эхом в этой комнате |
Все эти наблюдения можно сделать дома на собственном голосе. Записывайте условия вместе с числами. При воспроизведении через динамики и наушники эхо ведёт себя по-разному. Опыт с вентилятором проверяет устойчивость в бытовой ситуации. Для сравнения задержек серверов нужны контролируемые условия и отдельная методика.
У перебивания две части
Разработчики описывают режим Mac как полнодуплексный, с поддержкой перебивания и эхоподавления. Чтобы перебивание работало в разговоре, вывод должен остановиться, а новая информация — сохраниться. Если после «Извините, я имел в виду вторник» система сразу замолчала, но продолжила думать о четверге, она решила лишь первую часть задачи.
На пробном интервью попросите длинный уточняющий вопрос, а затем скажите «Погодите, я говорю о переносе базы данных, а не о запуске для клиента». Отметьте, остановился ли голос, приняло ли приложение поправку и отразилась ли она в следующем вопросе. Попробуйте перебить осмысленной фразой и коротким звуком, например кашлем. Приложение должно уметь реагировать на эти события по-разному. Один удачный тест может скрыть, как резко оно обрывает речь в реальной комнате.
Эхо проверяйте отдельно. Попробуйте и наушники, и динамики на комфортной громкости. Если короткая реплика подтверждения сама запускает новый заход записи, расположение микрофона или другой способ эхоподавления могут оказаться важнее меньшей модели. Меняйте оборудование, модель и звук по одному параметру. Тогда будет понятно, что именно повлияло на следующую попытку.
Проверяйте паузу и намеренную поправку отдельно. В обоих случаях возможна тишина, но приложение должно реагировать по-разному.
Запас памяти влияет на удобство локальной сборки
Для Apple Silicon используется MLX, а рекомендуемый объём объединённой памяти начинается от 36 ГБ. Примерно 24 ГБ скачиваемых данных занимают место на диске. Объём активной памяти может отличаться. Во время работы модель, кэши, звуковая обработка и другие приложения используют общие ресурсы. Инструкция по установке на Mac.
Для первой попытки закройте требовательные к памяти программы и подготовьте короткий сценарий. В «Мониторинге системы» смотрите на нагрузку на память и изменения объёма подкачки. Затем откройте программы, которыми действительно будете пользоваться вместе с помощником, и повторите опыт. Даже если модель загружается, рост нагрузки на память и сбои звука могут мешать регулярной работе. Ищите удобную конфигурацию. Факт первого успешного запуска на менее мощном компьютере ещё не делает его подходящим для работы.
16 ноября проект объявил об отдельных вариантах 4B для потребительских видеокарт. В примечаниях к выпуску они описаны отдельно от Mac-сборки 32B Flash-4bit для MLX. Более низкое требование к видеопамяти в другой среде выполнения не меняет рекомендацию для Mac. Для цифр по размещённому API, серверным GPU и локальной MLX различаются и модели, и условия нагрузки. Перед сравнением выберите именно тот вариант, который собираетесь использовать.
Для голосовой задачи также важен список языков. Поддержка корейского указана в репозитории как запланированная. Для первого испытания возьмите язык с подтверждённой поддержкой, например английский. Даже от многоязычной модели нельзя заранее ожидать одинакового качества голоса, распознавания и смены говорящего на всех языках. Если вам нужно собеседование на корейском, текущий выпуск поможет отработать методику, а поддержку корейского предстоит проверять отдельно.
Проверяйте автономную работу после загрузки
Для установки нужно подключение к сети, чтобы получить зависимости и веса по инструкции. Следуйте документации проекта, изучите скрипты перед запуском и выясните, где сохраняются локальные файлы. Разрешение на микрофон настраивается отдельно от установки модели. Начните с собственного звука и получайте согласие, прежде чем записывать других людей.
- Следуйте инструкции по установке на Mac. По возможности закрепите конкретную версию проекта. Дождитесь конца загрузки и проведите один разговор на поддерживаемом языке при подключённой сети.
- После установки отключитесь от сети. Начните новый локальный сеанс и проверьте, получает ли приложение новые ответы на новые голосовые вопросы вместо воспроизведения сохранённых примеров.
- Проведите несколько завершённых ответов, пауз посреди фразы и поправок с одинаковыми настройками микрофона и динамиков. Запишите модель устройства, объём памяти, ошибки и время.
- Повторите часть опыта с обычным набором открытых программ. Если увеличилась задержка или ухудшился звук, проверьте нагрузку на память и другие различия между попытками.
Программисты могут опробовать проект без установки локальной модели. Это пригодится для сравнения взаимодействия или разработки интеграции. В таком режиме приложение отправляет звук на сервис с собственными сетевыми условиями и правилами приватности. При переходе с сервиса на командную строку Mac меняется и то, где обрабатывается звук, и способ запуска. Анонс размещённого API от 14 ноября.
Работа без сети позволяет сократить передачу данных с устройства, что важно для репетиции конфиденциального рассказа или прототипа для нестабильного соединения. Проверьте, что ваш клиент сохраняет на диске, включая аудиозаписи, расшифровки и журналы. Тест с отключённой сетью подтверждает возможность разговора без интернета. Свойства приватности будущего приложения требуют отдельной проверки.
Другой полезный сценарий — прототип голосовой анкеты. Допустим, человек отвечает на четыре вопроса и может исправить последний ответ перед переходом дальше. В приложении стоит хранить принятый ответ отдельно от последней интерпретации голосовой модели. Если поправка поступила во время воспроизведения, нужное поле следует обновить только после того, как поправка понята. Голосовой режим освобождает руки, а момент записи чернового ответа в анкету всё равно определяет приложение.
До сравнения двух сборок запишите критерии успеха. Например, пусть приложение выдержит запланированную паузу, остановит воспроизведение после настоящей поправки и спросит дальше уже об исправленной теме. Запишите число завершённых попыток. Если сопоставимых повторов достаточно, используйте медиану и диапазон времени. Отмечайте повторы и сбои вместе с удачными обменами. В небольшом домашнем тесте отдельная неудачная реплика часто даёт больше информации, чем среднее значение.
В сети и без сети сравнивайте одну задачу. Серверный режим подходит в качестве контрольного для прототипа, у которого недостаточно памяти для локальной обработки. Если голос, настройка смены реплик, модель и доступ к устройству различаются, перечислите эти условия. Лучшая задержка не отвечает на вопрос о том, какой вариант удобнее при заминке пользователя или отсутствии связи. Эти результаты помогут выбрать режим для конкретного приложения.
Предусмотрите чёткое восстановление после сбоя. Пользователь может перебить помощника и замолчать. Короткий визуальный сигнал или локальный индикатор состояния покажет, что система слушает и готова продолжать. Если отключилось звуковое устройство или модель завершилась из-за нехватки памяти, проверьте, что приложение возвращается в предсказуемое состояние ожидания перед новым сеансом. Измеряйте восстановление отдельно от задержки ответа. Быстрота в простом обмене мало помогает, если сбой посреди беседы надолго прерывает работу.
Хорошее локальное собеседование оставляет время говорящему
Самый показательный тест может занять меньше минуты. Начните ответ, сделайте паузу, закончите фразу и дождитесь помощника. Пока он говорит, поправьте одну деталь. Если в каждом эпизоде приложение реагирует как нужно, голос становится удобным способом взаимодействия вместо простого воспроизведения звука. Сборка для Mac позволяет проверить это локально при достаточном объёме памяти. Результат зависит от компьютера, языка, комнаты и используемой программы.
Источники
- Проект Sophon-Realtime и примечания к выпускам от 13, 14 и 16 ноября
- Официальная инструкция для Apple Silicon и MLX
Храните вопросы для собеседования, заметки о репетициях и результаты локальных проверок вместе. Создайте первую заметку в Telli.sh.