Оставьте агента для кода. Перенесите его модель на свой Mac.
macMLX 0.11.0 соединяет локальный инференс на Apple Silicon с Codex и Claude Code. Как пути API, псевдонимы моделей, память и права инструментов меняют эксперимент.
Интерфейс, редактирующий репозиторий, и модель, решающая, что менять, необязательно должны происходить из одного источника. Агент для программирования может сохранить привычный процесс работы, отправляя часть запросов инференса модели на вашем Mac.
macMLX 0.11.0, выпущенный 17 ноября 2026 года, даёт такой схеме конкретные пути API. Codex может использовать конечную точку Responses, а Claude Code — конечные точки Messages и подсчёта токенов. Бэкенд работает на Apple Silicon с macOS 14 или новее.
Привлекает контроль над тем, где выполняется выбранный инференс модели. Но решение сложнее замены URL: возможности модели, обработка беседы, последовательное выполнение запросов и собственные права инструмента для кода по-прежнему определяют полезность конфигурации.
Перед началом: выберите поддерживаемую локальную модель с вызовами инструментов, заложите место для весов и контекста в объединённой памяти и считайте успешный ответ в чате первой проверкой, а не доказательством работоспособности всего процесса программирования.
Агент остаётся на переднем плане, за ним — локальный API
macMLX — приложение и сервер локального инференса на Swift, построенные вокруг экосистемы Apple MLX. Стандартный путь инференса работает внутри процесса Swift, не требуя среды Python. Это описание движка по умолчанию, а не утверждение о каждой дополнительной интеграции или дочернем процессе, которые проект может поддерживать.
Новый выпуск важен, потому что агенты для кода используют больше, чем простой обмен «запрос — текст». Они могут попросить модель вызвать инструмент, выполнить разрешённую операцию, вернуть результат и запросить следующий шаг. Сервер должен переносить через этот цикл нужную историю и структуры запросов.
Версия 0.11.0 добавляет совместимую с OpenAI поверхность /v1/responses для Codex, а также изменения для Claude Code через /v1/messages и /v1/messages/count_tokens. В описании поддержки выпусков также говорится о повторной передаче прежних рассуждений в шаблон чата модели и повторном использовании истории ходов агента в гибридных моделях и моделях со скользящим окном. Эти детали интеграции имеют практическое следствие: бэкенд, ответивший на приветствие, необязательно выдержит следующий ход с инструментом.
Авторская поясняющая схема: клиент для программирования управляет своим процессом, macMLX обслуживает совместимые запросы API, а выбранная локальная модель выполняет инференс. Запуск инструментов — отдельная граница прав.
Думайте об API как о переходнике. Он позволяет соединить два компонента, но не делает одинаковыми их мощность, ёмкость или поведение. Привычный интерфейс Codex или Claude Code не превращает небольшую локальную модель в удалённую модель, которой вы пользовались раньше.
Responses без хранения состояния меняет картину масштабирования
Конечная точка Responses в 0.11.0 не хранит состояние между запросами. Клиент должен отправлять разговор, нужный для следующего хода. README помеченной версии говорит, что Codex это делает, тогда как previous_response_id отклоняется, а не используется для извлечения сохранённого ответа сервера.
Обработка запросов без состояния не означает отсутствия кэширования в среде выполнения. Состояние беседы и повторно используемый кэш инференса решают разные задачи. Клиент по-прежнему передаёт необходимую историю; совместимый кэш может сократить работу, если часть переданного ввода совпадает с прежним префиксом.
У новой конечной точки есть и явное ограничение параллелизма: она обслуживает один запрос за раз. README объясняет, что поэтому подагенты Codex становятся в очередь. Запуск нескольких агентов может удлинить очередь, а не умножить полезную производительность Mac. В проекте есть другие возможности пакетной обработки, но их не стоит приписывать пути запросов с документированным последовательным выполнением.
Это влияет на первую пробу. Одного ассистента с ограниченной задачей в репозитории оценить проще, чем рой с несколькими длинными беседами. Записывайте время всей задачи, включая ожидание, загрузку и работу инструментов. Токены в секунду во время одной активной генерации — только часть этой длительности.
Начните с небольшой задачи в репозитории с известным ответом
Пример первого задания — попросить агента объяснить небольшой модуль и предложить модульный тест, не меняя файлы. Можно проверить, соответствует ли объяснение коду и проверяет ли тест реальный контракт. Это даёт исходный результат до выдачи прав записи или доступа к оболочке.
Второе задание может разрешать изменение в одноразовой ветке: переименовать чётко ограниченный внутренний символ, обновить места его вызова и запустить существующий узкий тест. Критерии успеха конкретны. Затронуты ли только нужные файлы, сохранён ли публичный контракт, сообщён ли фактический результат теста? Длинное уверенное объяснение не заменяет эти проверки.
Третий сценарий — ориентированная на автономность работа с конфиденциальным черновиком или частным фрагментом кода. Локальный инференс может оставить запрос модели на Mac в зависимости от настроек клиента, но весь агент автоматически не становится автономным. Операции репозитория, менеджеры пакетов, поиск, MCP-серверы и другие интеграции могут по-прежнему обращаться наружу. Проверьте их отдельно, прежде чем обещать определённое место обработки данных.
Эти примеры — предлагаемые задания для оценки. Результаты совместимости в выпуске получены в собственных интеграционных тестах разработчика, а не на нашей установке.
Настройте конечную точку, не потеряв работающего провайдера
Используйте Mac с Apple Silicon и macOS 14 или новее, установите помеченную версию документированным способом и следуйте текущим рекомендациям проекта по Gatekeeper. Не отключайте общесистемные средства безопасности только ради открытия приложения. Выберите модель из поддерживаемых путей проекта и перед загрузкой проверьте собственную лицензию модели для предполагаемого применения.
README версии 0.11.0 описывает macmlx serve и локальный API на порту 8000. Используйте идентификатор модели, действительно имеющейся на вашей машине. Следующие клиентские примеры воспроизводят документированную структуру настройки проекта; они не доказывают, что образец чекпойнта уже установлен на вашем Mac.
- Запустите бэкенд и проверьте список моделей. Выполните документированную команду сервера или загрузите модель в приложении. Проверьте настоящий адрес сервера и идентификаторы, доступные через
/v1/models. - Сохраните копию текущей конфигурации клиента. Добавляйте локального провайдера осознанно, не перезаписывая рабочую настройку, которую можно захотеть сравнить или восстановить.
- Подключите одного клиента. Начните либо с Codex, либо с Claude Code, не с обоих сразу. Проверьте короткий текстовый запрос до задания с инструментами.
- Ограничьте первые права. Начните с чтения и предложений изменений. Расширяйте доступ только по необходимости процесса работы.
Для Codex пример провайдера из README выглядит так:
model = "Qwen3.6-27B-4bit"
model_provider = "macmlx"
[model_providers.macmlx]
name = "macMLX"
base_url = "http://127.0.0.1:8000/v1"
wire_api = "responses"
Если вы включаете bearer-аутентификацию бэкенда, следуйте указаниям README по env_key и храните ключ в предназначенной переменной окружения. Пример localhost не является рекомендацией выставлять сервис инференса без аутентификации в сеть.
Документированное подключение Claude Code использует базовый URL без суффикса /v1 и сопоставляет псевдонимы моделей:
export ANTHROPIC_BASE_URL=http://127.0.0.1:8000
export ANTHROPIC_API_KEY=sk-local
export ANTHROPIC_MODEL=Qwen3.6-27B-4bit
export ANTHROPIC_DEFAULT_OPUS_MODEL=Qwen3.6-27B-4bit
export ANTHROPIC_DEFAULT_SONNET_MODEL=Qwen3.6-27B-4bit
export ANTHROPIC_DEFAULT_HAIKU_MODEL=Qwen3.6-27B-4bit
export ANTHROPIC_SMALL_FAST_MODEL=Qwen3.6-27B-4bit
claude
Здесь sk-local — пример-заглушка проекта для сервера без bearer-аутентификации, а не настоящие учётные данные сервиса. При включённой bearer-аутентификации README вместо этого предлагает использовать ANTHROPIC_AUTH_TOKEN с настроенным ключом. Рекомендации по псевдонимам важны: несопоставленный псевдоним может отправить имя модели claude-* серверу, имеющему только локальные чекпойнты, и вызвать ошибку 404.
Поддержка моделей требует более точного ответа, чем «совместимо с MLX»
Заявленные сквозные проверки выпуска включают Xcode 27 с Qwen3.6-27B и клиент Apple Foundation Models с этой моделью и Gemma 4 E4B. Проверки касались текста. Их нельзя пересказывать как доказательство работы любого клиента для кода, варианта модели или запроса с изображением.
Описание поддержки отдельно говорит о вводе изображений для чекпойнтов Gemma 4 с поддерживаемой структурой E4B и плотных чекпойнтов Qwen3.5/3.6 с собственным модулем обработки изображений. Там также сказано, что запрос с изображением не создаёт запись в кэше запросов. Появление модели в списке распознаваемых архитектур не гарантирует работу процессора входных данных, весов или мультимодального пути произвольного чекпойнта.
Для задачи программирования со скриншотом проверьте путь изображения независимо. Попросите описание с заранее известным видимым ответом, прежде чем поручать агенту переработку компонента на его основе. Сохраните запасное текстовое задание, чтобы отличить проблему загрузки визуальной части от общей проблемы цикла инструментов.
Та же дисциплина относится к форматам вывода и инструментам. Чекпойнт должен выдавать структуры вызова инструментов, ожидаемые клиентом, а не просто упоминать команду в тексте. Проверьте один вызов, возвращённый результат и полезный последующий ответ. Неудача на втором ходу может рассказать о пригодности интеграции больше, чем успешный первый ответ.
Объединённая память превращает контекст в реальный бюджет
CPU и GPU Mac используют общую физическую память. Это устраняет некоторые явные передачи, но не отменяет затрат на веса модели, активации, KV-кэш и соседние приложения. Редактор, браузер и локальная модель могут конкурировать за одну ёмкость.
Не оценивайте требования только по числу параметров. Важны точность весов, фактический размер чекпойнта, длина контекста и поведение среды выполнения. Начните с поддерживаемого чекпойнта, оставляющего место обычной работе, и затем измеряйте давление на память и отзывчивость при характерной задаче.
Есть конкретная деталь обновления, которую стоит проверить: описание выпуска говорит, что запрос chat-completion без явного ограничения токенов теперь может выполняться до 32,768 токенов вместо 2,048. Это касается документированного поведения chat-completion, а не универсальной гарантии вывода для любого маршрута API. Тем не менее явные пределы упрощают контроль экспериментальных задач. Запрос, случайно генерирующий намного дольше задуманного, тратит время и может мешать работе, ради которой вы используете Mac.
Авторский список проверки: запросы модели, доступ к репозиторию, запуск инструментов и внешние соединения требуют отдельных решений. Локальная конечная точка модели автоматически не ограничивает остальные три области.
Сравнивайте полные задачи, прежде чем сравнивать подписки
Очевидная привлекательность — уменьшение зависимости от удалённого инференса для выбранных задач. Менее очевидная цена — время оператора. Загрузка модели, ожидание в последовательной очереди, исправление неудачного изменения и поддержание среды в рабочем состоянии входят в сравнение.
Сравнивая нынешнего провайдера с локальным бэкендом, используйте одну ограниченную задачу и одинаковые приёмочные тесты. Фиксируйте холодную загрузку, первый ответ, общую длительность, успешные ходы с инструментами, итоговые результаты тестов и объём исправлений человеком. Сохраняйте модель, контекст и версии клиента в заметке, чтобы будущее обновление оставалось сопоставимым.
Для частой небольшой задачи локальная конфигурация может быть удобна, даже проигрывая по скорости. При сложном изменении с несколькими неудачными раундами удалённая модель может по-прежнему требовать меньше суммарного внимания. Это решение на уровне задачи, а не утверждение, что одно место развёртывания выигрывает любую работу.
Уже имеющееся оборудование — полезная площадка для эксперимента. Успешный тест совместимости даёт основание расширить контролируемый процесс, а не немедленно купить более мощный Mac.
Привычный инструмент для кода может стать более гибкой мастерской
macMLX 0.11.0 упрощает пробу локального инференса без замены всего интерфейса программирования. Его наиболее ценный вклад — явная связь между клиентами, форматами API и поддерживаемыми путями моделей.
Начните с одного клиента, одной модели и одной задачи с проверяемым результатом. Оставьте конечную точку локальной, рассматривайте права инструментов отдельно и учитывайте ожидание и исправления в измерениях. Полезный итог — рабочая среда, способная выбрать правильный бэкенд для задачи, а не привычный интерфейс, скрывающий непроверенное предположение.
Источники и официальные материалы
- Выпуск macMLX 0.11.0 от 17 ноября 2026 года.
- README версии 0.11.0: установка, локальный сервер и настройка клиентов.
- Официальное описание совместимости и истории выпусков.
- Официальное вводное изображение macMLX. Ссылка ведёт к самому продукту; схемы этой статьи — авторские пояснения.
Проверки совместимости принадлежат проекту. Примеры задач и процедура сравнения — предлагаемые упражнения для читателя.
Рекомендация Telli.sh: Храните модель, настройки клиента и результаты задач в одном месте, чтобы у каждого эксперимента с локальным ИИ была воспроизводимая отправная точка. Создайте первую заметку в Telli.sh.