코딩 에이전트는 그대로, 모델은 내 Mac으로 옮긴다
macMLX 0.11.0은 Apple Silicon의 로컬 추론을 Codex와 Claude Code에 연결합니다. API 경로, 모델 별칭, 메모리와 도구 권한이 실험에 어떤 차이를 만드는지 살펴봅니다.
저장소를 편집하는 인터페이스와 무엇을 편집할지 결정하는 모델은 같은 곳에서 제공할 필요가 없습니다. 코딩 에이전트는 익숙한 작업 방식을 유지하면서 일부 추론 요청을 내 Mac에서 실행 중인 모델로 보낼 수 있습니다.
2026년 11월 17일 출시된 macMLX 0.11.0은 이 구성을 위한 구체적인 API 경로를 제공합니다. Codex는 Responses 엔드포인트를, Claude Code는 Messages 및 토큰 계산 엔드포인트를 사용할 수 있습니다. 백엔드는 macOS 14 이상을 사용하는 Apple Silicon에서 실행됩니다.
선택한 모델 추론이 어디서 이뤄지는지 통제할 수 있다는 점이 매력입니다. 다만 판단할 사항은 URL 교체보다 많습니다. 모델의 역량, 대화 처리, 요청 직렬화, 코딩 도구 자체의 권한이 여전히 이 구성의 실용성을 좌우합니다.
시작 전 확인할 사항: 도구 호출이 가능한 지원 로컬 모델을 선택하고, 통합 메모리에서 가중치와 컨텍스트에 쓸 예산을 정하세요. 채팅 응답 성공은 첫 시험으로 보고, 코딩 작업 전체가 작동한다는 증거로 받아들이지는 마세요.
앞단의 에이전트는 유지하고, 뒷단에 로컬 API를 둔다
macMLX는 Apple의 MLX 생태계를 바탕으로 만든 Swift 기반 로컬 추론 앱이자 서버입니다. 기본 추론 경로는 Python 런타임을 요구하는 대신 Swift 프로세스에서 실행됩니다. 이는 기본 엔진에 대한 설명이며, 프로젝트가 지원할 수 있는 모든 선택형 통합이나 하위 프로세스에 대한 주장은 아닙니다.
이번 릴리스가 중요한 이유는 코딩 에이전트가 단순히 프롬프트를 넣고 텍스트를 받는 것보다 많은 일을 하기 때문입니다. 모델에 도구 호출을 요청하고, 허용된 작업을 실행한 뒤, 결과를 돌려주고 다음 단계를 물을 수 있습니다. 서버는 이 반복 과정에서 관련 이력과 요청 구조를 전달해야 합니다.
0.11.0은 Codex를 위한 OpenAI 호환 /v1/responses와 함께 Claude Code용 /v1/messages 및 /v1/messages/count_tokens 관련 변경을 추가합니다. 릴리스 지원 기록은 이전 추론 내용을 모델의 채팅 템플릿에 다시 넣고, 하이브리드 및 슬라이딩 윈도 모델에서 에이전트 턴 이력을 재사용하는 동작도 설명합니다. 이는 실제로 중요한 통합 세부 사항입니다. 인사말에 답할 수 있는 백엔드라도 다음 도구 턴을 정상 처리할 수 있는 백엔드인 것은 아닙니다.
자체 제작 설명 도식: 코딩 클라이언트가 작업 흐름을 소유하고, macMLX가 호환 API 요청을 처리하며, 선택한 로컬 모델이 추론을 제공합니다. 도구 실행은 별도의 권한 경계입니다.
API를 어댑터 플러그처럼 생각해 보세요. 두 구성 요소를 연결할 수는 있지만, 전력과 용량, 동작까지 같게 만들지는 않습니다. 익숙한 Codex나 Claude Code 인터페이스를 사용한다고 작은 로컬 모델이 이전에 쓰던 원격 모델로 바뀌지는 않습니다.
상태를 저장하지 않는 Responses 엔드포인트는 확장성 판단을 바꾼다
0.11.0의 Responses 엔드포인트는 요청 사이에 상태를 저장하지 않습니다. 다음 턴에 필요한 대화는 클라이언트가 보내야 합니다. 해당 태그의 README는 Codex가 이렇게 동작한다고 설명하며, previous_response_id는 저장된 서버 응답을 찾는 데 쓰이지 않고 거부됩니다.
요청 처리가 무상태라는 사실이 런타임에 캐시가 없다는 뜻은 아닙니다. 대화 상태와 재사용 가능한 추론 캐시는 서로 다른 문제를 해결합니다. 필요한 이력은 여전히 클라이언트가 제공하고, 호환 캐시는 그 입력 일부가 이전 접두부와 일치할 때 작업을 줄일 수 있습니다.
이 새 엔드포인트에는 명시적인 동시성 제한도 있습니다. 한 번에 요청 하나를 처리합니다. 따라서 Codex 하위 에이전트는 대기열에 들어간다고 README는 설명합니다. 에이전트를 여러 개 시작하면 Mac의 유효 처리량이 배로 늘기보다 줄이 길어질 수 있습니다. 프로젝트에는 다른 배치 처리 기능도 있지만, 문서상 직렬 실행으로 제한된 요청 경로에 그 기능이 적용된다고 말해서는 안 됩니다.
이 점은 첫 시험 설계에도 영향을 줍니다. 여러 개의 긴 대화를 여는 에이전트 군집보다, 범위가 정해진 저장소 작업을 수행하는 어시스턴트 하나가 평가하기 쉽습니다. 대기와 로딩, 도구 실행을 포함해 전체 작업 시간을 기록하세요. 한 번의 활성 생성 중 초당 토큰 수는 그 시간의 일부일 뿐입니다.
정답을 확인할 수 있는 작은 저장소 작업부터 시작한다
첫 작업 예시로는 파일을 바꾸지 않고 작은 모듈을 설명하고 단위 테스트를 제안하도록 요청하는 방법이 있습니다. 설명이 코드와 맞는지, 제안한 테스트가 실제 계약을 겨냥하는지 확인할 수 있습니다. 쓰기나 셸 권한을 주기 전에 기준점을 만드는 방법입니다.
두 번째 작업에서는 버려도 되는 브랜치에서 변경을 허용할 수 있습니다. 범위가 명확한 내부 심볼의 이름을 바꾸고, 호출부를 조정한 뒤, 기존의 관련 테스트를 실행하게 하는 식입니다. 성공 기준은 구체적입니다. 의도한 파일만 건드렸는지, 공개 계약을 유지했는지, 실제 테스트 결과를 보고했는지 확인합니다. 길고 자신감 있는 설명이 이러한 검증을 대신하지는 않습니다.
세 번째 시나리오는 민감한 초안이나 비공개 코드 일부를 대상으로 하는 오프라인 지향 작업입니다. 클라이언트 설정에 따라 로컬 추론은 모델 요청을 Mac 안에 유지할 수 있지만, 에이전트 전체가 자동으로 오프라인이 되는 것은 아닙니다. 저장소 작업, 패키지 관리자, 검색 도구, MCP 서버, 기타 통합은 외부에 연결할 수 있습니다. 데이터 위치에 대한 약속을 하기 전에 각각 검토하세요.
이는 평가용으로 제안하는 작업입니다. 릴리스의 호환성 결과는 개발자가 직접 수행한 통합 테스트이며, 저희가 설치해 얻은 결과는 아닙니다.
기존 제공자 설정을 보존하며 엔드포인트를 구성한다
macOS 14 이상인 Apple Silicon Mac을 사용하고, 프로젝트가 문서화한 경로로 태그 버전을 설치한 뒤, 최신 Gatekeeper 지침을 따르세요. 앱을 열기 위해 시스템 전체 보안 제어를 끄지는 마세요. 프로젝트가 지원하는 경로에서 모델을 고르고, 원하는 용도로 다운로드하기 전에 모델 자체의 라이선스를 확인하세요.
0.11.0 태그의 README는 macmlx serve와 8000번 포트의 로컬 API를 안내합니다. 실제로 기기에 있는 모델 식별자를 사용하세요. 다음 클라이언트 예시는 프로젝트가 문서화한 구성 형태를 재현한 것이며, 예시 체크포인트가 이미 사용자의 Mac에 설치됐다는 증거는 아닙니다.
- 백엔드를 시작하고 모델 목록을 확인합니다. 문서의 서버 명령을 실행하거나 앱에서 모델을 불러오세요. 실제 서버 주소와
/v1/models에 노출된 ID를 확인합니다. - 클라이언트의 현재 설정을 복사해 둡니다. 나중에 비교하거나 복원하고 싶은 정상 구성을 덮어쓰기보다, 로컬 제공자를 의도적으로 추가하세요.
- 클라이언트 하나를 연결합니다. Codex와 Claude Code 중 하나부터 시작하고, 둘을 동시에 쓰지는 마세요. 도구 작업에 앞서 짧은 텍스트 요청을 확인합니다.
- 첫 권한 범위를 좁게 유지합니다. 읽기와 변경 제안부터 시작하세요. 작업 흐름에 필요할 때만 접근 범위를 넓힙니다.
README가 제시하는 Codex 제공자 예시는 다음과 같습니다.
model = "Qwen3.6-27B-4bit"
model_provider = "macmlx"
[model_providers.macmlx]
name = "macMLX"
base_url = "http://127.0.0.1:8000/v1"
wire_api = "responses"
백엔드의 bearer 인증을 켰다면 README의 env_key 지침을 따르고 지정된 환경 변수에 키를 보관하세요. localhost 예시는 인증 없는 추론 서비스를 네트워크에 노출하라는 권고가 아닙니다.
Claude Code의 문서상 연결은 /v1 접미사 없는 기본 URL을 사용하고 모델 별칭을 매핑합니다.
export ANTHROPIC_BASE_URL=http://127.0.0.1:8000
export ANTHROPIC_API_KEY=sk-local
export ANTHROPIC_MODEL=Qwen3.6-27B-4bit
export ANTHROPIC_DEFAULT_OPUS_MODEL=Qwen3.6-27B-4bit
export ANTHROPIC_DEFAULT_SONNET_MODEL=Qwen3.6-27B-4bit
export ANTHROPIC_DEFAULT_HAIKU_MODEL=Qwen3.6-27B-4bit
export ANTHROPIC_SMALL_FAST_MODEL=Qwen3.6-27B-4bit
claude
여기서 sk-local은 bearer 인증 없는 서버를 위한 프로젝트의 예시 자리표시자이며, 실제 서비스 자격증명이 아닙니다. bearer 인증을 켰다면 README는 설정한 키를 ANTHROPIC_AUTH_TOKEN에 사용하도록 안내합니다. 별칭 지침도 중요합니다. 매핑되지 않은 별칭은 로컬 체크포인트만 가진 서버에 claude-* 모델 이름을 보내 404를 일으킬 수 있습니다.
모델 지원 여부는 “MLX 호환”보다 좁게 확인해야 한다
릴리스가 명시한 종단 간 확인에는 Qwen3.6-27B를 사용한 Xcode 27, 그리고 같은 모델과 Gemma 4 E4B를 사용한 Apple Foundation Models 클라이언트가 포함됩니다. 이 확인은 텍스트를 대상으로 했습니다. 모든 코딩 클라이언트, 모델 변형, 이미지 요청이 작동한다는 증거로 바꿔 전달해서는 안 됩니다.
지원 기록은 지원되는 E4B 구조의 Gemma 4 체크포인트와 비전 타워를 포함한 밀집형 Qwen3.5/3.6 체크포인트의 이미지 입력을 별도로 설명합니다. 이미지 요청은 프롬프트 캐시 항목을 기록하지 않는다고도 안내합니다. 감지된 아키텍처 목록에 모델이 있다고 해서 임의의 체크포인트의 전처리기, 가중치, 멀티모달 경로까지 보장되는 것은 아닙니다.
스크린샷이 포함된 코딩 작업에서는 이미지 경로를 독립적으로 시험하세요. 그것으로 컴포넌트를 재설계하라고 요청하기 전에, 화면에서 확인 가능한 정답이 있는 설명부터 요청합니다. 비전 로딩 문제와 일반적인 도구 반복 문제를 구분할 수 있도록 텍스트 전용 대체 작업도 준비하세요.
출력 형식과 도구에도 같은 원칙이 적용됩니다. 체크포인트는 문장으로 명령어를 언급하는 데 그치지 않고, 클라이언트가 기대하는 도구 구조를 출력해야 합니다. 도구 호출 한 번과 반환 결과, 유용한 후속 답변을 확인하세요. 두 번째 턴의 실패가 첫 응답의 성공보다 통합 적합성을 더 잘 드러낼 수 있습니다.
통합 메모리에서는 컨텍스트도 실제 예산이다
Mac의 CPU와 GPU는 물리 메모리를 공유합니다. 일부 명시적 전송은 피할 수 있지만, 모델 가중치와 활성값, KV 캐시, 함께 실행하는 앱의 비용이 사라지지는 않습니다. 편집기, 브라우저, 로컬 모델이 모두 같은 용량을 두고 경쟁할 수 있습니다.
파라미터 수만으로 요구량을 추정하지 마세요. 가중치 정밀도, 실제 체크포인트 크기, 컨텍스트 길이, 런타임 동작이 모두 중요합니다. 평소 업무에 쓸 공간을 남기는 지원 체크포인트부터 시작하고, 대표 작업 중 메모리 압박과 반응성을 측정하세요.
확인할 만한 구체적인 업데이트 사항이 있습니다. 릴리스 기록에 따르면 명시적 토큰 제한이 없는 채팅 완성 요청은 이제 2,048 대신 최대 32,768 토큰까지 실행될 수 있습니다. 이는 문서에 설명된 채팅 완성 동작이며, 모든 API 경로의 보편적인 출력 보장은 아닙니다. 그래도 명시적 제한은 탐색 작업을 제어하기 쉽게 해 줍니다. 의도보다 훨씬 길게 생성하는 요청은 시간을 소모하고, Mac에 맡기려던 업무를 방해할 수 있습니다.
자체 제작 검토 체크리스트: 모델 요청, 저장소 접근, 도구 실행, 외부 연결은 각각 판단해야 합니다. 로컬 모델 엔드포인트가 다른 세 항목까지 자동으로 제한하지는 않습니다.
구독료보다 먼저 전체 작업을 비교한다
선택한 작업에서 원격 추론 의존도를 줄일 수 있다는 점은 분명한 매력입니다. 덜 눈에 띄는 비용은 운영자의 시간입니다. 모델 로딩, 직렬 대기열에서의 대기, 부족한 패치 수정, 환경을 정상 유지하는 일까지 비교에 포함해야 합니다.
기존 제공자와 로컬 백엔드를 비교할 때 같은 범위의 작업과 승인 테스트를 사용하세요. 콜드 로딩, 첫 응답, 총 작업 시간, 성공한 도구 턴, 최종 테스트 결과, 사람의 수정량을 기록합니다. 이후 업데이트와 비교할 수 있도록 모델, 컨텍스트, 클라이언트 버전도 노트에 남기세요.
자주 하는 가벼운 작업이라면 속도 경쟁에서 지더라도 로컬 구성이 편할 수 있습니다. 여러 차례 실패를 거듭하는 어려운 변경이라면, 원격 모델이 총 주의력 비용에서 여전히 저렴할 수 있습니다. 이는 작업 단위의 판단이지, 한 배치 위치가 모든 업무에서 우월하다는 주장은 아닙니다.
이미 가진 하드웨어는 실험하기 좋은 출발점입니다. 호환성 시험 성공은 통제된 작업 흐름을 확장할 이유이며, 당장 더 큰 Mac을 살 이유는 아닙니다.
익숙한 코딩 도구를 더 유연한 작업대로 만든다
macMLX 0.11.0은 코딩 인터페이스 전체를 바꾸지 않고도 로컬 추론을 시험하기 쉽게 해 줍니다. 가장 가치 있는 기여는 클라이언트, API 형식, 지원 모델 경로 사이의 명시적 연결입니다.
클라이언트 하나, 모델 하나, 결과를 검증할 수 있는 작업 하나부터 시작하세요. 엔드포인트를 로컬에 유지하고, 도구 권한을 별도 결정으로 다루며, 측정에 대기와 수정 시간도 포함합니다. 유용한 결과는 시험하지 않은 가정을 익숙한 화면 뒤에 숨기는 것이 아니라, 작업에 맞는 백엔드를 고를 수 있는 작업대입니다.
출처와 공식 미디어
- macMLX 0.11.0 릴리스, 2026년 11월 17일.
- 0.11.0 태그의 README: 설치, 로컬 서비스, 클라이언트 설정.
- 공식 호환성 및 과거 릴리스 기록.
- macMLX 공식 소개 이미지. 실제 대상은 링크로 제공하며, 이 글의 도식은 자체 제작한 설명 자료입니다.
호환성 확인은 프로젝트의 결과로 명시했습니다. 작업 예시와 비교 절차는 독자에게 제안하는 실습입니다.
Telli.sh 추천: 모델과 클라이언트 설정, 작업 결과를 한곳에 보관하면 매번 로컬 AI 실험을 재현 가능한 출발점에서 시작할 수 있습니다. Telli.sh에서 첫 노트 시작하기.