AI hardwareอ่าน 20 นาที

ใช้เอเจนต์เขียนโค้ดตัวเดิม ย้ายโมเดลมาไว้บน Mac ของคุณ

macMLX 0.11.0 เชื่อมการอนุมานบน Apple Silicon ในเครื่องเข้ากับ Codex และ Claude Code มาดูว่า API ชื่อแทนโมเดล หน่วยความจำ และสิทธิ์เครื่องมือเปลี่ยนการทดลองนี้อย่างไร

K
Ken Jo

อินเทอร์เฟซที่แก้คลังโค้ดกับโมเดลที่ตัดสินใจว่าจะเปลี่ยนอะไรไม่จำเป็นต้องมาจากที่เดียวกัน เอเจนต์เขียนโค้ดสามารถคงขั้นตอนทำงานที่คุ้นเคยไว้ พร้อมส่งคำขออนุมานบางส่วนไปยังโมเดลที่รันบน Mac ของคุณเอง

macMLX 0.11.0 ซึ่งออกเมื่อวันที่ 17 พฤศจิกายน 2026 มี API ที่ชัดเจนสำหรับการจัดวางแบบนี้ Codex ใช้ endpoint Responses ได้ ส่วน Claude Code ใช้ endpoint Messages และนับโทเคนได้ backend รันบน Apple Silicon ที่ใช้ macOS 14 ขึ้นไป

จุดน่าสนใจคือการควบคุมว่าการอนุมานบางส่วนจะเกิดขึ้นที่ใด แต่การตัดสินใจมีมากกว่าการเปลี่ยน URL ความสามารถของโมเดล การจัดการบทสนทนา การรันคำขอทีละรายการ และสิทธิ์ของเครื่องมือเขียนโค้ดยังเป็นตัวกำหนดว่าการตั้งค่านี้มีประโยชน์หรือไม่

ก่อนเริ่ม: เลือกโมเดลบนเครื่องที่รองรับและเรียกใช้เครื่องมือได้ เผื่องบให้น้ำหนักและบริบทในหน่วยความจำแบบรวม และถือว่าคำตอบแชตที่สำเร็จเป็นเพียงการทดสอบแรก ไม่ใช่หลักฐานว่าเวิร์กโฟลว์เขียนโค้ดทำงานแล้ว

เอเจนต์ยังอยู่ข้างหน้า โดยมี API บนเครื่องอยู่ข้างหลัง

macMLX เป็นแอปและเซิร์ฟเวอร์อนุมานบนเครื่องที่เขียนด้วย Swift โดยอิงระบบนิเวศ MLX ของ Apple เส้นทางอนุมานเริ่มต้นทำงานในกระบวนการ Swift แทนการต้องใช้รันไทม์ Python นี่อธิบาย engine เริ่มต้น ไม่ใช่คำกล่าวอ้างเกี่ยวกับทุกส่วนเชื่อมต่อเสริมหรือ subprocess ที่โครงการอาจรองรับ

รุ่นใหม่นี้สำคัญเพราะเอเจนต์เขียนโค้ดไม่ได้ทำเพียงรับ prompt แล้วคืนข้อความ มันอาจขอให้โมเดลเรียกเครื่องมือ ดำเนินการที่ได้รับอนุญาต ส่งผลกลับ และถามขั้นต่อไป เซิร์ฟเวอร์ต้องส่งประวัติและโครงสร้างคำขอที่เกี่ยวข้องผ่านวงรอบนั้นอย่างถูกต้อง

เวอร์ชัน 0.11.0 เพิ่ม API /v1/responses ที่เข้ากันได้กับ OpenAI สำหรับ Codex พร้อมการเปลี่ยนแปลงสำหรับ Claude Code ผ่าน /v1/messages และ /v1/messages/count_tokens บันทึกการรองรับตามรุ่น ยังอธิบายการส่งส่วน reasoning ก่อนหน้ากลับเข้า chat template ของโมเดล และการนำประวัติแต่ละรอบของเอเจนต์กลับมาใช้กับโมเดล hybrid และ sliding-window รายละเอียดการเชื่อมต่อเหล่านี้ส่งผลจริง เพราะ backend ที่ทักทายตอบได้อาจจัดการรอบใช้เครื่องมือถัดไปไม่ได้

ไคลเอนต์เขียนโค้ด API บนเครื่อง และโมเดลเป็นองค์ประกอบแยกกัน ภาพอธิบายที่เราจัดทำขึ้น: ไคลเอนต์เขียนโค้ดดูแลเวิร์กโฟลว์ macMLX ให้บริการคำขอ API ที่เข้ากันได้ และโมเดลบนเครื่องที่เลือกทำการอนุมาน ส่วนการรันเครื่องมือมีขอบเขตสิทธิ์แยกต่างหาก

ให้นึกถึง API ว่าเป็นหัวแปลง มันช่วยให้องค์ประกอบสองส่วนเชื่อมกัน แต่ไม่ได้ทำให้กำลัง ความจุ หรือพฤติกรรมเหมือนกัน อินเทอร์เฟซ Codex หรือ Claude Code ที่คุ้นเคยไม่ได้เปลี่ยนโมเดลบนเครื่องขนาดเล็กกว่าให้กลายเป็นโมเดลระยะไกลที่เคยใช้

Responses แบบไม่เก็บสถานะเปลี่ยนวิธีมองการขยายงาน

endpoint Responses ของ 0.11.0 ไม่เก็บสถานะระหว่างคำขอ ไคลเอนต์ต้องส่งบทสนทนาที่จำเป็นสำหรับรอบต่อไป README ของ tag นี้ระบุว่า Codex ทำเช่นนั้น ส่วน previous_response_id จะถูกปฏิเสธ แทนการใช้เพื่อดึงคำตอบเก่าที่เก็บบนเซิร์ฟเวอร์

การรับคำขอแบบไม่เก็บสถานะไม่ได้หมายความว่ารันไทม์ไม่มี cache สถานะบทสนทนากับ cache การอนุมานที่ใช้ซ้ำได้แก้คนละปัญหา ไคลเอนต์ยังต้องส่งประวัติที่ต้องใช้ ขณะที่ cache ที่รองรับอาจลดงานเมื่ออินพุตบางส่วนตรงกับ prefix ก่อนหน้า

endpoint ใหม่นี้ยังจำกัดการทำงานพร้อมกันไว้อย่างชัดเจน โดยให้บริการทีละคำขอ README อธิบายว่า sub-agent ของ Codex จึงต้องเข้าคิว การเริ่มเอเจนต์หลายตัวอาจเพียงทำให้แถวยาวขึ้น แทนการเพิ่ม throughput ที่มีประโยชน์ของ Mac เป็นหลายเท่า โครงการมีความสามารถด้าน batching อื่น แต่ไม่ควรนำมาอ้างกับเส้นทางคำขอที่เอกสารระบุว่าทำงานแบบเรียงลำดับ

สิ่งนี้มีผลต่อการออกแบบการทดลองแรก ผู้ช่วยตัวเดียวทำงานในคลังโค้ดที่มีขอบเขตชัดเจนประเมินง่ายกว่าฝูงเอเจนต์ที่เปิดบทสนทนายาวหลายชุด บันทึกเวลาของงานทั้งหมด รวมเวลารอ การโหลด และการใช้เครื่องมือ โทเคนต่อวินาทีระหว่างการสร้างข้อความหนึ่งครั้งเป็นเพียงส่วนหนึ่งของเวลานั้น

เริ่มจากงานเล็กในคลังโค้ดที่รู้วิธีตรวจคำตอบ

งานแรกที่ใช้เป็นตัวอย่างคือ ขอให้เอเจนต์อธิบายโมดูลเล็กและเสนอ unit test โดยไม่แก้ไฟล์ คุณตรวจได้ว่าคำอธิบายตรงกับโค้ดหรือไม่ และการทดสอบที่เสนอเจาะจงสัญญาการทำงานที่มีอยู่จริงหรือไม่ จึงได้ฐานก่อนให้สิทธิ์เขียนหรือใช้ shell

งานที่สองอาจอนุญาตให้แก้ไขใน branch ทดลองที่ทิ้งได้ เช่น เปลี่ยนชื่อสัญลักษณ์ภายในที่กำหนดขอบเขตไว้ชัด ปรับจุดเรียกใช้ และรันการทดสอบเฉพาะที่มีอยู่ เกณฑ์สำเร็จตรวจได้ตรงไปตรงมา มันแตะเฉพาะไฟล์ที่ตั้งใจ รักษาสัญญาสาธารณะ และรายงานผลทดสอบที่เกิดขึ้นจริงหรือไม่ คำอธิบายยาวและมั่นใจใช้แทนการตรวจเหล่านั้นไม่ได้

กรณีที่สามคืองานที่มุ่งใช้ออฟไลน์กับร่างที่ละเอียดอ่อนหรือโค้ดส่วนตัว การอนุมานบนเครื่องอาจทำให้คำขอโมเดลอยู่บน Mac โดยขึ้นกับการตั้งค่าไคลเอนต์ แต่ทั้งเอเจนต์ไม่ได้กลายเป็นออฟไลน์โดยอัตโนมัติ การดำเนินการกับคลังโค้ด ตัวจัดการแพ็กเกจ เครื่องมือค้นหา เซิร์ฟเวอร์ MCP และส่วนเชื่อมต่ออื่นยังติดต่อภายนอกได้ ตรวจแต่ละส่วนก่อนให้คำรับรองเรื่องตำแหน่งข้อมูล

ตัวอย่างเหล่านี้เป็นงานที่เสนอให้ใช้ประเมิน ผลความเข้ากันได้ในบันทึกรุ่นเป็นการทดสอบการเชื่อมต่อของผู้พัฒนาเอง ไม่ใช่ผลจากการติดตั้งของเรา

ตั้งค่า endpoint โดยไม่ทับผู้ให้บริการที่ใช้งานได้อยู่แล้ว

ใช้ Mac แบบ Apple Silicon ที่มี macOS 14 หรือใหม่กว่า ติดตั้งรุ่นที่ระบุ tag ตามวิธีในเอกสารโครงการ และทำตามคำแนะนำ Gatekeeper ปัจจุบัน อย่าปิดระบบความปลอดภัยทั้งเครื่องเพียงเพื่อเปิดแอป เลือกโมเดลจากเส้นทางที่โครงการรองรับ และตรวจใบอนุญาตของโมเดลก่อนดาวน์โหลดมาใช้งานตามวัตถุประสงค์

README ของ tag 0.11.0 อธิบาย macmlx serve และ API บนเครื่องที่พอร์ต 8000 ให้ใช้รหัสโมเดลที่มีอยู่จริงบนเครื่อง ตัวอย่างไคลเอนต์ต่อไปนี้แสดงรูปแบบการตั้งค่าตามเอกสารโครงการ ไม่ใช่หลักฐานว่าคุณติดตั้ง checkpoint ตัวอย่างบน Mac แล้ว

  1. เริ่ม backend และตรวจรายการโมเดล รันคำสั่งเซิร์ฟเวอร์ที่เอกสารระบุหรือโหลดโมเดลในแอป ตรวจที่อยู่จริงของเซิร์ฟเวอร์และ ID ที่แสดงผ่าน /v1/models
  2. เก็บสำเนาการตั้งค่าเดิมของไคลเอนต์ เพิ่มผู้ให้บริการบนเครื่องอย่างตั้งใจ แทนการทับชุดที่ใช้งานได้และอาจต้องนำมาเทียบหรือคืนค่า
  3. เชื่อมไคลเอนต์หนึ่งตัว เริ่มด้วย Codex หรือ Claude Code อย่างใดอย่างหนึ่ง ไม่ใช่ทั้งคู่พร้อมกัน ยืนยันคำขอข้อความสั้นก่อนลองงานที่ใช้เครื่องมือ
  4. จำกัดสิทธิ์ชุดแรกให้แคบ เริ่มจากอ่านและเสนอการเปลี่ยนแปลง ขยายการเข้าถึงต่อเมื่อเวิร์กโฟลว์จำเป็นต้องใช้

สำหรับ Codex ตัวอย่างผู้ให้บริการใน README คือ:

toml
model = "Qwen3.6-27B-4bit"
model_provider = "macmlx"

[model_providers.macmlx]
name = "macMLX"
base_url = "http://127.0.0.1:8000/v1"
wire_api = "responses"

หากเปิดการยืนยันตัวตนแบบ bearer ของ backend ให้ทำตามคำแนะนำ env_key ใน README และเก็บคีย์ในตัวแปรสภาพแวดล้อมที่กำหนด ตัวอย่าง localhost ไม่ใช่คำแนะนำให้เปิดบริการอนุมานที่ไม่ยืนยันตัวตนสู่เครือข่าย

การเชื่อม Claude Code ตามเอกสารใช้ base URL ที่ไม่มีส่วนท้าย /v1 และแมปชื่อแทนโมเดลดังนี้:

Bashรันใน เทอร์มินัล
export ANTHROPIC_BASE_URL=http://127.0.0.1:8000
export ANTHROPIC_API_KEY=sk-local
export ANTHROPIC_MODEL=Qwen3.6-27B-4bit
export ANTHROPIC_DEFAULT_OPUS_MODEL=Qwen3.6-27B-4bit
export ANTHROPIC_DEFAULT_SONNET_MODEL=Qwen3.6-27B-4bit
export ANTHROPIC_DEFAULT_HAIKU_MODEL=Qwen3.6-27B-4bit
export ANTHROPIC_SMALL_FAST_MODEL=Qwen3.6-27B-4bit
claude

ในที่นี้ sk-local เป็นข้อความแทนค่าในตัวอย่างของโครงการสำหรับเซิร์ฟเวอร์ที่ไม่ได้เปิดการยืนยันตัวตนแบบ bearer ไม่ใช่ข้อมูลรับรองบริการจริง เมื่อเปิด bearer README จะให้ใช้ ANTHROPIC_AUTH_TOKEN กับคีย์ที่ตั้งไว้ คำแนะนำเรื่องชื่อแทนสำคัญ เพราะชื่อที่ไม่ได้แมปอาจส่งชื่อโมเดล claude-* ไปยังเซิร์ฟเวอร์ที่มีเพียง checkpoint บนเครื่อง ทำให้เกิด 404

การรองรับโมเดลต้องเจาะจงกว่า “เข้ากันได้กับ MLX”

การตรวจแบบครบวงจรที่รุ่นนี้ประกาศรวมถึง Xcode 27 กับ Qwen3.6-27B และไคลเอนต์ Foundation Models ของ Apple กับโมเดลนั้นและ Gemma 4 E4B การตรวจเหล่านี้ครอบคลุมข้อความ ไม่ควรนำมาเล่าเป็นหลักฐานว่าไคลเอนต์เขียนโค้ดทุกตัว โมเดลทุกแบบ หรือคำขอภาพทุกชนิดทำงานได้

บันทึกการรองรับ อธิบายอินพุตภาพแยกสำหรับ checkpoint Gemma 4 ที่มีโครงสร้าง E4B ตามที่รองรับ และ checkpoint Qwen3.5/3.6 แบบ dense ที่มี vision tower รวมอยู่ด้วย อีกทั้งระบุว่าคำขอภาพจะไม่บันทึกรายการใน prompt-cache การพบโมเดลในรายการสถาปัตยกรรมที่ตรวจจับได้ไม่ได้รับรอง processor น้ำหนัก หรือเส้นทางมัลติโมดัลของ checkpoint ใดก็ได้

สำหรับงานเขียนโค้ดที่มีภาพหน้าจอ ให้ทดสอบเส้นทางภาพแยกก่อน ขอให้บรรยายสิ่งที่เห็นซึ่งคุณรู้อยู่แล้วว่าคำตอบคืออะไร ก่อนให้เอเจนต์ออกแบบส่วนประกอบใหม่จากภาพ เก็บงานสำรองที่เป็นข้อความล้วนไว้ เพื่อแยกปัญหาโหลดส่วนการมองเห็นออกจากปัญหาวงรอบเครื่องมือทั่วไป

ใช้หลักเดียวกันกับรูปแบบผลลัพธ์และเครื่องมือ checkpoint ต้องสร้างโครงสร้างการเรียกเครื่องมือที่ไคลเอนต์ต้องการ ไม่ใช่เพียงเอ่ยคำสั่งในข้อความ ตรวจการเรียกเครื่องมือหนึ่งครั้ง ผลที่ส่งกลับ และคำตอบติดตามที่มีประโยชน์ ความล้มเหลวในรอบที่สองอาจบอกเรื่องความเหมาะสมของการเชื่อมต่อได้มากกว่าการตอบรอบแรกสำเร็จ

หน่วยความจำรวมทำให้บริบทเป็นงบที่ต้องคิดจริง

CPU และ GPU ของ Mac ใช้หน่วยความจำกายภาพร่วมกัน จึงหลีกเลี่ยงการถ่ายข้อมูลบางส่วนได้ แต่ไม่ได้ตัดต้นทุนของน้ำหนักโมเดล activation, KV cache และแอปที่อยู่ข้างกัน โปรแกรมเขียนงาน เบราว์เซอร์ และโมเดลบนเครื่องอาจแย่งความจุเดียวกันทั้งหมด

อย่าประเมินความต้องการจากจำนวนพารามิเตอร์อย่างเดียว ความละเอียดของน้ำหนัก ขนาด checkpoint จริง ความยาวบริบท และพฤติกรรมรันไทม์ล้วนสำคัญ เริ่มจาก checkpoint ที่รองรับและเหลือที่ให้งานปกติ แล้ววัดความตึงตัวของหน่วยความจำกับการตอบสนองระหว่างงานตัวแทน

มีรายละเอียดการอัปเกรดหนึ่งที่ควรตรวจ บันทึกรุ่นระบุว่าคำขอ chat-completion ที่ไม่กำหนดขีดจำกัดโทเคนชัดเจนอาจรันได้สูงสุด 32,768 โทเคน แทน 2,048 นี่เกี่ยวกับพฤติกรรม chat-completion ที่เอกสารระบุ ไม่ใช่คำรับรองผลลัพธ์แบบเดียวกันทุก API อย่างไรก็ดี การตั้งขีดจำกัดชัดเจนช่วยควบคุมงานทดลองได้ง่ายขึ้น คำขอที่เผลอสร้างข้อความยาวกว่าที่ตั้งใจมากย่อมใช้เวลาและอาจรบกวนงานที่อยากให้ Mac ทำ

สิ่งใดอยู่บนเครื่อง และสิ่งใดยังต้องตัดสินใจเรื่องสิทธิ์ รายการตรวจที่เราจัดทำขึ้น: คำขอโมเดล การเข้าถึงคลังโค้ด การรันเครื่องมือ และการเชื่อมต่อภายนอกต้องตัดสินใจแยกกัน endpoint โมเดลบนเครื่องไม่ได้จำกัดอีกสามส่วนโดยอัตโนมัติ

เปรียบเทียบทั้งงานก่อนเปรียบเทียบค่าสมาชิก

ข้อดีที่เห็นชัดคือการลดการพึ่งพาการอนุมานระยะไกลสำหรับบางงาน ต้นทุนที่เห็นไม่ชัดเท่าคือเวลาของผู้ดูแล การโหลดโมเดล รอคิวแบบเรียงลำดับ แก้แพตช์ที่ยังไม่ดีพอ และดูแลสภาพแวดล้อมให้พร้อม ล้วนต้องรวมในข้อเปรียบเทียบ

ใช้ขอบเขตงานและการทดสอบยอมรับเดียวกันเมื่อเทียบผู้ให้บริการปัจจุบันกับ backend บนเครื่อง บันทึกเวลาโหลดแบบเย็น คำตอบแรก เวลางานทั้งหมด รอบเครื่องมือที่สำเร็จ ผลทดสอบสุดท้าย และปริมาณงานแก้ของมนุษย์ เก็บโมเดล บริบท และเวอร์ชันไคลเอนต์ในบันทึกเพื่อเทียบกับการอัปเกรดครั้งต่อไปได้

สำหรับงานขนาดพอเหมาะที่ทำบ่อย การตั้งค่าบนเครื่องอาจสะดวกแม้แพ้เรื่องความเร็ว สำหรับการเปลี่ยนแปลงยากที่ต้องลองหลายรอบไม่สำเร็จ โมเดลระยะไกลอาจยังใช้ความใส่ใจรวมต่ำกว่า นี่เป็นการตัดสินใจระดับงาน ไม่ใช่ข้ออ้างว่าตำแหน่งติดตั้งแบบหนึ่งชนะทุกงาน

ฮาร์ดแวร์ที่คุณมีอยู่แล้วเป็นจุดเริ่มทดลองที่ดี การทดสอบความเข้ากันได้สำเร็จเป็นเหตุผลให้ขยายเวิร์กโฟลว์อย่างควบคุม ไม่ใช่เหตุผลให้ซื้อ Mac ที่ใหญ่ขึ้นทันที

เครื่องมือเขียนโค้ดที่คุ้นเคยอาจกลายเป็นโต๊ะทำงานที่ยืดหยุ่นขึ้น

macMLX 0.11.0 ช่วยให้ลองอนุมานบนเครื่องง่ายขึ้นโดยไม่ต้องเปลี่ยนอินเทอร์เฟซเขียนโค้ดทั้งชุด สิ่งที่มีค่าที่สุดคือการเชื่อมไคลเอนต์ รูปแบบ API และเส้นทางโมเดลที่รองรับไว้อย่างชัดเจน

เริ่มจากไคลเอนต์หนึ่งตัว โมเดลหนึ่งตัว และงานหนึ่งอย่างที่ตรวจผลได้ คง endpoint ไว้บนเครื่อง แยกการตัดสินใจเรื่องสิทธิ์เครื่องมือ และรวมเวลารอกับเวลาแก้ไว้ในการวัด ผลที่มีประโยชน์คือโต๊ะทำงานที่เลือก backend เหมาะกับงานได้ แทนอินเทอร์เฟซคุ้นเคยที่ซ่อนสมมติฐานซึ่งยังไม่ทดสอบ

แหล่งข้อมูลและสื่อทางการ

ผลตรวจความเข้ากันได้อ้างอิงจากโครงการ ส่วนตัวอย่างงานและขั้นตอนเปรียบเทียบเป็นแบบฝึกที่เสนอให้ผู้อ่านนำไปใช้


คำแนะนำจาก Telli.sh: เก็บโมเดล การตั้งค่าไคลเอนต์ และผลการทำงานไว้ที่เดียวกัน เพื่อให้การทดลอง AI บนเครื่องแต่ละครั้งมีจุดเริ่มต้นที่ทำซ้ำได้ เริ่มบันทึกแรกของคุณด้วย Telli.sh


← กลับไปที่บล็อก