816B trên bàn làm việc với Mac: Muse Spark Open thực sự mở ra điều gì

Minh họa giải thích do biên tập thực hiện. Cấu hình trình diễn hai máy và ví dụ lượng tử hóa chạy trên một máy sử dụng các thiết lập khác nhau; không thể xem chúng là kết quả hiệu năng có thể thay thế cho nhau.

Một mô hình có 816 tỷ tham số chạy trên bàn làm việc nghe có vẻ mâu thuẫn. Nhưng chiếc bàn trong thông báo ngày 15 tháng 10 của Meta đặt hai máy Mac Studio, mỗi máy có dung lượng bộ nhớ rất lớn. Đó là một câu chuyện hoàn toàn khác với việc chạy cùng mô hình trên chiếc máy tính xách tay bạn đang có.

Diễn biến đáng chú ý hơn nằm ngay bên dưới tiêu đề ấy. Muse Spark Open cho phép nhà phát triển truy cập trọng số của mô hình, còn các công cụ đi kèm cung cấp nhiều cách để vận hành chúng. Meta giới thiệu cấu hình hai máy; Hugging Face cũng mô tả một phiên bản lượng tử hóa mạnh hơn chạy trên một máy Mac 512GB. AI cục bộ ngày càng ít xoay quanh câu hỏi liệu về lý thuyết có tải được mô hình hay không, và ngày càng tập trung vào việc chọn cách biểu diễn cùng phạm vi vận hành phù hợp.

Hướng dẫn này giải thích mô hình làm được gì, vì sao các con số bộ nhớ khác nhau, những bản trình diễn đã công bố nào đáng xem và cách bắt đầu hữu ích mà không vô tình khởi động một lượt tải xuống nặng hàng trăm gigabyte. Mục tiêu không phải biến mọi độc giả thành người mua máy trạm. Mục tiêu là giúp bạn nhìn rõ hơn lựa chọn giữa máy cục bộ, mô hình nhỏ hơn và dịch vụ lưu trữ.

Bước đột phá là quyền truy cập mô hình, không phải nâng cấp máy tính xách tay cho tất cả mọi người

Meta phát hành Muse Spark Open ngày 15 tháng 10 năm 2026, mô tả đây là mô hình mixture-of-experts 816B tham số, với khoảng 42B tham số hoạt động trên mỗi token và cửa sổ ngữ cảnh tối đa một triệu token. Bản phát hành hướng đến lập trình và các tác vụ sử dụng công cụ kéo dài. Trọng số có thể được triển khai qua nhiều bộ máy suy luận, thay vì bị ràng buộc vào một ứng dụng trò chuyện duy nhất.

Điều đó làm thay đổi những ai có thể quyết định cách triển khai. Nhà phát triển có thể chọn checkpoint, chạy ngăn xếp phục vụ phù hợp, tích hợp công cụ và quyết định ứng dụng gửi thông tin đi đâu. Những lựa chọn ấy quan trọng khi dự án cần một phiên bản mô hình có thể tái tạo hoặc một cách xử lý dữ liệu cụ thể. Chúng cũng đi kèm trách nhiệm mà gói đăng ký trò chuyện được quản lý thường che khuất: lưu trữ, nâng cấp, khả năng tương thích, giám sát và khôi phục.

Theo chúng tôi, đây là sự mở rộng đáng kể về lựa chọn, chứ không phải cơ sở hạ tầng bỗng biến mất. Sở hữu trọng số cũng giống như sở hữu một động cơ. Bạn có thể chế tạo một loại xe khác, nhưng động cơ không cung cấp phanh, xưởng sửa chữa hay con đường. Câu hỏi hữu ích là bạn thực sự muốn tự bảo trì những phần nào của chiếc xe đó.

Với một dự án sở thích, việc tự bảo trì có thể chính là mục đích. Với doanh nghiệp nhỏ cần câu trả lời trước giờ họp, đó có thể là việc gây xao nhãng không cần thiết. Cả hai đều là phản ứng hợp lý trước cùng một bản phát hành. Mô hình trọng số mở trao cho bạn quyền lựa chọn; nó không quyết định thay bạn.

42B tham số hoạt động không biến 816B thành một lượt tải nhỏ

Các mô hình mixture-of-experts chỉ chọn một phần năng lực chuyên gia cho mỗi token. Điều đó giúp giải thích vì sao số tham số hoạt động nhỏ hơn nhiều so với tổng số. Nhưng điều này không có nghĩa có thể đơn giản bỏ các chuyên gia chưa được dùng khỏi một lần triển khai đầy đủ thông thường: token tiếp theo có thể cần một tuyến xử lý khác trong mô hình.

Hãy tách ngân sách thành ba phần. Phần thứ nhất là dung lượng lưu checkpoint. Phần thứ hai là bộ nhớ làm việc dành cho trọng số và môi trường chạy. Phần thứ ba là trạng thái tăng theo khối lượng công việc, bao gồm bộ nhớ đệm attention và đầu vào đa phương thức. Vượt qua phép thử thứ nhất không chứng minh rằng hai phần còn lại cũng vừa.

Thẻ mô hình chính thức liệt kê văn bản, hình ảnh, video và âm thanh làm đầu vào, với văn bản làm đầu ra. Thẻ cũng nêu các định dạng checkpoint khác nhau và yêu cầu bộ nhớ đáng kể. Đây là thông số của cả họ mô hình, không phải cam kết rằng mọi checkpoint đã chuyển đổi đều có đủ mọi encoder hoặc đạt độ dài ngữ cảnh tối đa trên mọi máy.

Sơ đồ khái niệm do biên tập thực hiện. Các dải chỉ những loại bộ nhớ được sử dụng, không biểu thị tỷ lệ đo được. Chỉ riêng kích thước checkpoint không thể cho biết máy có đủ dung lượng hay không.

Sự phân biệt này đặc biệt quan trọng với video. Một câu hỏi ngắn về một hình ảnh và một phân tích dài trên nhiều khung hình không phải cùng một yêu cầu chỉ vì cả hai đều dùng mô hình có khả năng xử lý hình ảnh. Thử nghiệm đầu tiên hợp lý nên giữ đầu vào nhỏ, giới hạn độ dài câu trả lời và thiết lập mức cơ sở hoạt động được trước khi thêm kho dữ liệu lớn hơn hoặc vòng lặp tác tử dài hơn.

Hai máy Mac Studio và một máy Mac 512GB kể những câu chuyện khác nhau

Buổi trình diễn của Meta sử dụng hai máy Mac Studio M5 Ultra và MLX. Thông báo nêu mỗi máy có bộ nhớ hợp nhất tối đa 512GB, đồng thời giới thiệu quy trình chạy cục bộ gồm chỉnh sửa ứng dụng iOS Ice Cubes và biên tập trong DaVinci Resolve. Đây là các bản trình diễn của Meta, không phải phép đo trên máy của chúng tôi. Xem cấu hình và ví dụ trong bài ra mắt của Meta.

Bài ra mắt của Hugging Face chọn một hướng khác. Bài viết mô tả việc thử checkpoint lượng tử hóa oQ3e trên máy M3 Ultra có bộ nhớ 512GB. Với prompt 1.024 token và 128 token được tạo ra, nhóm tác giả báo cáo tốc độ khoảng 225 token mỗi giây trong giai đoạn nạp prompt và 21 token mỗi giây khi tạo nội dung. Các con số này chỉ thuộc về phép thử ngắn và checkpoint đó, không đại diện cho mọi máy Mac hay cấu hình trình diễn hai máy. Đọc phần MLX trong bài viết kỹ thuật.

Thẻ checkpoint oQ3e giúp phân biệt đơn vị: dung lượng lưu tensor vào khoảng 344.152 GiB, tương đương 369.531 GB. Thẻ mô tả dung lượng khoảng 370GB trong oMLX. Gọi đơn giản đây là “mô hình 344GB” sẽ làm mờ khác biệt giữa đơn vị nhị phân và thập phân, ngay tại nơi dung lượng bộ nhớ còn lại trở nên quan trọng.

Còn một giới hạn quan trọng khác. Bản chuyển đổi oQ3e có mô hình ngôn ngữ và vision encoder, nhưng không có audio encoder. Vì vậy, bản trình diễn giọng nói kết hợp trình duyệt dùng mô hình đầy đủ không chứng minh rằng cùng quy trình âm thanh cũng hoạt động với chính tệp tải xuống này. Tên mô hình không thể thay thế việc đọc thẻ của đúng biến thể.

Thẻ oQ4e làm rõ hơn sự đánh đổi về dung lượng. Thẻ liệt kê khoảng 475.886GB dung lượng tensor và cảnh báo rằng con số này quá lớn để sử dụng ổn định trên một máy Mac 512GB. Nhiều bit hơn có thể giữ lại cách biểu diễn trọng số khác, nhưng đồng thời để lại ít chỗ hơn cho công việc thực tế. Lấp đầy bộ nhớ không đồng nghĩa với hoàn tất công việc.

Hãy xem vòng lặp sử dụng công cụ, không chỉ câu trả lời cuối cùng

Một ứng dụng hấp dẫn là trợ lý lập trình có thể kiểm tra hình thức của những thay đổi mình tạo ra. Ví dụ tạo tài sản 3D của Hugging Face kết hợp mô hình lượng tử hóa, tác tử lập trình, Three.js, hình ảnh dựng từ trình duyệt và phản hồi trực quan. Điểm đáng chú ý là vòng lặp: tạo sản phẩm, quan sát, tìm lỗi rồi chỉnh sửa.

Hãy tưởng tượng dùng cách này để tạo nguyên mẫu bộ cấu hình sản phẩm. Bạn muốn tác tử nhận ra một nút điều khiển bị che khuất hoặc một vật thể nằm ngoài khung camera, chứ không chỉ tạo mã đúng cú pháp. Đây là ứng dụng minh họa cho cách làm, không phải tuyên bố rằng bản demo đã cung cấp bộ cấu hình sẵn sàng cho môi trường sản xuất. Tiêu chí nghiệm thu vẫn thuộc về dự án: đúng nút điều khiển, đúng kích thước và hoạt động đúng trên màn hình nhỏ.

Ví dụ thứ hai là bản trình diễn “Call your Browser”, được liên kết trong bài của Hugging Face. Bản này kết hợp đầu vào bằng giọng nói với thao tác trình duyệt trực quan để tìm sản phẩm phù hợp mô tả. Bản trình diễn được lưu trữ ngay trong bài viết kỹ thuật cho thấy tương tác ấy, nhưng không hàm ý rằng chỉ cần cài trọng số là đã có tác tử trình duyệt. Space được liên kết có thể yêu cầu quyền truy cập; đừng mặc định liên kết trên trang ra mắt đảm bảo dịch vụ công khai có thể chạy được. Trước khi thử phiên bản lưu trữ trên máy chủ, hãy xem cách thiết lập và xử lý dữ liệu, đồng thời chỉ dùng ví dụ không nhạy cảm.

Trường hợp sử dụng thứ ba là trợ lý rà soát tài liệu và ảnh chụp màn hình của bạn. Chẳng hạn, bạn có thể yêu cầu đối chiếu một yêu cầu bằng văn bản với ảnh giao diện và liệt kê điểm không khớp. Công việc này tận dụng khả năng hiểu hình ảnh mà chưa cần cấp ngay quyền sửa tệp, gửi tin nhắn hay mua bất cứ thứ gì. Hãy bắt đầu bằng một công việc mà con người có thể kiểm tra cả đầu vào lẫn câu trả lời được đề xuất.

Minh họa quy trình do biên tập thực hiện. Khung tác tử và các công cụ của nó cung cấp vòng lặp hành động; tải trọng số mô hình không tự cấp quyền truy cập trình duyệt hay hệ thống tệp.

Với cả ba cách làm, hãy tìm bằng chứng trung gian. Tác vụ lập trình có biên dịch được không? Trang đã dựng có đáp ứng yêu cầu không? Lựa chọn sản phẩm có thỏa các ràng buộc đã nêu không? Một đoạn văn kết luận trau chuốt không thể thay thế sản phẩm thực tế mà công việc cần tạo ra.

Bắt đầu trên Mac mà không xem “tải xuống” là bước đầu tiên

Sai lầm dễ mắc nhất là chọn mô hình lớn nhất trước rồi mới phát hiện yêu cầu dung lượng giữa chừng. Hãy làm theo thứ tự ngược lại. Chọn một công việc nhỏ, xác định checkpoint được hỗ trợ và kiểm tra máy trước khi cam kết dung lượng lưu trữ hay thời gian.

1. Kiểm tra bộ nhớ và dung lượng lưu trữ còn trống của Mac. Trong Terminal, các lệnh dưới đây hiển thị phiên bản macOS, dung lượng bộ nhớ đã lắp tính bằng byte và dung lượng trống trên ổ đĩa thư mục chính. Chúng không cài phần mềm hay tải trọng số.

sw_vers -productVersion
sysctl -n hw.memsize
df -h "$HOME"

2. Chọn ứng dụng và checkpoint được hỗ trợ cùng lúc. Dự án oMLX cung cấp ứng dụng macOS và tài liệu cài đặt. Điều kiện tiên quyết được ghi rõ gồm Apple Silicon và macOS 15 trở lên. Tại thời điểm viết bài, bản phát hành mới nhất là v0.7.1rc1, một bản ứng viên phát hành: hãy tách thử nghiệm khỏi máy trạm mà bạn cần để kịp thời hạn công việc.

3. Đọc thẻ của đúng bản chuyển đổi trước khi chọn nó trong giao diện tải mô hình. Với ví dụ chạy trên một máy ở trên, mã định danh là mlx-community/Muse-Spark-Open-816B-A42B-oQ3e. Hãy dự trù dung lượng cho checkpoint, bộ nhớ đệm tải xuống, môi trường chạy và công việc bạn muốn thực hiện. Máy Mac 256GB thấp hơn yêu cầu đã công bố cho biến thể này; rút câu trả lời còn một câu không làm mất yêu cầu lưu trọng số.

4. Bắt đầu bằng một tác vụ ngắn, có thể bỏ đi. Thử một câu hỏi văn bản nhỏ hoặc ảnh chụp màn hình không nhạy cảm với yêu cầu trả lời ngắn. Xác nhận mô hình tải được và kết quả hữu ích trước khi tăng ngữ cảnh hoặc thêm công cụ. Tải thành công chỉ xác nhận khả năng tương thích, không xác nhận độ chính xác thực tế.

5. Chỉ thêm hành động sau khi quy trình chỉ đọc hoạt động ổn định. Làm việc trên bản sao của dự án. Giới hạn các tệp và công cụ mà tác tử có thể truy cập, đồng thời yêu cầu xác nhận trước khi thực hiện hành động bên ngoài. Giữ các thay đổi ở dạng có thể xem xét, thay vì để thử nghiệm đầu tiên sửa bản làm việc duy nhất của bạn.

Ưu tiên quy trình tải xuống và chọn mô hình được ứng dụng hỗ trợ thay vì sao chép một lệnh chung từ trang của mô hình khác. MLX LM cũng cung cấp cách sử dụng dòng lệnh, nhưng hỗ trợ mô hình và các bản phát hành đóng gói có thể tiến triển với tốc độ khác nhau. Pull request bổ sung hỗ trợ Muse là tài liệu tham khảo hữu ích về khả năng tương thích khi chọn phiên bản, chứ không phải lý do để cài một nhánh phát triển bất kỳ.

Bạn không cần mua phần cứng để hiểu mô hình hữu ích đến đâu. Một endpoint lưu trữ có thể giúp xác định liệu mô hình xử lý được tác vụ đại diện của bạn hay không trước khi bạn tìm hiểu triển khai cục bộ. Trước tiên, hãy xem giá, cách xử lý dữ liệu và giới hạn chi tiêu của nhà cung cấp. Bản trình diễn công khai là tài liệu để tìm hiểu, không phải dịch vụ backend sản xuất miễn phí.

Đo lường công việc đã hoàn tất, không chỉ bộ đếm token

Số token mỗi giây giúp mô tả một cấu hình suy luận. Nó không cho biết trợ lý giúp bạn tiết kiệm cả buổi chiều hay tạo ra một lỗi khó nhận thấy. Một thay đổi sai nhưng nhanh có thể tốn kém hơn thay đổi đúng nhưng chậm, nhất là khi tác tử chạy lâu lặp lại giả định sai của chính nó.

Một phép so sánh thực tế dùng cùng một nhóm nhỏ tác vụ trên các cấu hình ứng viên. Hãy gồm một thay đổi mã có bài kiểm thử sẵn, một ảnh chụp màn hình có vấn đề đã biết và một câu hỏi về tài liệu mà câu trả lời có thể truy ngược về một đoạn văn. Giữ prompt và điều kiện nghiệm thu ổn định. Sau đó ghi lại độ chính xác, thời gian đến khi có kết quả đã được xem xét, mức can thiệp cần thiết và mức sử dụng tài nguyên đỉnh nếu công cụ của bạn cung cấp.

Hãy xem nạp prompt và tạo nội dung là hai phần khác nhau của thời gian chờ. Đầu vào dài có thể khiến phản hồi đầu tiên chậm dù các token tiếp theo xuất hiện nhanh. Tác tử cũng có thể mất thời gian biên dịch, duyệt web hoặc chờ công cụ khác. Hãy tính cả thời gian đó khi so sánh cấu hình cục bộ với dịch vụ lưu trữ; đó vẫn là trải nghiệm của người dùng dù thời gian ấy nằm ngoài mô hình.

Lặp lại phép so sánh sau khi cập nhật checkpoint hoặc môi trường chạy đáng kể. Bạn không cần một bộ benchmark lớn mới phát hiện thay đổi làm hỏng quy trình thông thường. Một vài tác vụ đại diện được kiểm tra nhất quán hữu ích hơn ảnh chụp màn hình của một câu trả lời ấn tượng duy nhất.

Trọng số mở đem lại lựa chọn, không tự động bảo đảm riêng tư hay quyền sử dụng vô hạn

Mô hình cục bộ có thể giữ quá trình suy luận trên máy của bạn. Nhưng toàn bộ ứng dụng vẫn có thể dùng tìm kiếm web, đo từ xa, công cụ bên ngoài, lưu trữ từ xa hoặc mô hình dự phòng chạy trên máy chủ. Hãy phác họa đường đi của dữ liệu trong quy trình thực tế trước khi gọi nó là riêng tư. Thử nghiệm văn bản ngoại tuyến và tác tử mua sắm qua trình duyệt có ranh giới khác nhau, dù cùng khởi đầu từ một checkpoint.

Giấy phép Muse Model cũng có các điều kiện. Giấy phép yêu cầu ghi công và kèm theo chính sách sử dụng, đồng thời có điều khoản riêng cho một số doanh nghiệp cung cấp mô hình dưới dạng dịch vụ. Đây là bản phát hành trọng số mở với giấy phép tùy chỉnh, không phải tuyên bố rằng mọi hình thức sử dụng đều không bị hạn chế. Hãy kiểm tra giấy phép hiện hành cho hoạt động phân phối hoặc dịch vụ dự định của bạn.

Với một nhóm, quyền sở hữu cần có câu trả lời về vận hành bên cạnh câu trả lời pháp lý. Ai phê duyệt phiên bản mô hình mới? Ai có thể khôi phục cấu hình trước? Prompt và kết quả công cụ được gửi đến đâu? Ai xem xét thay đổi trước khi đến tay khách hàng? Những câu hỏi này không nhằm phản đối suy luận cục bộ. Chúng giúp biến suy luận cục bộ thành dịch vụ đáng tin cậy thay vì một buổi trình diễn chỉ kéo dài một ngày.

Điểm mấu chốt: AI cục bộ đang trở thành một lựa chọn cấu hình

Cột mốc thực sự không phải là giờ mọi máy tính đều chạy được một mô hình khổng lồ. Điều đáng kể là người dùng có thể nhìn thấy và lựa chọn nhiều phần hơn trong quyết định triển khai: dùng trọng số nào, bản chuyển đổi nào, máy nào, môi trường chạy nào và công cụ nào.

Muse Spark Open khiến lựa chọn ấy trở nên cụ thể. Hai máy Mac bộ nhớ lớn minh họa một hướng; bản chuyển đổi nhỏ hơn minh họa hướng khác; suy luận lưu trữ trên máy chủ lại có sự đánh đổi riêng. Hãy chọn cấu hình nhỏ nhất hoàn thành ổn định công việc bạn quan tâm. Câu hỏi hữu ích tiếp theo không phải “Tôi có làm cho nó tải được không?” mà là “Tôi có thể tin cậy công việc nó trả về không?”

Nguồn và bản trình diễn

• Meta: ra mắt Muse Spark Open, ngày 15 tháng 10 năm 2026.
• Thẻ mô hình và thông số checkpoint của Meta.
• Hugging Face: hướng dẫn môi trường chạy, điều kiện thử nghiệm MLX và bản trình diễn tác tử, ngày 15 tháng 10 năm 2026.
• Bản chuyển đổi oQ3e: đơn vị dung lượng, encoder đi kèm và cách sử dụng.
• Bản chuyển đổi oQ4e: dung lượng và cảnh báo khi chạy trên một máy.
• Tài liệu cài đặt oMLX và bản phát hành v0.7.1rc1.
• Hỗ trợ Muse trong MLX LM.
• Giấy phép Muse Model.

Thông tin sản phẩm và khả năng tương thích được kiểm tra ngày 16 tháng 10 năm 2026. Các số liệu hiệu năng nêu trên được quy cho nhà xuất bản và đi kèm điều kiện thử nghiệm do họ công bố.

Hãy lưu lại quyết định, không chỉ tên mô hình

Với độc giả muốn lưu các liên kết nguồn, ghi chú cấu hình và quyết định rà soát, Telli.sh là một không gian làm việc tùy chọn. Tạo ghi chú nghiên cứu.