Mô hình dịch nửa gigabyte có đáng chỗ trên điện thoại?

Điện thoại dịch được tin nhắn tiếng Nhật đã lưu trên tàu không có sóng có thể hữu ích hơn dịch vụ dịch đạt điểm chuẩn cao hơn. Khác biệt nằm ở hai câu hỏi đơn giản. Mô hình có vừa thiết bị bạn có không? Nó có giữ nguyên những phần của thông điệp mà bạn không thể để sai không?

Preferred Networks, công ty nghiên cứu và phát triển AI Nhật Bản, phát hành trọng số PLaMo 3 Translate ngày 5 tháng 11 năm 2026. Dòng này có bốn kích cỡ, từ 0,8 tỷ đến 31 tỷ tham số, và PFN liệt kê 53 ngôn ngữ được hỗ trợ. Mô hình nhỏ nhất có bản GGUF bốn bit chính thức dung lượng 0,57 GB. PFN trình diễn mô hình 0.8B dịch văn bản trên điện thoại ở chế độ máy bay. Hãng nói bản trình diễn dùng ứng dụng nội bộ chưa phát hành vào thời điểm công bố. Nhà phát triển đã có trọng số và hướng dẫn chạy, còn bản demo cho thấy một cấu hình có thể chạy ngoại tuyến. Thông báo PFN · Ghi chú kỹ thuật PFN và demo trên điện thoại · Tệp 0.8B chính thức

Bài thử hữu ích bắt đầu với cặp ngôn ngữ và các câu bạn cần trong chuyến đi thật hoặc ngày làm việc thường lệ. Video trên điện thoại cho bạn lý do để thử. Việc tự kiểm tra lỗi quyết định bạn có nên dùng tiếp.

Ảnh minh họa chế độ máy bay của Skitterphoto, đổi kích thước từ ảnh gốc CC0. Demo 0.8B chính thức của PFN trên điện thoại.

Demo trên điện thoại và tệp mô hình trả lời hai câu hỏi khác nhau

Khi PFN cho thấy điện thoại hoạt động ở chế độ máy bay, hãng chứng minh mô hình và môi trường chạy cục bộ tương thích có thể xử lý một số bản dịch văn bản trên một cấu hình di động cụ thể. Các tệp chính thức cho bạn thứ để tải và thử trên phần cứng của mình. Ứng dụng dành cho từng thiết bị vẫn cần nạp mô hình, nhận văn bản, hiển thị kết quả và vừa với bộ nhớ hệ điều hành cấp. Các việc ấy tách biệt với chất lượng mô hình.

Với chuyến đi, hãy hình dung tải mô hình và chỉ dẫn đến khách sạn trước khi rời nhà. Khi mất mạng, bạn có thể dán một câu hướng dẫn ngắn, xem bản gốc cạnh bản dịch và tìm số trạm xe buýt. Thông báo hãng bay gửi dưới dạng ảnh cần bước tách văn bản riêng. Thông báo bằng lời cần cách thu và chép âm thanh riêng. Mô hình đã phát hành bắt đầu làm việc khi nguồn đã là văn bản.

Ranh giới này cũng giúp thử tại nơi làm việc dễ hơn. Kỹ sư hiện trường có thể chép một hướng dẫn ngắn từ sổ tay và xem đơn vị đo cùng điều cấm còn nguyên hay không. Nhóm nhận tài liệu quét trước tiên phải quyết định cách tách chữ và giữ cột, số thứ tự, tiêu đề. Nếu OCR đọc sai mã linh kiện, bản dịch trôi chảy có thể mang lỗi ấy đi tiếp. Hãy giữ bản quét gốc và văn bản đã tách khi duyệt.

Bốn điểm xuất phát cho một bài thử. Thiết bị gợi ý là ví dụ biên tập, còn 53 ngôn ngữ là phạm vi PFN công bố. Minh họa do Telli.sh thực hiện.

Tệp tải 0,57 GB cho biết điều gì?

0,57 GB là dung lượng niêm yết của tệp biến thể Q4_K_M cho 0.8B. Cùng kho chính thức liệt kê Q4_0 ở 0,55 GB, Q3_K_M ở 0,49 GB và Q2_K ở 0,41 GB. Các hậu tố chỉ các cách lượng tử hóa, lưu trọng số ở độ chính xác giảm. Lựa chọn có thể đổi cả dung lượng tệp lẫn bản dịch. Danh sách giúp ước tính chỗ tải. Môi trường chạy còn cần bộ nhớ cho dữ liệu xử lý, bối cảnh token và ứng dụng bao quanh. Danh sách tệp 0.8B chính thức

Để so sánh lần đầu, lấy Q4_K_M làm tệp ban đầu vì tài liệu GGUF của PFN dùng nó trong ví dụ thiết lập. Chỉ thêm bản lượng tử khác khi gặp ràng buộc cụ thể, chẳng hạn thiết bị không nạp được bản đầu hoặc có giới hạn lưu trữ cứng. Chạy cả hai trên cùng danh sách câu ngắn. Giữ nguyên môi trường chạy, văn bản và cài đặt sinh. Nếu còn đổi từ điện thoại sang máy tính xách tay, ghi đó là phép so sánh riêng để có thể tìm nguyên nhân hợp lý cho chênh lệch tốc độ.

Đo riêng lúc khởi động nguội và lúc dịch lặp. Mô hình mở chậm vẫn có thể dịch nhanh một chuỗi sau khi nạp. Điều đó phù hợp khi ngồi bàn làm việc với ứng dụng mở cả ngày. Du khách mở để đọc một biển báo sẽ cảm thấy độ trễ khởi động mỗi lần. Sau vài lần dịch, thử dán một đoạn, chuyển sang máy ảnh hoặc trình duyệt rồi quay lại. Ghi xem ứng dụng có nạp lại mô hình, xóa kết quả trước hay tiếp tục trơn tru dưới áp lực bộ nhớ thông thường.

Pin và nhiệt đáng theo dõi trên thiết bị thực sự dùng. Mười bản dịch ngắn rải trong ngày khác với dịch trọn sổ tay trong một lượt. So sánh nhanh trên đầu vào thật cho thấy thiết bị có thể hoàn thành với tốc độ chấp nhận được không. Thông báo của PFN đưa số đo từ nhà cung cấp và demo điện thoại. Các bước kiểm tra thiết bị ở đây là bài thử đề xuất.

Bốn kích cỡ tạo mốc đối chiếu dù chỉ triển khai một bản

PFN phát hành trọng số 0.8B, 2B, 8B và 31B. Nhóm mô tả tinh chỉnh có giám sát, sau đó tối ưu hóa ưu tiên trực tiếp, cùng việc dùng mô hình lớn chưng cất khi huấn luyện các bản nhỏ. Có bốn kích cỡ chạy cục bộ giúp bạn so sánh bản nhỏ đánh đổi điều gì trên văn bản bạn quan tâm. Bạn cũng có thể dùng bản lớn làm cấu hình tham chiếu riêng và vẫn giữ thiết bị hằng ngày gọn nhẹ. Ghi chú kỹ thuật của PFN

Hãy xem 0.8B là ứng viên cho văn bản ngắn trên thiết bị và thử đối chiếu với 2B nếu máy tính xách tay hoặc điện thoại mạnh hơn chạy được cấu hình đã chọn. Dùng 8B hoặc 31B làm tham chiếu trên phần cứng đủ chỗ. Mô hình lớn có thể giúp chẩn đoán vấn đề khi giữ được thuật ngữ bản nhỏ bỏ mất. Nó cũng có thể mắc cùng lỗi. Người duyệt song ngữ hoặc bảng thuật ngữ nguồn vẫn là căn cứ cho ý nghĩa cần truyền đạt.

Tiếng Nhật và tiếng Anh là điểm xuất phát vì cặp này nổi bật trong các phép thử PFN. Nếu sản phẩm sẽ dịch từ tiếng Thái sang tiếng Pháp, hãy thử trực tiếp chiều đó. Danh sách ngôn ngữ cho biết mô hình được thiết kế để xử lý cặp này. Khả năng dịch chữ viết tắt y khoa, thành ngữ địa phương, điều khoản bảo hành dài hoặc tên pha nhiều hệ chữ vẫn là câu hỏi mở.

Thử chiều dịch như một biến riêng. Mô hình tạo được tin tiếng Nhật hữu ích từ tiếng Anh có thể mắc lỗi khác khi dịch hướng dẫn tiếng Nhật có lối viết tay sang tiếng Anh. Nếu nhóm chủ yếu nhận tiếng Nhật và xuất bản tiếng Đức, cả hai chiều trong cuộc trò chuyện Đức–Nhật đều có thể quan trọng. Ghi chiều dịch và so sánh trực tiếp với quy trình dự định.

Đọc kết quả chuẩn cạnh một yêu cầu dịch ngắn

PFN báo cáo kết quả trên bộ PFTB nội bộ và các bộ chuẩn công khai như WMT24++ và FLORES+. Hãng thảo luận hiệu năng theo chiều ngôn ngữ và lưu ý xếp hạng thay đổi theo bộ chuẩn và chiều. PFTB nội bộ dùng bản tham chiếu được tạo tự động. Kết quả giúp chọn ca cần khảo sát, đặc biệt với tiếng Nhật. Đó là bằng chứng do nhà cung cấp báo cáo. So sánh để công bố cần nêu rõ trích từ phép đánh giá nào và tránh coi kết quả của một chiều là kết quả của cả 53 ngôn ngữ. Phương pháp và so sánh benchmark của PFN

Bắt đầu bằng yêu cầu nêu thế nào là kết quả đạt. Với tin đi lại, bản dịch hữu ích giữ tên nơi, giờ, giá vé và phân biệt yêu cầu với gợi ý. Với ghi chú hỗ trợ, nó giữ mã linh kiện và phân biệt “phải ngắt kết nối” với “có thể ngắt kết nối”. Xem giọng điệu riêng để biết câu có hợp ngữ cảnh sau khi đã kiểm tra dữ kiện.

Đưa cùng yêu cầu cho cả hai người đọc đầu ra. Nếu một người thích câu tự nhiên hơn và người kia so từng chữ với nguồn, bản lớn có thể trông như thắng nhờ nghe hay dù đã đổi con số. Bảng đơn giản với một hàng cho mỗi nguồn và các trường lỗi dữ kiện, vấn đề câu chữ, độ khớp thuật ngữ sẽ làm khác biệt hiện rõ. Lưu cả nguồn. Cặp ví dụ giúp người đọc cân nhắc đánh đổi dễ hơn một điểm trung bình.

Vẫn có câu chuyện hay nếu bản nhỏ nhất chỉ đạt một phần yêu cầu. Thực đơn quán cà phê có thể chịu cách nói hơi vụng mà bản tin bảo trì không chấp nhận. Tin nhắn khách sạn lặp lại có thể dễ, còn chỉ dẫn ga mới cần xem. Hãy mô tả tình huống đạt và tình huống vẫn cần trợ giúp. Đó là cơ sở để người đọc quyết định có thử hôm nay.

Bảng thuật ngữ và giọng điệu giúp thử khả năng kiểm soát

PFN mô tả điều khiển thuật ngữ và phong cách, gồm dạng thông thường và lịch sự trong tiếng Nhật. Hãy nghĩ đến danh mục bán “snap lock” như một linh kiện có tên riêng. Bản dịch không ràng buộc có thể chọn một tên chung hợp lý ở trang một và một tên khác ở trang năm. Bảng thuật ngữ ngắn cho mô hình cách gọi mong muốn. Hãy đối chiếu tên linh kiện chính xác, dấu câu gần đó và trường hợp từ ấy xuất hiện với nghĩa thông thường. Đây là thiết kế bài thử. Kết quả sẽ cho biết cấu hình có tuân thủ bảng thuật ngữ ổn định không. Ví dụ sử dụng kỹ thuật của PFN

Giọng điệu là phép thử thứ hai. Nhân viên cửa hàng có thể muốn bản lịch sự để gửi khách và bản thông thường cho danh sách kiểm nội bộ, cùng từ một thông báo tiếng Anh ngắn. Chạy cả hai với cùng văn bản nguồn. Xem cách xưng hô và đuôi câu thay đổi, rồi xác nhận hành động được yêu cầu, ngày và số lượng giữ nguyên. Nếu giọng điệu làm nhẹ đi một chỉ dẫn an toàn, con người cần sửa lại.

Ban đầu ưu tiên bảng thuật ngữ nhỏ, riêng cho tác vụ. Thêm năm thuật ngữ sản phẩm, hai tên đơn vị và một chỉ dẫn về các tên cần giữ nguyên. Khi tìm ra lỗi mới, thêm đúng ca đó vào phép thử thay vì chất thêm quy tắc chung. Giữ lời nhắc, bảng thuật ngữ và phiên bản tệp mô hình cùng nhau giúp truy lại thay đổi nào đã cải thiện hoặc làm giảm chất lượng.

Đo được tuyên bố chạy ngoại tuyến

Cài môi trường chạy và tải tệp khi đang có mạng. Hướng dẫn GGUF chính thức của PFN ghép mô hình với chat_template.jinja đi kèm và đưa ví dụ llama-server. Dùng mẫu dành cho mô hình và chỉ cho phép truy cập dịch vụ thử nghiệm ngay trên thiết bị nếu mục tiêu là chạy cục bộ. Ví dụ đặt ngân sách bối cảnh 16.384 token. Giới hạn ngắn hơn có thể đủ cho tin lẻ, còn ngân sách thực phải chứa cả đầu vào lẫn bản dịch sinh ra. Hướng dẫn GGUF chính thức

Khi thiết lập xong, tắt kết nối mạng của thiết bị và thử các đầu vào mới ứng dụng chưa từng thấy. Xác nhận bản dịch vẫn chạy sau khi mở ứng dụng lại từ đầu. Nếu triển khai cam kết xử lý cục bộ, hãy kiểm tra riêng phân tích sử dụng, cập nhật, đồng bộ và hành vi dự phòng sang nhà cung cấp khác. Mô hình cục bộ cho ứng dụng khả năng xử lý văn bản ngay trên máy. Đường đi dữ liệu của cả ứng dụng mới quyết định điều gì thực sự rời thiết bị.

Bài thử ngoại tuyến ngắn kết hợp chạy trên thiết bị và kiểm tra ý nghĩa. Minh họa do Telli.sh thực hiện.

Với công việc chung, giữ nguồn, đầu ra cục bộ và bản sửa của người duyệt thành các hồ sơ riêng. Giới hạn người được xem tài liệu như hướng dẫn cho khách và thư riêng. Lợi ích riêng tư phải thể hiện được qua cả quy trình. Nếu đồng nghiệp gửi bản đã sửa vào chat đám mây hoặc ứng dụng sao lưu lịch sử, hãy tính riêng sự di chuyển đó với lượt dịch.

Kiểm tra giấy phép trước khi đi xa hơn bài thử

PLaMo Community License sửa ngày 9 tháng 11 yêu cầu đăng ký trước khi sử dụng thương mại theo điều khoản tiêu chuẩn. Doanh thu hoặc doanh số hằng năm của người dùng hay đơn vị liên kết không được vượt 1 tỷ JPY. Bài kỹ thuật của PFN nói người dùng phi thương mại có thể dùng mô hình mà không cần đăng ký hoặc đáp ứng ngưỡng doanh thu. Vượt ngưỡng thương mại cần thỏa thuận riêng. Hãy kiểm tra giấy phép hiện hành và điều kiện đăng ký của PFN cho tổ chức của bạn. Điều khoản trọng số tách biệt với câu hỏi bản dịch có đạt tiêu chuẩn chuyên môn hay không. PLaMo Community License, Điều 3 và 4 · Giải thích giấy phép của PFN

Điều đó đặc biệt quan trọng nếu bài thử cá nhân thành ứng dụng công ty. Bạn có thể phải quyết định mỗi thiết bị tải trọng số từ PFN hay nhận kèm ứng dụng. Điều 4 yêu cầu bên phân phối mô hình hoặc mô hình phái sinh cho người khác chuyển tiếp giấy phép và thêm thông báo “Built with PLaMo”, cùng các điều kiện khác. Lên kế hoạch cho nâng cấp, giới hạn lưu trữ và cách cho người dùng biết dịch cục bộ đã bật. Đây là những khác biệt cụ thể giữa chạy một bản dịch ở chế độ máy bay và phát hành công cụ người khác có thể tin cậy.

Thử nghiệm đầu có thể giữ quy mô nhỏ. Chọn một chiều dịch, một loại văn bản và một bản lượng tử hóa. Thu thập khoảng một tá đoạn với sự cho phép, gồm ba đoạn mà dịch sai sẽ đổi hành động. Cài môi trường chạy, kiểm thời gian khởi động nguội, chạy khi mất mạng và đọc kết quả cạnh văn bản gốc. Chỉ lặp lại bộ ấy trên cấu hình lớn hơn nếu khác biệt có thể đổi quyết định triển khai. Ghi lại các tình huống cần duyệt trước khi hành động theo đầu ra.

Kết quả tốt nhất có thể rất khiêm tốn. Một thiết bị cụ thể dịch được loại văn bản đã biết với độ trễ được ghi lại, không cần mạng, đồng thời giữ đúng thuật ngữ và con số độc giả cần. PLaMo 3 Translate cho bốn cách tìm kết quả ấy. Tệp nhỏ đáng thử khi nó giúp làm được điều này ngay trên thiết bị mọi người vốn mang theo.

Nguồn

• Thông báo Preferred Networks ngày 5 tháng 11 năm 2026, gồm phân phối và làm rõ giấy phép
• Bản phát hành kỹ thuật PFN, bảng đánh giá, hướng dẫn và demo điện thoại công khai ngày 5 tháng 11 năm 2026
• Thẻ mô hình GGUF 0.8B chính thức và ví dụ máy chủ cục bộ
• Tệp GGUF 0.8B chính thức và dung lượng
• PLaMo Community License sửa ngày 9 tháng 11 năm 2026

---

Để giữ bài thử dịch, văn bản nguồn và bản sửa của người duyệt cùng nhau trong ghi chú có thể tìm kiếm, hãy tạo tài khoản Telli.sh.