半个 GB 的翻译模型,值得装进手机吗?
Preferred Networks 发布了四种大小的 PLaMo 3 Translate。用 0.8B 版可以实际测试离线文本翻译,从自己最常用的句子开始。
火车上没信号时,一台能翻译已保存日语消息的手机,可能比基准分数更高的翻译服务更有用。关键在两个问题。模型能装进手上的设备吗?不能弄错的信息,它能准确保留吗?
日本 AI 研发公司 Preferred Networks(PFN)于 2026 年 11 月 5 日发布了 PLaMo 3 Translate 权重。该系列有四种规格,从 8 亿到 310 亿参数,PFN 列出 53 种支持语言。最小型号的官方四位 GGUF 版本为 0.57 GB。PFN 演示了 0.8B 模型在手机飞行模式下翻译文本。据公司介绍,演示使用的是当时尚未发布的内部应用。开发者可以下载权重、查阅运行说明,演示则展示了模型在一种配置上确实可以离线运行。PFN 发布公告 · PFN 技术说明及手机演示 · 官方 0.8B 文件
实用的试验可以从出行或工作中真正用到的语言方向和句子开始。手机视频给了你一个试用的理由。要不要留下来用,由自己核对错误之后决定。

Skitterphoto 拍摄的飞行模式示意照片,调整尺寸自 CC0 原图。PFN 官方 0.8B 手机演示。
手机演示与下载模型回答的是两个问题
飞行模式演示表明,模型和兼容的本地运行环境,在某种移动配置上可以完成一些文本翻译。官方文件可以下载到自己的设备上测试。针对设备的应用仍要能加载模型、接受原文、显示结果,并且不超出操作系统分配的内存。这些与模型翻译得好不好是不同的决定。
想象出发前下载了模型和酒店的路线说明。断网后,粘贴一段简短指引,让原文和译文并排显示,找到公交站的编号。如果航空公司用图片发送通知,还要先提取文字。语音广播则要用其他方式采集并转写。发布的模型从收到文本原文这一步开始工作。
这个边界也让工作场景更容易测试。现场工程师可以从手册复制一条简短的说明,检查计量单位和禁止事项是否保留。处理扫描手册的团队要先确定如何提取文字、保存分栏、编号和标题。OCR 要是认错零件编号,流畅的译文也可能把错误保留下来。审核时同时保留原始扫描件和提取出的文字。
四个试验起点。设备建议是编辑示例,53 种语言来自 PFN 公布的覆盖范围。Telli.sh 原创图解。
0.57 GB 的下载体积说明什么
0.57 GB 是 0.8B 的 Q4_K_M 版文件大小。同一官方仓库中,Q4_0 为 0.55 GB,Q3_K_M 为 0.49 GB,Q2_K 为 0.41 GB。后缀表示不同的量化方式,用较低精度保存模型权重。选项不同,文件体积和译文都可能变化。文件列表可以用来估算下载空间。运行时还需要内存保存工作数据、词元上下文和应用本身。官方 0.8B 文件列表
第一次比较,可以从 PFN 的 GGUF 配置示例使用的 Q4_K_M 开始。只有确实遇到限制,例如设备无法加载或存储上限很严,再加一个量化版本。用相同的一组短句跑两版,固定运行环境、原文和生成设置。如果还要从手机换到笔记本,就单独记录那次比较,以便解释速度差异。
将冷启动和连续翻译分开记录。模型打开可能费时,加载后却能很快翻完一句话。在桌前一整天开着应用时可以接受,出门每次打开只为看一个标志,就每次都要等。试着翻译几次后再粘贴一段文字,切到相机或浏览器后返回。记录在日常内存压力下,应用会重新加载模型、清除上一条结果,还是顺利恢复。
续航和发热也值得在目标设备上观察。一天分散翻十条短句,与一次翻完一份手册,是两种负载。把真实输入放在一起试一试,就知道设备能否以可接受的速度做完。PFN 的发布包含厂商测量和手机演示。这里的设备检查是试验建议。
即使只部署一种,也可以用另外三种作参考
PFN 发布了 0.8B、2B、8B 和 31B 权重。团队介绍了先做监督微调、再做直接偏好优化的训练过程,系列小模型还用大模型做了蒸馏。四种规格都可以本地使用,方便在自己真正关心的文本上比较小模型牺牲了什么。也可以单独用大模型作参考,而保留小巧的日用设备。PFN 技术发布说明
可先把 0.8B 当作端侧短文本候选。如果笔记本电脑或配置较好的手机能运行选定的方案,再用 2B 比较。在能容纳运行环境的硬件上,用 8B 或 31B 作对照。大模型如果保留了小模型遗漏的术语,有助于找原因,也可能犯同样的错。要确认原意,仍以双语审核者或源语言术语表为准。
PFN 的测试较多涉及日语和英语,可以从这对语言起步。要做泰语译法语的产品,就直接测试泰语到法语。支持语言的覆盖范围表示设计上能处理这对语言。它对医学缩写、地区习语、长篇保修条款或混合文字书写的姓名表现如何,还得另测。
也要把方向当成单独变量。能把英语翻成实用日语消息的模型,在将手写风格的日语指令译回英语时,可能会犯另一类错误。如果团队主要收到日语、用德语发布,与日语方的来回交流可能两个方向都重要。给每个方向加标签,按计划采用的工作流直接比较。
看基准分数时,也拿一份简短的翻译要求对照
PFN 报告了内部 PFTB 评估,以及 WMT24++、FLORES+ 等公开基准的结果。公司说明,排名会随基准和方向变化。内部 PFTB 使用生成的参考译文。这些由厂商报告的证据可以帮助选择要深入看的用例,特别是日语。写比较文章时,说明引用的是哪项评估,避免用一个方向的表现概括 53 种语言。PFN 基准方法与比较
先写清楚什么算合格。旅行消息的译文要保留地点、时间、车费,以及原句究竟在提要求还是给建议。服务说明要保留零件编号,并区分「必须断开」和「可以断开」。事实核对通过后,再单独检查措辞是否合适。
把同一份要求交给两位审核者。一个人看句子是否自然,另一个人逐字对照原文时,大模型即使改错数字,也可能因为听起来好而占优。可以一条原文用一行,分别记录事实错误、措辞问题和术语是否匹配,这样更容易看到意见分歧。也保留原文。比起平均分,并排的样例更能让读者判断取舍。
即使最小模型只满足部分要求,也有值得报道的发现。咖啡馆菜单可以接受略显生硬的表达,维修通告则不行。常见的酒店消息也许容易翻,新收到的车站路线可能要审核。讲清哪些能通过、哪些还需人帮助,读者就知道现在要不要试用。
用术语表和语气测试能否按要求翻译
PFN 介绍了术语和文体控制,包括日语普通体和敬体。假设某份目录将「snap lock」用作产品零件的专名。没约束时,模型可能在第一页选一个看似合理的通用译名,到第五页又换一个。用简短术语表指定希望保留的写法,比较零件名是否精确、附近标点是否妥当,以及同样的词作为普通用语时怎样处理。这只是试验设计,所选配置能否稳定遵循术语表,要看测试结果。PFN 技术使用示例
语气是另一项检查。店员可能想把一条英语短通知翻成面向客户的礼貌版,再做一版普通语气的内部检查清单。用同一原文执行两个请求,检查称呼和句尾是否改变,再确认要求的动作、日期和数量是否一致。如果语气改变削弱了安全指令,就需要人工修正。
初次测试可用小型、与任务直接相关的术语表。加入五个产品词、两个单位名,以及一条不要更改人名的指令。遇到新错误时,先把这个例子加到试验里,再决定是否需要更多通用规则。将提示词、术语表与模型文件版本一起保留,便于追查哪项变动改善了结果或引起退化。
让离线运行成为可测量的主张
有网络时安装运行环境,下载选定文件。PFN 的官方 GGUF 说明配套提供了 chat_template.jinja,并给出 llama-server 示例。使用模型专用模板。如果目标是设备本地访问,就让测试服务仅在本机监听。示例的上下文预算为 16,384 个词元。单条消息可能用不到这么多,但实际预算要同时容纳输入和生成的译文。官方 GGUF 说明
准备好后断开设备网络,用应用从没见过的新输入来试。确认重新启动应用后仍能翻译。如果部署承诺数据本地处理,就单独检查分析统计、更新、同步和服务商回退行为。本地模型让应用能够在设备上处理文本。实际有什么会离开设备,要看整个应用的数据路径。
把端侧试运行和语义核对放在一起的短测试。Telli.sh 原创图解。
团队使用时,分开保存原文、本地输出和审核者的修正。限制客户说明、私人通信等文件的访问者。隐私收益应由完整流程来证明。如果同事把改好的文本发送给云端聊天工具,或者应用会备份历史,就把这次数据传输与翻译过程分开记录。
扩大试验前,先查许可证
11 月 9 日修订的 PLaMo Community License 要求在标准条款下商业使用之前注册。使用者或关联方的年收入或销售额不得超过 10 亿日元。PFN 技术文章称,非商业用户可以无需注册,也不受收入门槛约束。超出商业门槛须另签协议。查阅现行许可证以及适用于本组织的注册条件。权重使用条款,与翻译输出能否达到专业标准是两回事。PLaMo Community License 第 3、4 条 · PFN 的许可证说明
个人试验成功后打算做成公司应用时,这一点尤其重要。要决定是让设备从 PFN 自行下载权重,还是随应用一并提供。第 4 条要求向他人提供模型或衍生模型的分发者附上许可证副本,并标注「Built with PLaMo」等。也要规划升级、存储限额以及让用户知道本地翻译是否启用的方式。在飞行模式下翻一次,与交付一款别人可以依靠的工具,具体差异就在这些地方。
初步试验可以很小。选一个语言方向、一类文本和一种量化。征得许可后收集十来段文字,其中三段应当是译错就会改变行动的内容。安装运行环境,检查冷启动,断网执行,并对照原文阅读。只有差异可能改变部署决定时,再用更大的配置复测同一批文本。记录在按译文行动前需要审核的例子。
有说服力的结果可以很具体。一台特定设备能在没有网络的情况下,以记录下来的耗时,翻译已知类型的文本,并保留读者需要的数字与术语。PLaMo 3 Translate 提供四种途径寻找这个结果。如果小文件能让人们随身携带的设备做到这些,就值得试用。
来源
- Preferred Networks 2026 年 11 月 5 日公告,含分发及许可说明
- PFN 技术发布、评估表、操作说明与官方手机演示,2026 年 11 月 5 日
- 官方 0.8B GGUF 模型卡与本地服务器示例
- 官方 0.8B GGUF 文件及大小
- 2026 年 11 月 9 日修订的 PLaMo Community License
想把翻译试验、原文和人工修正放进一份可搜索的笔记,可以创建 Telli.sh 账户。