Найдётся ли в вашем телефоне место для модели перевода на полгигабайта?

Телефон, который переводит сохранённое японское сообщение в поезде без связи, может оказаться полезнее сервиса с высоким баллом в тесте. Разница сводится к двум простым вопросам. Помещается ли модель на вашем устройстве? Сохраняет ли она те части сообщения, в которых нельзя ошибиться?

Preferred Networks, японская компания, занимающаяся исследованиями и разработкой ИИ, выпустила веса PLaMo 3 Translate 5 ноября 2026 года. У семейства четыре размера, от 0,8 до 31 млрд параметров. PFN указывает поддержку 53 языков. У самой маленькой модели есть официальный четырёхбитный GGUF-файл размером 0,57 ГБ. PFN показала, как модель на 0,8 млрд параметров переводит текст на смартфоне в авиарежиме. По словам компании, в демонстрации использовалось внутреннее приложение, которое на момент анонса не выпустили. Веса и инструкции запуска доступны разработчикам. Демонстрация показывает одну конфигурацию, которая работала без сети. Релиз PFN · Технические материалы и демонстрация на телефоне · Официальные файлы модели на 0,8 млрд параметров

Начните с языковой пары и фраз, нужных в реальной поездке или в обычный рабочий день. Ролик с телефоном даёт повод попробовать. Собственная проверка ошибок покажет, стоит ли пользоваться дальше.

Фотография авиарежима для контекста, Skitterphoto. Размер изменён с оригинала CC0. Официальная демонстрация PFN модели на 0,8 млрд параметров на смартфоне.

Демонстрация на телефоне и скачивание модели отвечают на разные вопросы

Когда PFN показывает смартфон в авиарежиме, она демонстрирует, что модель и совместимая локальная среда могут перевести некоторые тексты на конкретном мобильном устройстве. Официальные файлы позволяют скачать и проверить модель на своей технике. Приложению для устройства всё равно нужно загрузить веса, принять текст, показать результат и уложиться в память, выделяемую системой. Эти задачи отдельны от качества модели.

Представьте, что перед поездкой вы скачали модель и инструкции от гостиницы. Без связи можно вставить короткую фразу, увидеть оригинал рядом с переводом и найти номер остановки. Для объявления авиакомпании на фотографии потребуется отдельно извлечь текст. Для устного объявления нужен способ записать и расшифровать звук. Выпущенная модель приступает к работе, когда источник уже представлен текстом.

Такая граница упрощает рабочую проверку. Выездной инженер может скопировать инструкцию из руководства и проверить, сохранились ли единица измерения и запрет. Команде, получающей сканы, сначала нужно извлечь текст, сохранив колонки, нумерацию и заголовки. Если OCR ошибся в номере детали, гладкий перевод перенесёт ошибку дальше. Держите исходный скан и извлечённый текст под рукой при проверке.

Четыре отправные точки для теста. Устройства приведены как редакционные примеры. Поддержку 53 языков указывает PFN. Иллюстрация Telli.sh.

О чём говорит загрузка на 0,57 ГБ

0,57 ГБ — заявленный размер файла модели на 0,8 млрд параметров в варианте Q4_K_M. В том же официальном репозитории Q4_0 занимает 0,55 ГБ, Q3_K_M — 0,49 ГБ, Q2_K — 0,41 ГБ. Суффиксы обозначают схемы квантования, сохраняющие веса с пониженной точностью. От выбора могут зависеть размер и перевод. По перечню можно оценить место для загрузки. Среде выполнения также нужна память для рабочих данных, контекста токенов и самого приложения. Официальный перечень файлов модели на 0,8 млрд параметров

Для первого сравнения возьмите Q4_K_M, поскольку именно его использует пример из документации PFN по GGUF. Добавляйте другой вариант, когда есть конкретное ограничение, например устройство не загружает первый файл или на нём мало места. Прогоните обе версии на одном коротком списке предложений. Оставьте неизменными среду выполнения, текст и настройки генерации. Если вы заодно переходите с телефона на ноутбук, отметьте это как отдельное сравнение, чтобы возможный выигрыш скорости можно было объяснить.

Измеряйте холодный старт и повторный перевод отдельно. Модель, которая долго открывается, после загрузки может переводить быстро. Это подходит для приложения, открытого на рабочем столе весь день. Путешественник, запускающий его ради одной вывески, ощутит задержку каждый раз. Вставьте абзац после нескольких переводов, переключитесь на камеру или браузер и вернитесь. Посмотрите, загружается ли модель заново, пропадает ли прошлый перевод и насколько плавно приложение возвращается после обычной нагрузки на память.

На устройстве, где это важно, отмечайте расход батареи и нагрев. Десять коротких переводов за день отличаются от перевода целого руководства за один раз. Короткое сравнение на реальном тексте показывает, успевает ли устройство выполнить работу за приемлемое время. PFN публикует собственные измерения и мобильную демонстрацию. Здесь предложены проверки для вашего устройства.

Четыре размера дают ориентир, даже если нужен один

PFN выпустила веса для моделей на 0,8, 2, 8 и 31 млрд параметров. Команда описывает дообучение с учителем, затем прямую оптимизацию предпочтений. При обучении малых версий применялась дистилляция больших моделей. Четыре доступных размера позволяют выяснить, что теряет меньшая версия на важном для вас тексте. Более крупную конфигурацию можно использовать как отдельный ориентир, оставив маленькую на повседневном устройстве. Технические заметки PFN

Рассматривайте 0,8 млрд как вариант для короткого текста на устройстве. Сравните с 2 млрд, если ноутбук или более мощный телефон справится с выбранной конфигурацией. Используйте 8 или 31 млрд в качестве ориентира на технике с достаточной памятью. Большая модель может помочь найти проблему, когда сохраняет термин, потерянный малой. Она может и повторить ошибку. За предполагаемое значение отвечают двуязычный проверяющий или исходный глоссарий.

Японский и английский удобны для начала, потому что занимают заметное место в тестах PFN. Если ваш продукт переводит с тайского на французский, проверяйте это направление напрямую. Список языков показывает, что модель рассчитана на эту пару. Он оставляет открытым вопрос, как она справится с медицинским сокращением, местной идиомой, длинной гарантией или именами в разных системах письма.

Проверяйте направление как отдельную переменную. Модель, которая удачно переводит сообщение с английского на японский, может делать другие ошибки при переводе японской инструкции с разговорной формулировкой на английский. Если команда получает материалы преимущественно на японском, а публикует на немецком, важны обе стороны общения. Указывайте направление и сравнивайте его с рабочим процессом.

Сопоставляйте результаты оценки с коротким заданием на перевод

PFN публикует результаты внутренней оценки PFTB и открытых тестов, включая WMT24++ и FLORES+. Компания рассматривает разные направления и отмечает, что места меняются в зависимости от теста и направления. Внутренняя PFTB использует сгенерированные эталоны. Результаты помогают подобрать примеры для проверки, особенно на японском. Это данные поставщика. В опубликованном сравнении указывайте конкретную оценку и не переносите результат одного направления на все 53 языка. Методика оценки и сравнения PFN

Коротко опишите условия приемлемого результата. В сообщении для путешественника перевод сохраняет название места, время, тариф и различие между требованием и советом. В заметке поддержки он сохраняет номер детали и отличает «нужно отключить» от «можно отключить». После проверки фактов отдельно оцените уместность тона.

Дайте одинаковое задание обоим проверяющим. Если один предпочитает естественные фразы, а другой сверяет оригинал слово за словом, большая модель может показаться лучшей благодаря стилю, хотя изменила число. Таблица с одной строкой на исходный фрагмент и полями для фактической ошибки, формулировки и соответствия глоссарию покажет расхождения. Сохраните и источник. Сравнивать компромиссы проще по парным примерам, чем по одной средней оценке.

Интересный результат возможен, даже если маленькая модель выполняет только часть условий. В меню кафе допустима неловкая фраза, которая не подойдёт для сервисного бюллетеня. Повторяющееся сообщение от гостиницы может быть простым, а новые указания до станции — требовать проверки. Опишите удачные случаи и те, где ещё нужна помощь. Так читатель поймёт, стоит ли пробовать модель сейчас.

Глоссарий и тон помогают проверить управляемость

PFN описывает управление глоссарием и стилем, в том числе простой и вежливый регистры японского. Представьте каталог, где «защёлка» — название отдельной детали. Свободный перевод может выбрать подходящий общий термин на первой странице и другой на пятой. Короткий глоссарий задаёт нужный вариант. Сверяйте точные названия деталей, соседнюю пунктуацию и случаи, когда эти же слова употребляются в обычном смысле. Это схема теста. Результат покажет, насколько надёжно конфигурация следует глоссарию. Примеры применения PFN

Тон — вторая проверка. Сотрудник магазина может захотеть вежливую версию короткого английского объявления для клиентов и простую для внутреннего списка. Используйте один оригинал. Посмотрите, меняются ли обращение и окончания предложений, затем проверьте, сохранились ли действие, дата и количество. Если новый тон ослабил указание по безопасности, понадобится исправление человеком.

Начните с небольших глоссариев под задачу. Добавьте пять продуктовых терминов, два названия единиц и правило о неизменяемых именах. При новой ошибке внесите в проверку точный пример, не накапливая общие правила. Храните запрос, глоссарий и версию файла вместе, чтобы потом понять, что помогло или вызвало регрессию.

Сделайте работу без сети измеримой

Установите среду выполнения и скачайте файлы, пока есть связь. В официальной инструкции по GGUF PFN использует предоставляемый chat_template.jinja и пример с llama-server. Возьмите шаблон конкретной модели. Для локального доступа ограничьте тестовый сервис самим устройством. В примере задан контекст на 16 384 токена. Для отдельных сообщений может хватить меньшего предела. Практический бюджет должен вместить входной текст и перевод. Официальная инструкция GGUF

Когда всё настроено, отключите сетевые соединения и дайте приложению новые тексты, которых оно не видело. Проверьте перевод после повторного запуска. Если приложение обещает локальную обработку, отдельно изучите аналитику, обновления, синхронизацию и переключение на другого поставщика. Локальная модель позволяет обработать текст на устройстве. Что покидает его на самом деле, определяет весь путь данных в приложении.

Короткая проверка объединяет локальный запуск и сверку смысла. Иллюстрация Telli.sh.

При совместной работе сохраняйте источник, локальный результат и поправки проверяющего раздельно. Ограничьте доступ к инструкциям клиентов и личной переписке. Преимущество конфиденциальности должен подтверждать весь процесс. Если коллега отправляет исправленный текст в облачный чат или приложение копирует историю в резервное хранилище, учитывайте это отдельно от самого перевода.

Проверьте лицензию перед выходом за рамки теста

Редакция PLaMo Community License от 9 ноября требует предварительной регистрации для коммерческого использования на стандартных условиях. Годовая выручка или продажи пользователя либо его аффилированного лица не должны превышать 1 млрд иен. В технической публикации PFN сказано, что для некоммерческого использования регистрация и порог выручки не предусмотрены. При превышении коммерческого порога требуется отдельное соглашение. Проверьте актуальную лицензию и условия регистрации PFN для вашей организации. Требования к весам — отдельный вопрос от соответствия перевода профессиональным стандартам. PLaMo Community License, статьи 3 и 4 · Разъяснение лицензии PFN

Это важно, когда успешный личный тест становится приложением компании. Придётся решить, скачивает ли каждое устройство веса у PFN или они идут в комплекте. Статья 4 требует от распространителя модели или её производной передать лицензию и добавить уведомление «Built with PLaMo» наряду с другими условиями. Продумайте обновления, лимит хранилища и способ показать пользователю, когда включён локальный перевод. Именно такие детали отделяют один запуск в авиарежиме от инструмента, на который могут положиться другие.

Первый пилот можно сделать маленьким. Выберите одно направление, тип текста и квантование. Соберите с разрешения двенадцать фрагментов, включая три, где ошибка меняет действие. Установите среду, проверьте холодный старт, запустите без сети и прочитайте результат рядом с оригиналом. Повторяйте на более крупной конфигурации, если различия повлияют на развёртывание. Отметьте случаи, требующие проверки перед применением.

Лучший результат может быть скромным. Конкретное устройство без связи переводит известный тип текста за измеренное время и сохраняет нужные термины и числа. У PLaMo 3 Translate четыре способа искать такой результат. Небольшой файл имеет смысл попробовать, если он даёт результат на устройстве, которое люди уже носят с собой.

Источники

• Анонс Preferred Networks от 5 ноября 2026 года с условиями распространения и разъяснением лицензии
• Технический релиз PFN, результаты оценки, инструкции и публичная демонстрация на телефоне от 5 ноября 2026 года
• Официальная карточка GGUF-модели на 0,8 млрд параметров и пример локального сервера
• Официальные файлы GGUF для 0,8 млрд параметров и их размеры
• PLaMo Community License в редакции от 9 ноября 2026 года

---

Чтобы держать проверку перевода, исходный текст и замечания проверяющих в одной заметке с поиском, создайте аккаунт в Telli.sh.