AI Models10 Min. Lesezeit

Hat ein Übersetzungsmodell mit einem halben Gigabyte Platz auf deinem Smartphone?

Preferred Networks hat PLaMo 3 Translate in vier Größen veröffentlicht. Das 0.8B-Modell macht Offline-Textübersetzung zu einem praktischen Versuch, der mit den eigenen wichtigen Sätzen beginnt.

K
Ken Jo

Ein Smartphone, das im Zug ohne Empfang eine gespeicherte japanische Nachricht übersetzt, kann nützlicher sein als ein Dienst mit besseren Benchmark-Werten. Zwei einfache Fragen entscheiden darüber. Passt das Modell auf das vorhandene Gerät? Erhält es die Teile der Nachricht, bei denen ein Fehler Folgen hätte?

Das japanische KI-Forschungs- und Entwicklungsunternehmen Preferred Networks veröffentlichte am 5. November 2026 die Gewichte von PLaMo 3 Translate. Die Familie umfasst vier Größen von 0,8 bis 31 Milliarden Parametern. PFN gibt 53 unterstützte Sprachen an. Für das kleinste Modell gibt es eine offizielle Vier-Bit-GGUF-Variante mit 0,57 GB. PFN zeigte, wie das 0.8B-Modell auf einem Smartphone im Flugmodus Text übersetzt. Nach Angaben des Unternehmens lief die Demo in einer internen App, die zum Zeitpunkt der Ankündigung nicht veröffentlicht war. Gewichte und Hinweise zur Laufzeit stehen Entwicklern zur Verfügung. Die Demo zeigt eine Konfiguration, in der das Modell offline lief. PFN-Ankündigung · Technische Hinweise und Smartphone-Demo von PFN · Offizielle 0.8B-Dateien

Ein sinnvoller Versuch beginnt mit der Sprachrichtung und den Sätzen, die man auf einer Reise oder bei der Arbeit wirklich braucht. Der Smartphone-Clip gibt einen Anlass zum Ausprobieren. Ob sich das Modell lohnt, zeigt die eigene Prüfung.

Smartphone-Sperrbildschirm mit Flugmodus-Symbol

Kontextfoto des Flugmodus von Skitterphoto, in der Größe geändert auf Grundlage des CC0-Originals. Offizielle 0.8B-Smartphone-Demo von PFN.

Smartphone-Demo und Modelldownload beantworten verschiedene Fragen

Mit dem Smartphone im Flugmodus zeigt PFN, dass das Modell und eine kompatible lokale Laufzeit in einer bestimmten mobilen Konfiguration einige Texte übersetzen können. Mit den offiziellen Dateien lässt sich das auf eigener Hardware prüfen. Eine App für das jeweilige Gerät muss das Modell laden, Text entgegennehmen, das Ergebnis anzeigen und mit dem Speicher auskommen, den das Betriebssystem bereitstellt. Diese Fragen kommen zur Modellqualität hinzu.

Vor einer Reise könnte man das Modell und eine Wegbeschreibung zum Hotel herunterladen. Ohne Verbindung lässt sich eine kurze Anweisung einfügen, neben der Übersetzung das Original lesen und die Nummer der Bushaltestelle erkennen. Bei einem als Foto gelieferten Hinweis der Fluggesellschaft ist ein separater Schritt zur Texterkennung nötig. Eine Durchsage muss zunächst aufgenommen und transkribiert werden. Das veröffentlichte Modell übernimmt, sobald die Quelle als Text vorliegt.

Diese Abgrenzung erleichtert auch Tests bei der Arbeit. Eine Technikerin im Außendienst kann eine kurze Anweisung aus einem Handbuch kopieren und prüfen, ob die Maßeinheit und ein Verbot erhalten bleiben. Bei gescannten Handbüchern muss das Team zunächst klären, wie es den Text ausliest und Spalten, Nummern und Überschriften bewahrt. Verfälscht die OCR eine Teilenummer, kann selbst eine flüssige Übersetzung den Fehler weitertragen. Bei der Prüfung sollten Originalscan und erkannter Text zugänglich bleiben.

Vier Größen von PLaMo 3 Translate mit möglichen Testgeräten vom Smartphone bis zum Referenzserver

Vier mögliche Einstiege. Die Geräte sind redaktionelle Beispiele. Die Angabe von 53 Sprachen stammt von PFN. Eigene Illustration von Telli.sh.

Was die 0,57 GB über den Download aussagen

Die 0,57 GB sind die gelistete Dateigröße der 0.8B-Variante Q4_K_M. Im selben offiziellen Repository stehen Q4_0 mit 0,55 GB, Q3_K_M mit 0,49 GB und Q2_K mit 0,41 GB. Die Kürzel bezeichnen verschiedene Quantisierungen, die die Gewichte mit geringerer Präzision speichern. Die Wahl kann sowohl die Dateigröße als auch die Übersetzung verändern. Die Liste hilft, den Downloadplatz abzuschätzen. Die Laufzeit braucht zusätzlich Speicher für Arbeitsdaten, Token-Kontext und die übrige App. Offizielle 0.8B-Dateiliste

Für den ersten Vergleich bietet sich Q4_K_M an, weil PFN es in der GGUF-Anleitung verwendet. Eine weitere Quantisierung lohnt sich bei einer konkreten Grenze, etwa wenn das Gerät die erste Variante nicht laden kann oder der Speicherplatz knapp ist. Teste beide mit denselben kurzen Sätzen und halte Laufzeit, Text und Generierungseinstellungen gleich. Ein Wechsel vom Smartphone zum Laptop gehört als separater Vergleich ins Protokoll, damit ein Geschwindigkeitsvorteil einzuordnen ist.

Erfasse Kaltstart und wiederholte Übersetzung getrennt. Ein Modell kann langsam laden und einen Text danach schnell übersetzen. Am Schreibtisch mit dauerhaft geöffneter App kann das gut funktionieren. Wer die App unterwegs für ein einziges Schild öffnet, spürt jedes Mal die Startzeit. Füge nach einigen Übersetzungen einen Absatz ein, wechsle zur Kamera oder zum Browser und kehre zurück. Notiere, ob die App das Modell neu lädt, das vorherige Ergebnis verwirft oder bei üblichem Speicherdruck nahtlos weiterläuft.

Akku und Wärme interessieren auf dem Gerät, auf dem sie den Alltag beeinflussen. Zehn kurze Übersetzungen über den Tag verteilen sich anders als die Übersetzung eines Handbuchs am Stück. Ein kurzer direkter Vergleich mit echten Eingaben zeigt, ob das Gerät die Aufgabe in einem akzeptablen Tempo erledigt. PFN liefert Herstellermessungen und eine Smartphone-Demo. Die Geräteprüfungen hier sind vorgeschlagene Tests.

Vier Größen liefern Vergleichswerte, selbst wenn nur eine zum Einsatz kommt

PFN veröffentlichte Gewichte mit 0.8B, 2B, 8B und 31B. Das Team beschreibt überwachtes Fine-Tuning mit anschließender direkter Präferenzoptimierung. Für kleinere Modelle nutzte es außerdem Destillation aus größeren Modellen. Vier lokal verfügbare Größen machen es möglich, am eigenen Text zu prüfen, wo die kleine Version Abstriche macht. Eine größere Größe kann als eigene Referenz dienen, während das Alltagsgerät klein bleibt. Technische Release-Hinweise von PFN

0.8B ist ein Kandidat für kurze Texte direkt auf dem Gerät. Vergleiche 2B damit, wenn ein Laptop oder ein besser ausgestattetes Smartphone die gewählte Konfiguration ausführen kann. Nutze 8B oder 31B als Vergleich auf Hardware mit genügend Platz für die Laufzeit. Ein größeres Modell hilft bei der Fehlersuche, wenn es einen Begriff erhält, den die kleine Variante fallen lässt. Es kann denselben Fehler machen. Für die beabsichtigte Bedeutung bleiben zweisprachige Prüfer oder ein verbindliches Glossar maßgeblich.

Japanisch und Englisch sind ein Einstieg, da dieses Paar in PFNs Tests prominent ist. Soll ein Produkt Thai ins Französische übersetzen, prüfe genau diese Richtung. Unterstützte Sprachen zeigen, wofür das Modell vorgesehen ist. Wie gut es eine medizinische Abkürzung, eine örtliche Redensart, eine lange Garantieklausel oder Namen mit gemischten Schriftsystemen erfasst, bleibt zu testen.

Behandle die Richtung als eigene Variable. Ein Modell, das aus englischem Text eine brauchbare japanische Nachricht macht, kann beim Übersetzen einer handschriftlich formulierten japanischen Anweisung zurück ins Englische anders scheitern. Ein Team, das überwiegend Japanisch empfängt und auf Deutsch veröffentlicht, kann in einem deutsch-japanischen Gespräch trotzdem beide Richtungen brauchen. Kennzeichne die Richtung und vergleiche sie mit dem geplanten Ablauf.

Benchmark und kurzer Prüfauftrag gehören zusammen

PFN nennt Ergebnisse der internen PFTB-Evaluation und öffentlicher Benchmarks einschließlich WMT24++ und FLORES+. Das Unternehmen bespricht verschiedene Sprachrichtungen und weist darauf hin, dass die Platzierungen mit Benchmark und Richtung wechseln. Das interne PFTB nutzt generierte Referenzen. Die Herstellerergebnisse geben Anhaltspunkte für eigene Fälle, besonders im Japanischen. Ein brauchbarer Vergleich benennt die zitierte Evaluation und lässt Ergebnisse für eine Richtung bei dieser Richtung. Benchmark-Methodik und Vergleiche von PFN

Beginne mit einem kurzen Prüfauftrag für akzeptable Ergebnisse. In einer Reisenachricht erhält eine brauchbare Übersetzung Ortsname, Uhrzeit, Fahrpreis und den Unterschied zwischen Pflicht und Vorschlag. In einem Support-Hinweis erhält sie die Teilenummer und trennt „muss getrennt werden“ von „kann getrennt werden“. Eine separate Tonprüfung zeigt nach den Faktenchecks, ob das Ergebnis passend klingt.

Gib beiden Prüfenden denselben Auftrag. Bevorzugt eine Person natürliche Sätze und prüft die andere Wort für Wort, kann das größere Modell wegen besserer Formulierungen gewinnen, obwohl es eine Zahl verändert. Eine Zeile pro Quelle mit Feldern für sachliche Fehler, Wortwahl und Glossartreue macht Unterschiede sichtbar. Bewahre auch das Original auf. Mit einem Textpaar lässt sich der Kompromiss besser einschätzen als mit einer Durchschnittsnote.

Auch ein Teilerfolg des kleinsten Modells ist eine brauchbare Geschichte. Eine Speisekarte verträgt vielleicht eine unbeholfene Formulierung, die in einer Servicemitteilung zu riskant wäre. Eine wiederkehrende Hotelnachricht kann leicht sein, während neue Bahnhofshinweise geprüft werden müssen. Beschreibe die Fälle, die bestehen und die, die Hilfe brauchen. So können Leser entscheiden, ob sich der Versuch heute lohnt.

Glossar und Ton zeigen, wie steuerbar das Modell ist

PFN beschreibt Funktionen für Glossarbegriffe und Stil, darunter neutrale und höfliche Formen im Japanischen. Angenommen, in einem Katalog heißt ein bestimmtes Teil „snap lock“. Ohne Vorgabe könnte die Übersetzung auf Seite eins einen plausiblen allgemeinen Begriff und auf Seite fünf einen anderen wählen. Ein kurzes Glossar liefert die gewünschte Bezeichnung. Prüfe exakte Teilenamen, benachbarte Satzzeichen und Fälle, in denen die gleichen Wörter ihre gewöhnliche Bedeutung haben. Das Beispiel beschreibt einen Test. Er zeigt, ob die gewählte Konfiguration dem Glossar zuverlässig folgt. Technische Anwendungsbeispiele von PFN

Der Ton ist ein zweiter Prüfpunkt. Eine Mitarbeiterin kann für einen kurzen englischen Aushang eine höfliche Kundenversion und für die interne Checkliste eine schlichte Fassung brauchen. Verwende für beide Anfragen dieselbe Quelle. Achte auf Anrede und Satzenden und prüfe anschließend, dass Verhalten, Datum und Mengen gleich bleiben. Schwächt der Tonwechsel eine Sicherheitsanweisung ab, muss ein Mensch korrigieren.

Beginne mit kleinen, aufgabenspezifischen Glossaren. Füge fünf Produktbegriffe, zwei Einheiten und eine Anweisung zu unveränderlichen Namen hinzu. Taucht ein Fehler auf, ergänze genau diesen Fall statt vieler allgemeiner Regeln. Hältst du Prompt, Glossar und Dateiversion zusammen fest, kannst du später nachvollziehen, welche Änderung geholfen oder eine Verschlechterung verursacht hat.

Die Offline-Aussage messbar machen

Installiere die Laufzeit und lade die Dateien herunter, solange eine Verbindung verfügbar ist. PFNs offizielle GGUF-Anleitung kombiniert das Modell mit einer mitgelieferten chat_template.jinja und dokumentiert ein Beispiel für llama-server. Verwende die modellspezifische Vorlage und beschränke den Testdienst auf das Gerät, wenn der Zugriff lokal sein soll. Das Beispiel verwendet ein Kontextbudget von 16.384 Tokens. Für einzelne Nachrichten kann eine kürzere Grenze reichen. Das praktische Budget muss Eingabe und erzeugte Übersetzung abdecken. Offizielle GGUF-Anleitung

Schalte nach der Einrichtung die Netzwerkverbindungen ab und probiere neue, eindeutige Eingaben, die die App noch nie gesehen hat. Prüfe, ob nach einem Neustart der App weiter übersetzt wird. Verspricht die Installation lokale Verarbeitung, prüfe Analysefunktionen, Updates, Synchronisierung und Ausweichdienste separat. Das lokale Modell ermöglicht die Verarbeitung auf dem Gerät. Erst der Datenpfad der gesamten App zeigt, was das Gerät tatsächlich verlässt.

Offline-Übersetzungstest von der Dateivorbereitung bis zur Prüfung von Zahlen, Begriffen und Ton ohne Verbindung

Ein kurzer Offline-Test verbindet die Ausführung auf dem Gerät mit einer Bedeutungsprüfung. Eigene Illustration von Telli.sh.

Bewahre bei gemeinsamer Arbeit Quelle, lokale Ausgabe und Korrekturen als eigene Einträge auf. Begrenze, wer Kundenvorgaben und private Nachrichten sehen kann. Ein Datenschutzvorteil lässt sich am vollständigen Ablauf zeigen. Wenn jemand den korrigierten Text in einen Cloud-Chat schickt oder die App den Verlauf in der Cloud sichert, gehört das getrennt von der Übersetzung erfasst.

Vor dem Einsatz über den Test hinaus die Lizenz prüfen

Die am 9. November überarbeitete PLaMo Community License verlangt für kommerzielle Nutzung zu Standardbedingungen eine vorherige Registrierung. Der Jahresumsatz des Nutzers oder eines verbundenen Unternehmens darf 1 Milliarde JPY nicht übersteigen. Laut PFNs technischem Beitrag brauchen nichtkommerzielle Nutzer weder Registrierung noch Einhaltung dieser Umsatzschwelle. Oberhalb der Schwelle ist eine eigene Vereinbarung erforderlich. Prüfe die aktuelle Lizenz und PFNs Registrierungsvorgaben für deine Organisation. Die Bedingungen für die Gewichte und die fachliche Qualität der Ausgabe sind getrennte Fragen. PLaMo Community License, Artikel 3 und 4 · Lizenzerläuterung von PFN

Das wird wichtig, wenn aus einem persönlichen Test eine Firmen-App wird. Dann stellt sich etwa die Frage, ob jedes Gerät die Gewichte von PFN lädt oder sie mit der App ausgeliefert werden. Nach Artikel 4 müssen Anbieter, die das Modell oder ein abgeleitetes Modell an andere weitergeben, unter anderem die Lizenz weiterreichen und einen Hinweis „Built with PLaMo“ aufnehmen. Plane Aktualisierungen, ein Speicherlimit und eine sichtbare Anzeige ein, wenn lokale Übersetzung aktiv ist. Das sind konkrete Unterschiede zwischen einer Übersetzung im Flugmodus und einem Werkzeug, auf das andere sich verlassen.

Ein erster Pilot kann klein bleiben. Wähle eine Sprachrichtung, eine Textart und eine Quantisierung. Sammle mit Erlaubnis ein Dutzend Passagen und nimm drei auf, bei denen ein Fehler das Handeln verändern würde. Installiere die Laufzeit, prüfe den Kaltstart, übersetze ohne Verbindung und lies das Ergebnis neben dem Original. Wiederhole den Satz nur dann mit einem größeren Modell, wenn die Unterschiede die Einsatzentscheidung beeinflussen könnten. Halte fest, welche Fälle vor Verwendung geprüft werden müssen.

Ein starkes Ergebnis darf bescheiden sein. Ein bestimmtes Gerät übersetzt eine bekannte Textart mit dokumentierter Verzögerung und ohne Verbindung, während die nötigen Begriffe und Zahlen erhalten bleiben. PLaMo 3 Translate bietet vier Wege, nach diesem Ergebnis zu suchen. Die kleine Datei ist einen Versuch wert, wenn sie es auf einem Gerät ermöglicht, das Menschen ohnehin dabeihaben.

Quellen


Um einen Übersetzungstest mit Ausgangstext und Korrekturen in einer durchsuchbaren Notiz zu sammeln, erstelle ein Telli.sh-Konto.


← Zurück zum Blog