Strata 0.2.17 will mehr von Ihrem RAM. Sollte Ihr Arbeits-PC das zulassen?
Stratas neues Speicherbudget kann SSD-Zugriffe verringern, während eine separate Voreinstellung die Ausgabetreue schützt. Welche Einstellung zu einem gemeinsam genutzten Arbeits-PC passt und wie Sie den Kompromiss prüfen.
Ein lokales Modell kann schneller antworten und gleichzeitig die Arbeit am übrigen Computer unangenehmer machen. Auf einem Rechner, auf dem auch Browser, Editor und Videokonferenzen laufen, gehören beide Ergebnisse in denselben Vergleich.
Strata 0.2.17, veröffentlicht am 20. November 2026, macht diesen Zielkonflikt besonders sichtbar. Bei bestimmten Modelldateien, deren Expertengewichte nicht vollständig im RAM bleiben können, erhöht die leistungsorientierte Einrichtung die dauerhaft im Speicher gehaltene Zuweisung. Außerdem schaltet die Version eine separate Optimierung ab, nachdem Nutzer schlechtere Antworten gemeldet hatten.
Die entscheidende Frage ist, ob Ihr PC ausschließlich für Inferenz vorgesehen ist oder weiterhin Ihr Arbeitscomputer bleibt. Dieses Update gibt Anlass, genau diesen Unterschied zu testen, statt eine höhere Tokenrate als vollständiges Ergebnis zu akzeptieren.
Drei Dinge vorab: Das Beispiel mit 64 GiB gilt für bestimmte unterstützte Unsloth-Dateien und eine genannte Hardwarekonfiguration; die App kann das ältere, arbeitsfreundliche Budget beibehalten; und Speicherresidenz und das Überspringen von Modellrouten sind unterschiedliche Einstellungen.
Sieben zusätzliche GiB können überraschend viele SSD-Lesezugriffe sparen
Strata ist eine lokale Modelllaufzeit, die die Ressourcen des Rechners koordiniert, um unterstützte Modelle auszuführen. Nach dem in 0.2.16 beschriebenen Engine-Wechsel tragen App und Terminal nun die Versionsnummer 0.2.17. Die Engines und der Control-Updater haben die Version 0.1.63. Es gibt Downloads für Windows, Linux, Mac und DGX Spark. Ein Download für ein Betriebssystem bedeutet allerdings nicht, dass jedes Modell und jeder Ausführungspfad auf jedem Rechner funktionieren.
Die Speicheränderung betrifft die Unsloth-Dateien UD-Q4_K_XL und UD-IQ4_XS, wenn ihre Experten nicht vollständig im RAM verbleiben können. Die neue Einrichtungsregel zieht 17 GiB und einen eventuell gestreamten KV-Cache vom gesamten RAM ab, um festzulegen, wie viele Expertengewichte im Speicher bleiben. Die ältere Regel zog 24 GiB ab. Das ist ein Residenzbudget für einen bestimmten Ausführungspfad, kein Versprechen, dass das gesamte Modell, der Cache und das Betriebssystem in diese Größe passen.
Warum sollten wenige zusätzliche GiB so viel ausmachen? Ist ein benötigtes Gewicht bereits im Arbeitsspeicher verfügbar, muss die Laufzeit es nicht erneut vom Datenträger holen. Eine anspruchsvolle Eingabe kann diesen Vorteil bei vielen Zugriffen wiederholt nutzen. Der Zusammenhang ist deshalb komplexer als ein Vergleich von sieben GiB mit der Größe einer einzelnen Eingabedatei. Er hängt auch davon ab, welche Experten eine Aufgabe anspricht und was die Laufzeit schon zwischengespeichert hat.
Das Beispiel des Maintainers verwendet eine tatsächliche Speichergrenze von 64 GiB, UD-Q4_K_XL, eine RTX PRO 4500 Blackwell und eine Eingabe von rund 65K Token. Die Tabelle zur Veröffentlichung nennt die folgenden Ergebnisse. Es sind Projektmessungen dieser Konfiguration, keine Prognose für jeden Computer mit 64GB.
| Budget für residente Expertengewichte | SSD-Lesevolumen für die genannte Eingabe | Dekodierrate | Gemeldeter freier RAM | Später gestartetes 8-GiB-Programm |
|---|---|---|---|---|
| 40 GiB, älteres Beispiel | 97.7 GB | 57.7 Token/s | 16.6 GiB | Lief weiter |
| 47 GiB, neues Beispiel | 37.0 GB | 84.2 Token/s | 9.3 GiB | Lief weiter |
| 52 GiB, zusätzlicher Test | 0.9 GB | 83.4–88.6 Token/s | 6.6 GiB | Wurde beendet |
Besonders interessant ist die letzte Zeile. Der nahezu vollständig vermiedene Datenträgerverkehr führte nicht zu einer ähnlich starken Steigerung der Dekodiergeschwindigkeit, und ein anderes Programm wurde beendet. Die Tabelle spricht für ein gemessenes Budget, statt möglichst viel Arbeitsspeicher der Inferenz zuzuweisen.
Eigene Erklärungsgrafik: Expertengewichte, der veränderliche Cache der Laufzeit und Alltagsanwendungen teilen sich den Arbeitsspeicher. Die Residenzregel der Veröffentlichung gilt nur für die angegebenen Modellpfade.
Die Arbeitsreserve der App ist ein sinnvoller Ausgangspunkt
Stellen Sie sich beispielhaft eine Entwickler-Workstation vor. Im Browser sind viele Seiten offen, die IDE indiziert ein Repository, und ein lokaler Assistent erstellt eine Antwort aus einem großen Dokument. Die isoliert schnellste Konfiguration des Assistenten hilft weniger, wenn die IDE anfängt auszulagern oder eine Videokonferenz unzuverlässig wird. Die richtige Vergleichsbasis ist die gesamte Arbeitssitzung.
Stratas App bietet die Option „Leave 20% for my work“, also eine Reserve von 20% für die eigene Arbeit. Laut Versionshinweisen bleibt damit das ältere Budget erhalten: 40 GiB im Beispiel mit 64 GiB. Das Terminal, strata serve, Docker und der Modus für volle Leistung in der App verwenden die neuere Zuweisung. Ein vom Nutzer festgelegtes Budget oder eine ausdrücklich eingestellte Reserve hat Vorrang. Bestehende 0.2.16-Installationen können die einmalige Budgetmigration beim ersten Strata-Befehl nach dem Update erhalten, ohne die Einrichtung separat erneut auszuführen, sofern der Nutzer die Zuweisung nicht ausdrücklich festgelegt hat.
Dieser Unterschied ist wichtig, wenn zwei Personen sagen, sie hätten die Standardeinstellung getestet. Eine verwendet vielleicht den Arbeitsreservemodus der Desktop-App, die andere startet einen Server im Terminal. Beide können dieselbe Anwendungsversion mit unterschiedlichen Residenzentscheidungen ausführen. Notieren Sie deshalb vor einem Vergleich neben der Version auch den Startmodus.
Die Versionshinweise nennen außerdem Ausnahmen. Rechner mit gemeinsamem CPU/GPU-Speicher wie Strix Halo und der Pfad mit Schichtaufteilung auf zwei Karten behalten die ältere Reserve. Die anderen genannten Modelldateien — IQ2_XS, IQ3_XXS, IQ3_S und Q2_0 — erhalten dieses Residenzbudget in keiner der beiden Versionen. Eine aus einem Beispiel übernommene Speicherregel ersetzt daher nicht die Prüfung der konkreten Modellkonfiguration.
Unter Windows begrenzt die neue Engine ihre anfängliche Zuweisung zusätzlich auf den verfügbaren freien Speicher abzüglich 4.25 GiB. Ein ausgelasteter Rechner kann deshalb unterhalb der genannten Zuweisung von 47 GiB starten. Die Veröffentlichung weist ausdrücklich darauf hin, dass dieses Windows-Verhalten im Beispiel nicht gemessen wurde. Außerdem ändert sie die Einstufung eines nominellen 64GB-Windows-Rechners, wenn das System etwa 63.1 GiB meldet. Diese Details helfen, eine abweichende beobachtete Zuweisung zu verstehen; aus dem veröffentlichten Test wird dadurch kein Windows-Benchmark.
Unsere praktische Empfehlung lautet, auf einem interaktiv genutzten Computer mit der Reserveoption zu beginnen. Testen Sie die größere Zuweisung bewusst im Vergleich bei laufender Zielanwendung, statt Speicher von Programmen zu nehmen, die Sie nur für den Test geschlossen haben.
Schnellere und modellgetreue Antworten brauchen getrennte Schalter
Die zweite größere Änderung betrifft „Skip rarely used parts of the model“, also das Überspringen selten genutzter Modellteile: eine Expert-Einstellung, die durch STRATA_ROUTE_TAIL_SKIP repräsentiert wird. Das ist nicht das RAM-Budget.
Die Versionshinweise erklären, dass die Optimierung unter der betreffenden Routing-Bedingung Expertenarbeit auslassen kann, die sonst kopiert und berechnet würde. Zuvor war sie auf NVIDIA- und Radeon-RX-9000-Pfaden standardmäßig aktiv. Nach Meldungen über Qualitätsverluste änderten die Maintainer das automatische Verhalten. In 0.2.17 ist sie ausgeschaltet, sofern der Nutzer sie nicht ausdrücklich aktiviert hat.
Es macht einen wesentlichen Unterschied, ob ein benötigtes Gewicht näher am Prozessor bleibt oder ein Teil der Modellarbeit gar nicht ausgeführt wird. Ersteres verändert den Ort, an dem Daten gefunden werden. Letzteres verändert die Berechnung. Auch wenn beides den Durchsatz verbessert, sollten die Risiken für die Ausgabe nicht wie dieselbe Technik bewertet werden.
Im RTX-5090-Beispiel des Maintainers mit UD-Q4_K_XL und DFlash2 ergaben fünf Anfragearten über zwei Runden mittlere Dekodierraten von 73.4 Token/s bei ausgeschaltetem und 94.5 bei eingeschaltetem Routenüberspringen. Dieselben Hinweise enthalten eine Divergenzmessung unter erzwungenen Token. Das ist ein vom Projekt veröffentlichter Konfigurationsvergleich, keine Bewertung, ob die Antworten in Ihrer Anwendung nützlich, sicher oder korrekt waren.
Im Alltag kann ein Update deshalb auf einem bestimmten Pfad den Durchsatz senken und dabei das vollständigere Routing-Verhalten wiederherstellen. Das kann genau das beabsichtigte Ergebnis sein. Wenn Sie exakte Zahlen prüfen, strukturierte Ausgaben erzeugen oder schwierige Anweisungen befolgen lassen, kann die Erhaltung des gewünschten Verhaltens wichtiger sein als ein schnellerer Textstrom.
Eigene Prüfliste: Messen Sie die Ressourcenbelastung getrennt von der Antwortqualität. Änderungen an Speicherresidenz und Routenüberspringen sind unterschiedliche Experimente.
Bestehende benutzerdefinierte Einstellungen gehören zur Update-Historie
Automatische Vorgaben und ausdrücklich gewählte Werte werden nicht auf dieselbe Weise migriert. Wenn Sie die Routeneinstellung nie geändert oder ihren automatischen Wert verwendet haben, ist das neue automatische Verhalten „aus“. Wenn Sie ausdrücklich Rang 7 oder einen anderen Rang gewählt haben, bleibt diese Auswahl laut Versionshinweisen erhalten. Eine ausdrücklich gesetzte Null bleibt ausgeschaltet.
Das schützt bewusste Konfigurationen, bedeutet aber auch, dass das Update zweier Rechner ihr Verhalten nicht zwingend angleicht. Einer kann ein älteres Experiment behalten, das vor Monaten jemand aktiviert hat. Prüfen Sie vor der Diagnose einer Regression, welche Einstellungen übernommen wurden.
Die Veröffentlichung dokumentiert strata launch --set STRATA_ROUTE_TAIL_SKIP=7 als Möglichkeit, das Verhalten für Rang 7 zu aktivieren. Behandeln Sie das als bewusst gewähltes Experiment, nicht als Updateschritt für alle. Wenn Sie uneinheitliche Ausgaben untersuchen, prüfen Sie zuerst, ob die Routenoptimierung ausgeschaltet ist, statt sie zur Wiederherstellung einer früheren Durchsatzrate zu aktivieren.
Auch andere Vorgaben ändern sich in 0.2.17, darunter hardwareabhängige Änderungen beim Einlesen von Eingaben und beim Dekodieren. Manche können den erzeugten Text verändern. Das ist ein weiterer Grund, nicht mehrere Einstellungen zugleich zu ändern und den gesamten Unterschied dem RAM zuzuschreiben. Version, Modelldatei, Hardwarepfad und explizite Überschreibungen ergeben zusammen die tatsächlich getestete Konfiguration.
Vergleichen Sie mit den Anwendungen, die geöffnet bleiben sollen
Ein nützlicher Test braucht kein Labor, aber eine wiederholbare Fragestellung. Fragen Sie bei einem Arbeits-PC, ob der Assistent eine typische Aufgabe abschließt, während der Rest des Rechners benutzbar bleibt. Bei einem dedizierten Server lautet die Frage, ob das gewählte Budget die vorgesehenen parallel laufenden Dienste ohne Speicherfehler trägt.
- Notieren Sie die Ausgangskonfiguration. Halten Sie App- und Engine-Versionen, Betriebssystem, RAM, GPU, genaue Modelldatei, Startmodus, Kontextgröße sowie explizite Speicher- oder Routeneinstellungen fest. Lassen Sie Modell und Quantisierung während des Vergleichs unverändert.
- Wählen Sie drei typische Aufgaben. Nutzen Sie beispielsweise eine kurze Frage, eine Anfrage zu einem langen Dokument und eine strukturierte Extraktion mit bekannten Pflichtfeldern. Dies sind vorgeschlagene Testfälle, keine für diesen Artikel ausgeführten Aufgaben.
- Ermitteln Sie die Vergleichsbasis mit Arbeitsreserve. Lassen Sie Browser, Editor und andere übliche Programme offen. Beobachten Sie freien Speicher, Datenträgeraktivität, Verzögerung bis zur ersten Antwort, Generierungsrate und Reaktionsfähigkeit der übrigen Anwendungen.
- Ändern Sie nur die Residenz. Vergleichen Sie die leistungsorientierte Zuweisung bei gleicher Routeneinstellung. Achten Sie während der Aufgabe und beim anschließenden Start einer weiteren üblichen Anwendung auf Speicherdruck.
- Bewerten Sie die Ausgabe. Prüfen Sie erforderliche Fakten, Formatierung, Anweisungsbefolgung und Konsistenz bei Wiederholungen. Eine syntaktisch gültige Extraktion, die einen Pflichtinhalt auslässt, gilt als Fehler.
- Testen Sie das Routenüberspringen bei Bedarf separat. Halten Sie das gewählte Residenzbudget konstant. Vergleichen Sie die Ergebnisse mit Ihren Abnahmebeispielen und entscheiden Sie dann, ob ein Durchsatzgewinn die beobachteten Änderungen rechtfertigt.
Notieren Sie bei einem langen Dokument sowohl den Kaltstart als auch eine wiederholte Anfrage. Caching kann den zweiten Lauf deutlich anders aussehen lassen als den ersten. Vermischen Sie nicht das aufgewärmte Ergebnis einer Konfiguration mit der ersten Verarbeitung des Dokuments durch eine andere.
Erfassen Sie außerdem Fehler, statt sie durch Mittelwerte zu verdecken. Eine schnelle Antwort mit anschließendem Speichermangel ist kein gutes Ergebnis für einen Hintergrunddienst. Eine ungestörte Editor-Sitzung kann für einen Arbeitslaptop entscheidend sein, auch wenn eine andere Einstellung in der Spalte für Dekodierrate gewinnt.
Die bessere Einstellung lässt Platz für Ihre eigentliche Arbeit
Strata 0.2.17 lässt lokale Inferenz weniger wie einen einzelnen Beschleuniger-Benchmark und mehr wie die Verwaltung eines kleinen gemeinsam genutzten Computers wirken. Speicher ist ein gemeinsamer Schreibtisch: Mehr Modellmaterial darauf kann Wege zum Datenträger sparen, aber für die Arbeit muss weiterhin Platz bleiben.
Auf einem dedizierten Rechner ist die neue Zuweisung ein Anlass zu messen, ob weniger Lesezugriffe die bediente Aufgabe verbessern. Auf einer Alltags-Workstation ist die Reserveoption ein sinnvoller Anfang. Behalten Sie in beiden Fällen die Ausgabetreue als eigenes Abnahmekriterium bei. Eine schnellere Einstellung verdient ihren Platz, wenn die gesamte Aufgabe — nicht nur der Tokenzähler — besser wird.
Quellen und offizielle Medien
- Strata 0.2.17 vom 20. November 2026: Einstellungen, Messungen unter benannten Bedingungen und Update-Verhalten.
- Hinweise zum Engine-Wechsel in Strata 0.2.16.
- Offizielle Darstellung der Strata-Oberfläche. Der Link zeigt das tatsächliche Produkt; die mitgelieferten Grafiken sind eigene Erklärungen.
Die genannten Messungen stammen vom Projekt und behalten dessen Hardware- und Modellbedingungen bei. Das Bewertungsverfahren ist ein Vorschlag für den Arbeitsablauf der Leser.
Telli.sh-Empfehlung: Bewahren Sie Konfigurationen, typische Eingaben und Vergleichsnotizen gemeinsam auf, damit das nächste Update mit einer brauchbaren Basis beginnt. Erstellen Sie Ihre erste Notiz mit Telli.sh.