kmail.at
kontakt

anderswo

DeutschDE
← artikel

ki

System One geht lokal: fünf Modelle, achtzehn Tage, ein Wire-Format

Drei Wochen nach dem Start von Jev als einzigem System-One-Modell gibt es in der Kategorie fünf neue Open-Source-Modelle auf Ollama (Nimble 9B, Tev1 4B/0,8B, Clef 27B, Clef-Flash 9B), einen nativen /v1/systemone-Endpunkt in Ollama 0.35, llama.cpp-Unterstützung und einen dreiseitigen Benchmark-Wettkampf. Die vollständige Übersicht der Welle – mit der ehrlichen Einordnung jeder Zahl.

KI-Entwurf · geprüft und bearbeitetDieser Text wurde mit KI als Erstentwurf erstellt und anschließend von der Autorin bzw. dem Autor geprüft und bearbeitet, die bzw. der die redaktionelle Verantwortung dafür trägt.

2026-10-03 · 15 min lesezeit

Eine fotorealistische Grafikkarte für Heimserver, die in einem dunklen Büro nachts grün und türkis leuchtet – stellvertretend für fünf offene Entscheidungsmodelle, die lokal auf Ihrer eigenen Hardware laufen

System One geht lokal: fünf Modelle, achtzehn Tage, ein Wire-Format

Vor drei Wochen gab es genau ein System One-Modell — TypeSafe’s Jev, eine gehostete API, die keinen Satz schreiben konnte. Heute hat die Kategorie einen Benchmark-Krieg, einen paketmanagerförmigen Runner, ein Zuhause in llama.cpp und ein ganzes Regal an Modellen, die Sie mit einem Befehl auf die eigene Hardware laden und ausführen können. Das ist die Landkarte dieser Welle: was ein Entscheidungsmodell eigentlich ist, wer eines ausgeliefert hat, wie sie sich vergleichen und was das neue offene Ökosystem leistet — und was nicht.

Die drei Wochen alte Kategorie, erklärt

Am 15. September 2026 kam TypeSafe AI nach zwei Jahren im Stealth-Modus mit 40 Millionen Dollar Seed-Finanzierung und einer Idee heraus, die fast unverschämt klingt: Das nützlichste Modell für die meisten Softwareanwendungen ist eines, das niemals Text generiert.

Ein großes Sprachmodell beantwortet eine Frage, indem es Prosa Token für Token schreibt und Ihre Anwendung die Bedeutung aus einer Zeichenkette zurückparsen lässt. Ein System One-Modell macht das Gegenteil: Sie senden einen Block Programmzustand plus einen Satz typisierter Fragen — und es liefert typisierte Antworten mit Wahrscheinlichkeiten, ausgewertet in einem einzigen parallelen Durchlauf. Kein Parsing-Schritt, keine Schema-Reparatur, keine Prosa, die Sie in einem Code-Review verteidigen müssen. Der Kategoriename ist eine Anleihe bei Daniel Kahneman: System 1 ist schnelles, intuitives Urteilsvermögen; System 2 ist langsames Abwägen — und das ist in etwa das, wofür Ihr Chatmodell da ist.

TypeSafe trainierte Jev mit einer Methode, die es Reinforcement Learning for Calibrated Decisions (RLCD) nennt, und die entscheidende Eigenschaft ist mathematischer Natur: Unter einer streng korrekten Bewertungsregel ist die einzige optimale Strategie, ehrliche Wahrscheinlichkeiten zu berichten. Das Modell wird nicht höflich gebeten, kalibriert zu sein — es wird so bewertet, dass Ehrlichkeit der gewinnbringende Zug ist. Jev stellt drei typisierte Grundelemente bereit: choice (wählen Sie eine Option aus einer von Ihnen bereitgestellten Liste), score (ordnen Sie den Zustand auf einer von Ihnen definierten Skala ein) und noul (die Wahrscheinlichkeit, dass eine Aussage wahr ist). Die Preisgestaltung liegt bei 0,042 Dollar pro Million Eingabetokens, Ausgaben sind kostenlos — TypeSafes eigene Worte lauten „too cheap to meter“ — und die Latenz beträgt 70 ms bis 500 ms. Die Nachfrage kam schnell und sichtbar: Die Warteliste war innerhalb weniger Tage nach dem Start abgearbeitet, und bis Ende September war Jev über Cloudflare Workers AI, Vercels AI Gateway (das berichtete, dass es innerhalb von 24 Stunden fast 13 % der zahlenden Teams erreichte, doppelt so viel wie die GPT-5.6-Familie), Netlify, LangChains TypeSafeClassifier und AutoMode-Middleware, Pydantic AI sowie fünf unabhängige Elixir-Clients aufrufbar.

„Stellen Sie sich Jev als eine Frontier-Intelligence-Funktionsaufruf vor: unstrukturierter Zustand rein, typisierte probabilistische Entscheidungen raus.“

Praktische Erfahrungsberichte trafen im selben Zeitraum ein. Ein Vercel-Ingenieur maß, dass ein Sicherheitsklassifikator fünf- bis achtzehnmal schneller lief als das LLM, das er ersetzte; OpenChamber analysierte 12.759 Launch-Posts und ermittelte von Nutzern gemeldete Geschwindigkeitssteigerungen mit einem Median von 7x, Kosteneinsparungen von 30x und eine Latenz von 76 ms – deutlich unter der Schlagzeile von 193,6x, aber dennoch eine andere Geschwindigkeitsklasse als eine Chat-Completion. Und Armin Ronacher, dessen Meinung zum API-Design in dieser Branche Gewicht hat, merkte an, das Design „delegiert das Halluzinationsproblem ein Stück weit an den Nutzer“, der nun entscheidet, ob eine 50-prozentige Wahrscheinlichkeit handlungsrelevant ist.

Warum diese Welle anders ist als jedes andere Modellrennen

Ein Satz: die Entscheidungsschicht wird zur Infrastruktur, und Infrastruktur will offen sein.

Jev ist hervorragend — die Dokumentation benennt ungewöhnlich ehrlich die Grenzen, die Preise sind fast kostenlos, und das Ökosystem hat sein Wire-Protokoll als Standard übernommen. Doch es ist ein gehosteter Endpunkt hinter einem API-Key: keine Gewichte, keine On-Premise-Option, keine veröffentlichten Parameter. Drei Wochen lang war das die ganze Geschichte. Was dann passierte, sollte jeden begeistern, der eigene Hardware betreibt: In weniger als drei Wochen brachte die Kategorie offene-Gewichte-Replikate in jeder Größenklasse hervor, native Unterstützung in zwei der meistgenutzten lokalen Inferenz-Tools weltweit (Ollama und llama.cpp), eine Cloudflare-Frontend mit bildfähigen 27B-Gewichten und mehrere unabhängige Leaderboards, die die Ergebnisse tracken. Das Wire-Format konvergierte so schnell, dass der Wechsel zwischen der geschlossenen Frontier-API und einem Modell auf der eigenen GPU in den meisten Fällen nur eine einzeilige Änderung der Base-URL erfordert.

Falls Sie auf den „Open-Weights-Catch-up-Moment“ gewartet haben, bevor Sie diese Kategorie ernst nehmen — jetzt ist er da. Beim Aufbau meiner eigenen Entscheidungslayer-Integration über die jevai.org-API — ein Routing-Guard, bei dem kein Urteil keine Ausführung bedeutet — lief dieselbe Fragetemplate unverändert gegen beide Oberflächen, und das offene Ökosystem erbte genau diese Portabilität: Der offizielle typesafe-sdk Client funktioniert mit Ollama, Laya, lev, decider, Kev und Liquid’s d1 mit nur einer Base-URL-Änderung, weil jeder von ihnen TypeSafe’s /v1/systemone Wire-Format übernommen hat. Ihre Schwellenwerte, Ihre Fragetemplates, Ihre Eskalationslogik — alles portabel.

Ollama unterstützt Entscheidungsmodelle nativ — die Schlagzeile

Am 29. September 2026 lieferte Ollama v0.35 aus, eines dieser Releases, die stillschweigend neu definieren, wofür das Tool gedacht ist: native Unterstützung für Entscheidungsmodelle über einen neuen /v1/systemone Endpunkt, wire-kompatibel mit Jev. ollama pull, curl http://localhost:11434/v1/systemone, erledigt — dieselbe Anfrageform und Antwortschema wie die gehostete API, null Kosten pro Entscheidung und kein Netzwerk-Roundtrip.

ollama pull nimble
curl http://localhost:11434/v1/systemone -d '{
  "model": "nimble",
  "state": {"ticket": "I was charged twice. Please refund the extra payment."},
  "questions": {
    "team": {
      "type": "choice",
      "instructions": "Which team should handle this ticket?",
      "criteria": {
        "billing": "Payments and refunds",
        "technical": "Bugs and integrations",
        "other": "None of the above"
      }
    },
    "refund": {
      "type": "noul",
      "instructions": "Does the customer explicitly ask for a refund?"
    },
    "urgency": {
      "type": "score",
      "instructions": "How urgent is this ticket?",
      "criteria": ["Routine", "Soon", "Urgent"]
    }
  }
}'

Die Antwort enthält Wahrscheinlichkeiten pro Option, einen Konfidenzwert und eine exakte Token-Buchhaltung:

{
  "model": "nimble",
  "answers": {
    "team": {"type": "choice", "choice": "billing",
             "probabilities": {"billing": 0.985, "technical": 0.012, "other": 0.003},
             "confidence": 0.922},
    "refund": {"type": "noul", "noul": 0.997},
    "urgency": {"type": "score", "score": 0.815,
                "legend": {"0": "Routine", "1": "Soon", "2": "Urgent"},
                "probabilities": {"0": 0.378, "1": 0.429, "2": 0.193},
                "confidence": 0.046}
  },
  "usage": {"input_tokens": 841, "output_tokens": 4}
}

Vier Ausgabetokens für drei typisierte Entscheidungen. Diese Nutzungszeile ist die ganze These der Kategorie im Miniaturformat.

Der Start umfasste drei Modelle, inzwischen sind es fünf; weitere, darunter cloud-basierte Varianten, werden explizit angekündigt. Das Kleingedruckte zählt, und Ollamas Dokumentation ist erfreulich direkt: Anfragen ohne Bilder müssen in 64 KiB passen; das lokale Schema begrenzt choice Fragen auf 2 bis 26 benannte Optionen; und confidence „misst, wie stark das Modell eine Antwort gegenüber den anderen bevorzugt … Ein höherer Wert garantiert nicht, dass die Antwort korrekt ist.“

Die neue Ollama-Aufstellung: fünf Modelle, drei Familien

Nimble — Bespoke Labs’ 9B-Zweiter, der an manchen Tagen den Sieger schlägt

Nimble ist ein 9B-Entscheidungsmodell von Bespoke Labs, feingetunt aus Qwen3.5-9B, unter Apache 2.0. Die Readme ist eine Anleitung, wie diese Modellklasse funktioniert: Antworten werden als einzelne Buchstabencodes bewertet („ein Token pro Antwort“ — es gibt kein generiertes JSON zu parsen), das Modell liest den Prompt einmal pro Frage und bewertet die Antwort-Tokens direkt („es gibt keinen Reasoning-Schritt. Das macht es schnell“), es wurde mit kontrastiven Paaren trainiert, deren Mitglieder sich in einer Tatsache unterscheiden, die die Antwort umkehrt, und es akzeptiert bis zu 64 Fragen zum selben Text in einem Aufruf. In Ollamas eigener Launch-Demo auf einem M5 Max lag die durchschnittliche Entscheidungszeit von Nimble 9B bei 91 ms.

Die Zahlen verdienen die ehrliche Lektüre. Ollamas Blog-Diagramm — mittlere Genauigkeit über 13 öffentliche Datensätze mit menschlichen Labels, 3.880 Entscheidungen — setzt Nimble bei 75,7 % gegen Jev 1.13 mit 76,0 %, wobei die Jev-Zahl aus Bespoke Labs’ eigener Veröffentlichung derselben Entscheidungen stammt. Auf Bespokes Hold-out-Set liegt Jev klar vorn: 93,21 zu 90,12 % Übereinstimmung. Und in Ollamas Launch-Diagramm verliert Nimble im Reasoning-Panel 85,7 zu 76,0, führt aber mit Jev 95.6 zu 89,0 bei faktischer Abfrage (TREC). Übersetzung: Ein lokales 9B-Modell, das Sie herunterladen und ausführen können, tauscht einige Prozentpunkte durchschnittlicher Genauigkeit gegen die gehostete Frontier ein — für 91 ms lokale Latenz, keine marginalen Kosten und Gewichte, die Ihnen gehören — und gewinnt an manchen Tagen ganze Kategorien.

Tev1 — Together AIs experimentelles Paar, trainiert für 17 $ und in jeder Hinsicht offen, außer der Lizenz

Tev1 ist eine Familie experimenteller Entscheidungsmodelle von Together AI, die aus Qwen3.5 in zwei Größen Fine-Tuning erhalten hat: 4B (das präzise Modell) und 0,8B (ein 812 MB Download für knappe Speicherbudgets). Die Herkunftsangabe ist ungewöhnlich ausführlich — 37.840 Trainingsbeispiele aus MultiNLI, BoolQ, Banking77, AG News, SST-5, programmatischen Richtlinien, Routing und einer Forschungstaxonomie — plus ein prägnanter Satz zur Abstammung: „Tev1 lässt sich von Jev inspirieren. Keine seiner Trainingsdaten stammen von Jev.“ Together veröffentlichte einen vollständigen Begleitartikel zum Fine-Tuning eines eigenen Jev-ähnlichen Modells für 17 $, eine Zahl, die die Geschichte vom Anbieter- zum Bastlerprojekt macht.

Die Einschränkungen sind dokumentiert, nicht erst entdeckt: Tev1 wurde mit 2 bis 24 Optionen trainiert und bleibt in diesem Rahmen; es hat einen praktischen Kontext von etwa 2.000 Token (das längste Trainingsbeispiel umfasst ~1.500); in einem normalen Chat antwortet es tendenziell in Prosa, weil das Entscheidungsverhalten erst durch /v1/systemone; und „Together AI hat Prompt-Injection, andere Sprachen als Englisch, Kalibrierung oder die Verarbeitung von Eingaben außerhalb der Trainingsdaten nicht vollständig getestet.“ Ein Lizenzdetail gehört in jede Beschaffungsnotiz: Die Datensatz-Ersteller und Trainingsskripte unterliegen der MIT-Lizenz, aber die Ollama-Seite nennt keine Lizenz für die Gewichte selbst — vor der Auslieferung kommerzieller Produkte im GitHub-Repo prüfen. Im 13-Datensatz-Vergleich von Ollama erreicht Tev1 4B 73,3 Punkte und die 0,8B-Variante 63,5.

Clef und Clef-Flash — Cloudflares 27B-Augen und das schnellste Entscheidungsmodell, das je gemessen wurde

Nur Tage nachdem die Ollama-Unterstützung landete, lieferte Cloudflare die größte Überraschung der Kategorie aus: Clef, ein auf Qwen3.8-27B feinabgestimmtes 27B-Entscheidungsmodell, und Clef-Flash, ein 9B-Geschwistermodell auf Qwen3.5-9B — beide unter Apache 2.0, beide „voll kompatibel mit den Jev- und System One-APIs“ und beide multimodal. Fügen Sie base64-kodierte Bilder (Screenshots, Belege, Formulare, Fotos) zur Anfrage hinzu, und sie werden gemeinsam mit dem Text bewertet. Clef benötigt Ollama v0.35.1 oder neuer und 18 GB Festplattenspeicher im aktuellen Tag; Flash belegt 11 GB.

Die Leistungsangaben sind die kühnsten der Kategorie. Die Karte von Clef behauptet, es „führt den Decision Index an, Cloudflares Bestenliste für Entscheidungsmodelle, und übertrifft Jev in den meisten Tests“; die Vergleichstabelle zeigt Clef mit 94,2 auf BANKING77 gegenüber Jevs 79,7, bei einer medianen Latenz von 209,3 ms gegenüber Jevs 524,1. Und Clef-Flash erreicht eine mediane Latenz von 38,8 ms — die niedrigste aller Entscheidungsmodelle in Cloudflares Decision-Index-Läufen, etwa dreizehnmal schneller als das gehostete Frontier-Modell, während es Fragen zu Bildern beantwortet. Die übliche Einschränkung gilt — es handelt sich um Cloudflares eigene Bestenliste und deren eigene Messung — aber die Zahlen sind konkret, öffentlich und überprüfbar, was den Marketingstandard der Kategorie bereits über den der meisten anderen hebt.

Das breitere Open-Ecosystem — ein Feldführer

Die Replikas und die Forscher

Kev ist Jared Palmers Apache-2.0-Familie (0.8B/4B/9B/27B auf Qwen3.5/3.8-Basen), aufgebaut auf der Architektur, die die Community für Jev reverse-engineered hat: LoRA plus ein Pointer-Head, das Optionenbuchstaben in ihrem eigenen Antwortslot bewertet. Der Kev-0.5B-Prototyp, am 17. September auf einem Laptop trainiert — zwei Tage nach Jevs Launch — beweist das Konzept mit 9,3 Mio. trainierbaren Parametern (1,9 % des Backbones). Kev 1.0 ist die Produktionsfamilie; Kevs eigene Evaluierungen platzieren Kev-27B in etwa einen Punkt hinter Jev bei Out-of-Domain-Genauigkeit (0,851 vs. 0,857), mit dem ehrlichen Vorbehalt, dass derzeit niemand überprüfen kann: Niemand weiß, worauf Jev trainiert wurde, daher ist dies kein kontrollierter Vergleich.

lev von Interfaze ist ein Apache-2.0-LoRA-Adapter auf Qwen3.5-4B (etwa 200 MB zusätzlich zu einer 8-GB-Basis), den Sie mit lev serve. Sein Selbst-Benchmark ist der Ehrlichkeits-Goldstandard des Monats: Auf dem 3.880 Items umfassenden S1Bench-Harness erreicht Jev einen Makro-Wert von 0,761 gegenüber levs 0,689, wobei lev genau offenlegt, wo es deutlich schlechter abschneidet (Minimal-Edit-Widerspruchspaare, Konsistenzbeurteilung). Es ist auch der klarste Latenz-Realitätscheck im Ökosystem: levs Engine berechnet eine kurze Anfrage in 69 ms, aber vom Laptop aus antwortete der gehostete Jev in einem Median von 335–346 ms, während lev auf einer Cloud-H100 414–654 ms benötigte — Geschwindigkeit ist nicht automatisch der Vorteil des Open-Modells von Ende zu Ende.

decider (Mapika) ist der Gewichtsklassenkönig offener Familien — 0.8B, 2B, 4B, 12B und eine 35B-Mixture-of-Experts auf Qwen3.5-Basis, alles Apache 2.0, mit einer Iterationsgeschwindigkeit, bei der der 2B innerhalb von vierzehn Tagen von v8 auf v11 ging. Seine Visitenkarte ist das Versprechen der Kategorie in einem Satz: „kein Decoding, kein Parsing und kein Output außerhalb der Optionen, die Sie definiert haben.“ Winnow-12B (EldanRing) ist der Kontrahent — ein Gemma 4 12B-Finetune, ausgeliefert nur als GGUF, bedient von einem gepatchten llama.cpp-Server, der /v1/systemone und Chat aus demselben geladenen Modell ermöglicht, mit Vision und 64K-Kontext auf einer 16-GB-Karte. Beim öffentlichen JevBench-Subset erreichte Winnow-12B Q8 dieselbe Leistung wie der gehostete Jev mit 85,7 %.

Die Läufer, die Router und die gehosteten Herausforderer

Ollaya ist die Lösung, wenn die Entscheidungsmodelle der zentrale Punkt sind: ein Apache-2.0-Community-Runner im Ollama-Stil mit pull/run/serve, eigenem Daemon auf Port 11435 (neben Ollamas 11434), sechzehn Modellfamilien, darunter Laya, Kev, decider, Winnow und das am 2. Oktober hinzugefügte Clef-Paar — und er hostet niemals Gewichte neu; jedes Modell ist an einen Commit gebunden und per sha256 verifiziert, gezogen aus dem Repository des Autors. Liquid AIs d1 ist der gehostete Herausforderer: angekündigt am 29. September unter d1:free, null Output-Tokens, aus der Liquid-Fourier-Netzwerk-Linie und laut Eigenangabe „das erste Modell, das Jev auf Hugging Faces Decision Index übertrifft“ — basierend auf Liquid’s eigener Auswertung der Benchmark, ein Anspruch, den der Rest der Branche nicht anerkennen muss.

Und die Scoring-Schicht des Ökosystems ist bereits dicht. Bespokes S1Bench fixiert dieselben 3.880 Entscheidungen hinter jeder Model-Card. Hugging Faces Jev Decision Index bewertete in Revision v0.2.1 70 offene Reproduktionen über 43 Benchmarks mit 120.000 Entscheidungen pro Modell. JevBench — ein Hobbyprojekt einer einzelnen Person, dessen Server aus eigener Tasche bezahlt werden, MIT-Lizenz — bewertet 95 Systeme nach einem geometrischen Mittel aus Intelligenz, Kalibrierung, Geschwindigkeit und Kosten, und seine Rangliste liest sich wie ein Thriller: Stand v1.4.2.2 führt ein offenes 4B-Modell (Imajev-4B, 67,37), Jev 1.13.0 liegt auf Platz vier (63,29), und offene Modelle belegen drei der Top fünf. Bei diesem gewichteten Composite landet Laya — der offene Held meines September-Deep-Dives „Laya vs Jev“ — auf Platz 43, eine Erinnerung daran, dass reine Geschwindigkeit und ehrliche Kalibrierung Composites belasten, wenn die Intelligenzachse bei harten Tiers einbricht.

Wie wählen — die praktische Entscheidungstabelle

Der wirklich nützliche Takeaway ist nicht „wer gewinnt“, sondern „welche Deployment-Form zu welcher Einschränkung passt“. Alle sprechen dasselbe Anfrageformat:

  • Geringster Aufwand zum Ausprobieren heute: Ollama + ollama pull nimble. Apache 2.0, solide Genauigkeit, kein Netzwerk, kein API-Schlüssel.
  • Engster Speicherhaushalt: Tev1 0.8B (812 MB Download), mit spürbarem Genauigkeitsverlust.
  • Höchste lokale Genauigkeit: Clef 27B — wenn Sie 18 GB hosten können und entscheidungsfähige Vision brauchen (Ollama v0.35.1+).
  • Latenzkritische lokale Entscheidungen: Clef-Flash (38,8 ms Median in Cloudflares Läufen) oder Nimble auf Apple Silicon (91 ms/Entscheidung auf M5 Max).
  • Nur CPU / Always-on-Gerät: Layas 421M-Encoder — die offene Wahl aus meinem September-Vergleich *Laya vs. Jev* — mit wenigen Millisekunden pro Frage via llama.cpp.
  • Ein Laptop, eigenes Training: Kev (nach dem Jev-Architecture-Unmasked-Rezept) oder Together’s 17-Dollar-Rezept für Tev1.
  • Maximale Genauigkeit, keine Infrastruktur: Jev oder d1s Free Tier — und die gehostete Option hat jetzt echte, dokumentierte Fehlermodi statt keine.

Der Benchmark-Krieg selbst ist die Warnung. Jeder Anbieter führt irgendwo — Jev bei TypeSafes Workflow-Evals und Bespokes Hold-out-Set; Clef bei Cloudflares Decision Index; d1 bei Liquids Durchlauf des Decision Index; Open Models bei JevBenchs Composite. Drittbestätigung ist Tage alt. Wenn ein Vier-Milliarden-Parameter-Modell ein Frontier-Modell „schlägt“, ist die richtige Reaktion weder Applaus noch Abwertung — sondern zu prüfen, welcher Benchmark, wer ihn durchgeführt hat und ob dasselbe Harness die andere Seite bewertet hat.

Die neuen Modelle selbst ausführen: die ehrliche Checkliste

  • Der lokale Stack ist jung. Die Unterstützung für Entscheidungsmodelle kam vor etwa einer Woche in Ollama 0.35 und am 2. Oktober in llama.cpp — rechnen Sie mit Änderungen. Die Bibliotheksseiten von Ollama weisen darauf hin, dass Entscheidungsmodelle noch nicht in den interaktiven CLI-Flows oder einigen Sprachbibliotheken verfügbar sind — API- und SDK-Zugriff haben Vorrang.
  • Die API-Eigenheiten sind dokumentiert, nicht versteckt. Ollama: 64-KiB-Anfragelimit ohne Bilder, 2–26 Optionen pro choice, Konfidenz ist „nicht die Wahrscheinlichkeit, dass die Antwort stimmt“, Eingaben werden nie abgeschnitten. Nimble: Die Wahrscheinlichkeiten auf Ihren Daten entsprechen möglicherweise nicht denen im Readme — testen Sie jeden Schwellenwert lokal vorab.
  • Kalibrierung ist eine Messung, keine Garantie. Die eigenen Dokumente von TypeSafe: „Kalibrierung wird über Gruppen von Vorhersagen gemessen; sie garantiert nicht, dass eine einzelne Antwort korrekt ist.“ Planen Sie den Eskalationspfad für jede Entscheidung unterhalb des Schwellenwerts, bevor sie unbeaufsichtigt läuft.
  • Lesen Sie die Seite zu Unregelmäßigkeiten für das jeweilige gehostete Modell, das Sie verwenden. Jev dokumentiert Fehler: unzuverlässiges Zählen und Rechnen, Datumsvergleiche als wörtlicher Text, Genauigkeitsverlust bei großem, verrauschtem Zustand und adversariale Inhalte, die „die Antwort verschieben können“. Halten Sie Rechenoperationen im Code, filtern Sie den Zustand, fixieren Sie eine versionierte Modell-ID und behandeln Sie ein falsches, aber gültiges typisiertes Urteil als den erwarteten Standard-Fehlermodus.

Weiterlesen — die Quellen

  • Ollama unterstützt jetzt Jev-Entscheidungsmodelle im Stil von System One — https://ollama.com/blog/ollama-now-supports-jev-style-decision-models
  • Ollama-System-One-API-Referenz — https://docs.ollama.com/api/systemone
  • Ollama-Leitfaden für Entscheidungsfähigkeiten — https://docs.ollama.com/capabilities/decision
  • Nimble (Ollama-Bibliothek) — https://ollama.com/library/nimble
  • Tev1 (Ollama-Bibliothek) — https://ollama.com/library/tev1
  • Clef (Ollama-Bibliothek) — https://ollama.com/library/clef
  • Clef-Flash (Ollama-Bibliothek) — https://ollama.com/library/clef-flash
  • Eigenes Jev für 17 $ trainieren (Together AI) — https://www.together.ai/blog/how-to-train-your-own-jev
  • Ankündigung der Clef-Entscheidungsmodelle (Cloudflare) — https://blog.cloudflare.com/clef-decision-models/
  • Ollama-Release-Notes — https://github.com/ollama/ollama/releases
  • Kev (Jared Palmer) — https://github.com/jaredpalmer/kev
  • lev (Interfaze) — https://github.com/InterfazeAI/lev
  • decider (Mapika) — https://github.com/Mapika/decider
  • Winnow-12B-Inferenzserver — https://github.com/EldanRing/winnow-inference
  • Ollaya — https://ollaya.dev
  • Dokumentation zu Liquid-AI-Entscheidungsmodellen — https://docs.liquid.ai/lfm/models/decision-models
  • Jev Decision Index (Hugging Face) — https://huggingface.co/spaces/multimodalart/jev-decision-index
  • JevBench-Rangliste — https://benchmarkheaven.com/jev-models
  • System-One-Modelle und Jev vorgestellt (TypeSafe AI) — https://typesafe.ai/blog/introducing-system-one-models-and-jev
  • System-One-Konzepte (TypeSafe-Dokumentation) — https://docs.typesafe.ai/concepts/system-one
  • Jev 1.13 – Unebenheiten (TypeSafe-Dokumentation) — https://docs.typesafe.ai/model-jaggedness/jev-1.13
  • The Register über Jev — https://www.theregister.com/ai-and-ml/2026/09/16/typesafe-ai-debuts-model-for-machines-that-plays-doom/5296711
  • InfoQ: TypeSafe AI veröffentlicht Jev — https://www.infoq.com/news/2026/10/typesafe-ai-jev-released/
  • llama.cpp-Entscheidungsmodelle (ggml-org) — https://huggingface.co/blog/ggml-org/decision-models-in-llamacpp
  • Nimble (Bespoke Labs) — https://github.com/bespokelabsai/nimble
  • Tev1 (Together AI) — https://github.com/togethercomputer/tev1
  • typesafe-sdk (Python) — https://pypi.org/project/typesafe-sdk/
  • Laya (Convai Innovations) — https://huggingface.co/convaiinnovations/laya
  • Laya vs Jev: Open Weights und die Souveränitätsfrage (meine September-Tiefenanalyse, internes Begleitdokument) — https://kmail.at/blog/laya-vs-jev-open-weights-sovereignty

weiterlesen

Ein kleines, matt-schwarzes Hardware-Modul auf einer dunklen Werkbank mit einem türkisfarbenen Kontrolllämpchen, grüne Leiterbahnen, die eine schwebende Reihe leuchtender Wahrscheinlichkeitsbalken speisen, während sich daneben eine leere Sprechblase in statisches Rauschen auflöst

Die KI, die nicht sprechen wollte: System One lokal auf der eigenen Maschine

Ein Support-Ticket, drei Entscheidungsmodelle, keine Grafikkarte: Ich habe die System-One-Modelle mit 144M, 421M und 4,2B Parametern auf meiner eigenen CPU laufen lassen und aufgeschrieben, was jedes einzelne gesagt hat. Das 144M-Modell verpasste den Satz „I am cancelling on Friday“; das vage Ticket produzierte drei unterschiedliche Antworten. Was ein Entscheidungsmodell ist, wie man es mit llama.cpp oder Ollama betreibt und wie sich Kev, Nimble, Laya und Jev vergleichen.

ki · 19 min · 2026-10-14

Die Werkbank eines Handwerkers, auf der ein siebenstufiger Stack aus leuchtenden Modulen mit Präzisionswerkzeugen und Messinstrumenten von Hand montiert wird, dunkle Szene mit türkis- und grünfarbenen Akzenten

Wie man KI-Expert:in wird: der Weg, der tatsächlich eine hervorbringt

Anthropics eigene Stellenausschreibungen sagen es unverblümt: formale Zertifizierungen sind ausdrücklich optional, und die entscheidende Frage im Auswahlverfahren lautet, ob Sie bereits ein LLM-System für echte Nutzer:innen in Produktion gebracht haben. Der vollständige Weg: wofür der Markt tatsächlich einstellt, der siebenstufige Builder-Stack, die Lernforschung dazu, warum Zuschauen scheitert, die ehrlichen Misserfolgszahlen — und eine Build-Leiter, um diesen Monat zu starten.

ki · 21 min · 2026-10-05