Die Agenten-Harness-Revolution: Was offene und geschlossene KI für Ihre Organisation bedeutet

Die Agenten-Harness-Revolution: Was offene und geschlossene KI für Ihre Organisation bedeutet

Der Motor ist nicht das Auto

Der Großteil der KI-Diskussion in Vorstandsetagen dreht sich heute um das Modell — welches Frontier-Modell abonniert werden soll, welche API aufgerufen wird, wessen Gewichte Sorgen bereiten. Das ist nachvollziehbar, aber zunehmend eine Ablenkung.

Stellen Sie sich ein Auto vor. Ein Ferrari-Motor, montiert auf einen hölzernen Karren, macht daraus noch keinen Ferrari. Der Motor ist wichtig, aber was tatsächlich bestimmt, ob Sie irgendwo sinnvoll ankommen, ist das gesamte Fahrzeug: das Chassis, die Lenkung, das Getriebe, der Fahrer. Bei KI ist das Modell der Motor, und das, was es zu etwas macht, das tatsächlich Arbeit verrichten kann, ist die Harness — die Software, die dem Modell Gedächtnis, Werkzeuge, Dateien, ein Terminal, eine Möglichkeit zur Planung, Handlung und Selbstkorrektur verleiht.

Das ist die Agenten-Harness-Revolution. Das Schlachtfeld der KI ist nicht mehr (nur) die Frage, wer den klügsten Motor hat. Es geht darum, wer die Kontrolle über das Fahrzeug besitzt, das rohe Intelligenz in fertige, zuverlässige Arbeit verwandelt.

Der Meilenstein 2025–2026: Agenten hören auf, Demos zu sein

Vor 2024 waren „KI-Agenten“ weitgehend Forschungskuriositäten — beeindruckend auf einer Benchmark-Folie, unzuverlässig im Einsatz. 2025 und 2026 änderte sich das. Agentische Systeme entwickelten sich von Proof-of-Concepts zu realen Investitionen. Dazu gehören Zahlen, denn der Wandel ist kein Gefühl — er ist messbar.

• Der Markt für KI-Agenten hatte 2025 ein Volumen von etwa 7,92 Mrd. US-Dollar und wird voraussichtlich bis 2035 auf rund 294,66 Mrd. US-Dollarsteigen, bei einer jährlichen Wachstumsrate von 43,57 % von 2026 bis 2035 (Precedence Research, AI Agents Market, 2026).
• Der engere Markt für agentische KI wurde 2025 auf etwa 7,55 Mrd. US-Dollargeschätzt, gegenüber 5,25 Mrd. US-Dollar im Jahr 2024, und soll bis 2034 auf 199,05 Mrd. US-Dollarwachsen, bei einer durchschnittlichen jährlichen Wachstumsrate von etwa 43,84 % (Precedence Research, Agentic AI Market, 2025).
• Gartner prognostiziert nun, dass KI bis 2028 15 % der täglichen Arbeitsentscheidungen autonom treffen wird — eine Schwelle, die direkte, praktische Konsequenzen dafür hat, wie Arbeit in jeder Organisation, die nicht zur KI-skeptischen Minderheit gehört, besetzt, gesteuert und geprüft wird.
• Auf der Ausgabenseite prognostiziert Gartner, dass die weltweiten Endnutzerausgaben für KI-Plattformen und -Modelle 2026 64 Mrd. US-Dollar erreichen werden, ein Plus von 63,4 % gegenüber rund 39 Mrd. US-Dollar 2025 — ein Zeichen dafür, dass Unternehmen vom Experimentieren zur skalierten, budgetierten Deployment übergehen.

Das sind keine kleinen Zahlen, die in einer Nische versteckt sind. Das ist Infrastruktur-Geld. Und Infrastruktur-Geld fließt zu dem, der das Harness besitzt.

Die Open-Akteure

Wenn Sie zur Fraktion „Open ist die eigentliche Revolution“ gehören, dann ist die gute Nachricht, dass 2025–2026 eine historische Phase für offene Gewichte und Open-Source-Agenten war. Einige Eckpfeiler:

Hermes Agent von Nous Research. Das sauberste Beispiel für ein vollständig offenes Harness. Es handelt sich um ein Agenten-Framework, das auf offenen Gewichten (Hermes, DeepSeek, Qwen, Llama — je nachdem, worauf Sie es ausrichten) läuft und das Vehikel ist, mit dem viele Beiträge auf dieser Website erstellt wurden. Das Repository finden Sie unter github.com/NousResearch/hermes-agent. Offenes Harness, offene Modelle, kein Gatekeeper. Hier wird das Argument Modell vs. Harness konkret: Nous entwickelt exzellente offene Gewichte, und Hermes Agent ist das Chassis, das sie in Arbeit verwandelt.

Die Open-Weights-Modelle von DeepSeek. DeepSeek-V3 ist der Referenzpunkt dafür, warum „man Milliarden braucht, um Frontier-Modelle zu trainieren“ kein vollständiger Satz mehr ist. Aus dem technischen Bericht zu DeepSeek-V3: Es handelt sich um ein Mixture-of-Experts-Modell mit 671 Mrd. Parametern insgesamt (37 Mrd. pro Token aktiviert), und der gesamte Trainingslauf (Pre-Training, Kontexterweiterung, Fine-Tuning) erforderte nur 2,788 Mio. H800-GPU-Stunden. Bei einem gängigen Preis von 2 US-Dollar pro GPU-Stunde ergibt das etwa 5,6 Mio. US-Dollar für den gesamten Trainingslauf — vergleichen Sie das mit den Hunderten Millionen, die oft mit Frontier-Training in Verbindung gebracht werden. Zwei Einschränkungen, die in der Berichterstattung meist unterschlagen werden und die Sie nicht außer Acht lassen sollten: (1) Die Zahl umfasst nur die GPU-Compute-Kosten, nicht die Forscher:innen, Datenaufbereitung, die Forschung, die zur Architektur führte, oder die RL-Phasen; und (2) sie wurde von einigen externen Beobachter:innen genau aus diesem Grund als irreführend bezeichnet. Doch selbst mit diesen Einschränkungen hat die Zahl im Jänner 2025 die gesamte Diskussion über die Kosten von Frontier-Modellen neu geprägt und bleibt die meistzitierte Zahl zur Ökonomie offener Gewichte.

Das Open-Ökosystem. Es ist nicht nur ein einzelner Champion. Der Stack ist reichhaltig und reift heran:

• GraphRAG (Microsoft, github.com/microsoft/graphrag) — graphenbasiertes Retrieval für RAG, sodass ein Harness Antworten in echten Beziehungen verankern kann, nicht nur in Keyword-Treffern.
• Neo4j — die Property-Graph-Datenbank, die graphbasiertes Retrieval ermöglicht.
• Text2CypherRetriever — ermöglicht es dem Modell, Cypher-Abfragen gegen den Graphen zu generieren und verwandelt ein Sprachmodell so in eine Abfrage-Engine.
• Ollama (github.com/ollama/ollama, ~179k Sterne) — die einfachste Methode, offene Gewichte lokal auszuführen; ein Befehl, ein lokaler OpenAI-kompatibler Endpunkt, keine Cloud.
• LM Studio — eine ausgereifte Desktop-Laufzeitumgebung für den Offline-Betrieb lokaler Modelle.
• Mem0 (github.com/mem0ai/mem0, ~64k Sterne) und Honcho (github.com/plastic-labs/honcho) — offene Memory-Layer, die Agenten langfristige Persistenz statt eines leeren Zustands bei jedem Durchlauf bieten.
• Composio (github.com/ComposioHQ/composio, ~30k Sterne) — eine offene Tool-/Action-Layer, die Agenten mit hunderten externen Anwendungen verbindet.
• OpenCode (github.com/anomalyco/opencode, ~200k Sterne) — ein offener, terminalbasierter Coding-Agent, der mit jedem Modell läuft, einschließlich lokaler Varianten.

Es geht nicht darum, jedes Repository aufzuzählen. Es geht darum, dass die Open-Source-Seite mittlerweile jede Ebene des Stacks abdeckt — Modelle, Harness, Werkzeuge, Memory, Graph, lokale Inferenz — gepflegt von echten, identifizierbaren Teams, größtenteils unter Apache-/MIT-Lizenz und auditierbar. Nichts ist eine Blackbox, der man blind vertrauen muss.

Die geschlossenen Anbieter

Die geschlossene Seite wird von den beiden Coding-Agenten dominiert, die die Kategorie geprägt haben, sowie von den Harnesses rund um die Frontier-APIs.

Claude Code von Anthropic (github.com/anthropics/claude-code, ~143k Sterne). Der derzeit bekannteste Harness weltweit. Er baut auf Anthropics Frontier-Modellen auf, ist tief in Terminal und Code integriert, und sein Marketing war aggressiv und erfolgreich. Nutzer:innen zahlen echte Geldbeträge für Claude-Code-Abos, weil der Harness echte Arbeit leistet.

OpenAI Codex (github.com/openai/codex, ~117k Sterne). OpenAIs Antwort, ummantelt von GPT-Serien-Frontier-Modellen, ebenfalls terminalbasiert und in der Lage, Code auszuliefern. OpenAIs Strategie besteht darin, den Harness wie das naheliegendste Werkzeug wirken zu lassen, wenn man ohnehin schon für OpenAI zahlt.

Das Muster ist auf beiden Seiten identisch: geschlossener Harness = ein Anbieter besitzt Modell + Harness + die Tool-Integration + die Daten. Man mietet das gesamte Auto vom Händler, und der Händler kann Motor, Lenkung oder Preis jederzeit ändern.

Open Source vs. Closed Source: Der direkte Vergleich

Diese Entscheidung wird Ihre Organisation tatsächlich treffen müssen. Hier sind die acht relevanten Kriterien im direkten Vergleich.

1. Kosten. Open: Sie zahlen für Rechenleistung und Personal; das Modell läuft auf Ihrer Hardware, die Grenzkosten pro Durchlauf nähern sich null, sobald Sie die Geräte besitzen. Closed: Sie mieten ein Preismodell pro Token/pro Arbeitsplatz — für immer; mit steigender Nutzung steigt auch Ihre Rechnung, und der Anbieter legt die Tarife fest.

1. Datenschutz. Open: Daten bleiben auf Ihrer Hardware; Sie können air-gapped arbeiten. Closed: Daten werden über die Cloud des Anbieters übertragen; alles, was das Modell sieht, befindet sich operativ im Rechenzentrum des Anbieters.

1. Portabilität. Open: Sie können Modelle verschieben, Engines austauschen und die Infrastruktur behalten. Sie sind nicht gebunden. Closed: Die Infrastruktur ist auf ein Modell abgestimmt; ein Wechsel des Modells bedeutet, die Infrastruktur zu wechseln und die Werkzeuge neu aufzubauen.

1. Kontrolle/Auditierbarkeit. Open: Sie können den Code lesen, ihn anpassen, selbst hosten und genau wissen, was er tut — wichtig für regulierte Branchen. Closed: Blackbox; Sie sind auf die Zusagen und die Roadmap des Anbieters angewiesen.

1. Innovationstempo. Closed gewinnt hier. Anthropic und OpenAI liefern wöchentlich polierte Features, gestützt auf enorme Entwicklungsbudgets. Das Open-Source-Ökosystem holt schnell auf, aber es ist ein Marathon, der von der Community getragen wird — kein Sprint.

1. Support. Auch hier gewinnt Closed: ein Anbieter, SLAs, ein Support-Kanal, eine Roadmap, an die Sie den Anbieter binden können. Open: Community-Foren, das Repository und Ihr eigenes Team — gut, wenn Sie es haben, ein Problem, wenn nicht.

1. Leistungsobergrenze. Stand Ende 2025 halten die führenden Closed-Modelle in puncto reiner Intelligenz, insbesondere bei komplexen Schlussfolgerungen und langfristigen Aufgaben, noch einen echten Vorsprung. Die Lücke schließt sich jedoch jedes Quartal, und für viele alltägliche Aufgaben ist sie bereits akademisch.

1. Risikoprofil. Open = technologisches Risiko (die Infrastruktur kann sich verändern), aber geringes Anbieterrisiko. Closed = Sie tauschen technologisches Risiko gegen Anbieterabhängigkeit: eine Preiserhöhung, eine API-Änderung oder ein Modell, das Ihnen nicht gefällt, wird zum Geschäftsproblem, nicht nur zu einem technischen.

Es gibt keinen universellen Sieger. Die richtige Antwort lautet: „Es kommt darauf an, welche Achse Ihre Organisation am meisten fürchtet.“

Deploy-Strategien

Sie müssen nicht alles auf eine Karte setzen. Pragmatische Organisationen setzen auf diese vier Muster:

• Hybride Stacks. Nutzen Sie Closed-Frontier-Modelle dort, wo Sie die letzten 5 % an Intelligenz benötigen, aber setzen Sie für alles andere auf Open-Modelle und Open-Infrastrukturen — wobei Open-Modelle die volumenstarken, datenschutzkritischen oder kostensensitiven Aufgaben übernehmen. Das ist mittlerweile der Standard in professionellen Umgebungen.
• Agent-Plattformen. Kaufen oder bauen Sie die Infrastruktur als Plattform und behandeln Sie Modelle als austauschbare Engines. Das ist der größte strategische Hebel: Die Infrastruktur gehört Ihnen, Modelle kommen und gehen darunter.
• Lokale Inferenz mit Ollama / LM Studio. Für datenschutzkritische oder air-gapped-Umgebungen führen Sie offene Gewichte lokal aus. Die Daten verlassen nie das System, und die Kostenstruktur ist vorhersehbar.
• Der „fertige“ digitale Mitarbeiter. Hier erreicht die Revolution alle — nicht nur Ingenieur:innen. Ein fertiger Agent — ein „digitaler Mitarbeiter“ — lässt sich von einer kompetenten Integrator:in für einmalige Kosten im niedrigen vierstelligen Bereich einrichten: 500 bis 5.000 Dollar Setup pro Agent, danach läuft er weiter. Bei diesem Preis verschiebt sich die Frage für Unternehmen von „Ist Automatisierung leistbar?“ zu „Welche Arbeit wird tatsächlich abgegeben?“

Die Perspektive

Einige Entwicklungen, auf die es sich zu setzen lohnt.

Die Integrator-These von Mark Cuban. Cuban hat im Wesentlichen gesagt, dass der Wert nicht im Modell liegt — sondern darin, zu wissen, wie man die Technologie auf ein Geschäftsproblem anwendet. Die großen Erfolge werden Integrator:innen und Fachexpert:innen zufallen, die Standard-Engines und -Harnesses nutzen und sie auf konkrete Geschäftsprobleme ausrichten, nicht denen, die das nächste Weight-Update besitzen. Wenn der Harness das Auto ist, dann ist die Integrator:in die Mechaniker:in und die Fahrer:in.

Der digitale Mitarbeiter für 500–5.000 €. Der Markt für schlüsselfertige Lösungen reift: Agenten werden als Produkte mit Einrichtung verkauft, ähnlich wie Beratung, bleiben dann aber und erledigen die Arbeit. Das führt zu einer massiven Umstrukturierung der Kompetenzen im Unternehmen: weniger Personal für Routineaufgaben, mehr für Definition, Überwachung und Korrektur von Agenten.

Hybride Stacks werden zum Standard. Nur wenige Organisationen werden vollständig offen oder vollständig geschlossen arbeiten. Der sinnvolle Standard ist ein Hybrid: offene Modelle und Harnesses für Kontrolle und Kosten, geschlossene Frontier-Modelle dort, wo die marginale Intelligenz den Preis wert ist.

Agenten-Metriken werden zur Disziplin. Sobald Agenten 15 % der Entscheidungen autonom treffen, ist Governance alles: Audit-Trails, Evaluations-Harnesses, Fallbacks, Guardrails. Die Organisationen, die erfolgreich sein werden, sind diejenigen, die den Harness als zu verwaltende Infrastruktur behandeln — nicht als glänzendes Demo-Objekt.

Warum jede Mitarbeiter:in das verstehen muss

Das ist kein Thema nur für Techniker:innen. Ihre Mitarbeiter:innen an der Front sind diejenigen, die Arbeit an einen Agenten übergeben und beurteilen müssen, ob dessen Output vertrauenswürdig ist. Sie brauchen ein mentales Modell davon, was der Agent kann und was nicht, und sie müssen den Unterschied zwischen dem Mieten eines Autos von einem Anbieter und dem Besitz kennen. Wenn eine Mitarbeiter:in sagt „die KI hat einen Fehler gemacht“, sollte die erste Frage lauten: War das ein Modellversagen oder ein Harness-Versagen? Das sind unterschiedliche Fehler mit unterschiedlichen Lösungen, und nur wer beides versteht, kann sie auseinanderhalten. Kompetenz hier ist keine Luxusfrage — sie ist eine Risikokontrollfähigkeit.

Warum es für den öffentlichen Sektor wichtig ist

Der öffentliche Sektor funktioniert über Beschaffung, Compliance und Datenschutz. Für eine öffentliche Stelle, die zuverlässige, auditierbare und rechtlich belastbare automatisierte Prozesse benötigt, ist die Wahl zwischen offen und geschlossen nicht neutral. Offene Gewichte und offene Harnesses ermöglichen es, das System zu inspizieren, Bürgerdaten auf eigener Hardware zu halten und die Entscheidungs-Pipeline zu auditieren. Geschlossene Systeme verlagern Daten und Entscheidungsfindung in die Cloud eines Anbieters, was rechtliche und Vertrauensprobleme schafft, die eine öffentliche Institution nicht einfach ignorieren kann. Wenn ein Modell in einen staatlich vorgeschriebenen, regulierten Prozess eingebunden werden soll, muss man erklären können, was es tut und warum. Das ist mit einem offenen, auditierbaren Harness weitaus einfacher als mit einer Blackbox.

Das Fazit

Die Engine-Kriege haben alle Aufmerksamkeit bekommen; der Harness-Krieg entscheidet, wer die Straße besitzt. Organisationen, die KI als „Abonnement des klügsten Modells“ betrachten, werden feststellen, dass sie ihr gesamtes Fahrzeug von einem Anbieter mieten, der die Bedingungen jeden Monat ändern kann. Organisationen, die ihren eigenen Harness aufbauen oder kaufen — und Modelle als austauschbare Engines behandeln — behalten die Straße. Die offene Revolution ging nie wirklich um das Modell. Es ging immer darum, wer fährt.

Quellen

• Precedence Research, „AI Agents Market Size, Share and Trends 2026 to 2035“ — AI-Agents-Markt 7,92 Mrd. US$ (2025) → 294,66 Mrd. US$ (2035), CAGR 43,57 %. https://www.precedenceresearch.com/ai-agents-market
• Precedence Research, „Agentic AI Market Size, Share and Trends 2025 to 2034“ — agentische KI 5,25 Mrd. US$ (2024), 7,55 Mrd. US$ (2025) → 199,05 Mrd. US$ (2034), CAGR 43,84 %. https://www.precedenceresearch.com/agentic-ai-market
• Gartner (via The Economic Times / CIO ET reporting), „Gartner forecasts AI will make 15% of work decisions autonomously by 2028“ — https://cio.economictimes.indiatimes.com/news/enterprise-services-and-ai/from-hype-to-horizon-preparing-the-workplace-for-the-data-ai-and-quantum-convergence/... ; bestätigt in Gartner-Pressemeldung „Gartner Forecasts AI Will Autonomously Complete 15% of Day-to-Day Work Decisions by 2028“ (März 2025).
• Gartner (via Pressemeldung „Global AI platforms and models market to grow 63% to $64 billion in 2026“), weltweite Endnutzerausgaben für KI-Plattformen & -Modelle bei 64 Mrd. US$ in 2026, +63,4 % gegenüber 39 Mrd. US$ in 2025. https://www.thehindubusinessline.com/info-tech/global-ai-platforms-and-models-market-to-grow-63-to-64-billion-in-2026-gartner/article71244644.ece
• DeepSeek-AI, DeepSeek-V3 Technical Report, arXiv:2412.19437 — 671B params MoE (37B aktiviert); 2,788M H800-GPU-Stunden für vollständiges Training. https://arxiv.org/abs/2412.19437
• Wikipedia, DeepSeek-V3 — Trainingskosten-Tabelle: insgesamt 2.788K GPU-Stunden ≈ 5,576 Mio. US-Dollar, mit dem Hinweis „Kostenangabe irreführend“. https://en.wikipedia.org/wiki/DeepSeek-V3
• Europäische Kommission, Regulierungsrahmen für KI (AI Act) — in Kraft getreten am 1. August 2024; Verbote 1–8 ab Februar 2025; GPAI-Regeln wirksam ab August 2025; Transparenzregeln wirksam ab August 2026; Pflichten für Hochrisiko-KI; Anforderungen an menschliche Aufsicht. https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
• Europäisches Parlament, „EU AI Act: first regulation on artificial intelligence“ — Verbot inakzeptabler Risiken ab 2. Februar 2025; Transparenzregeln für GPAI 12 Monate nach Inkrafttreten; Hochrisiko-Pflichten 36 Monate nach Inkrafttreten (August 2027). https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence
• Wikipedia, Artificial Intelligence Act — in Kraft getreten am 1. August 2024 (ABl. L 2024/1689, 12.7.2024); Strafen bis zu 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes. https://en.wikipedia.org/wiki/Artificial_Intelligence_Act
• GitHub — Nous Research Hermes Agent (offenes Framework). https://github.com/nousresearch/hermes-agent
• GitHub — Anthropic Claude Code (Framework, ~143k Sterne). https://github.com/anthropics/claude-code
• GitHub — OpenAI Codex (Framework, ~117k Sterne). https://github.com/openai/codex
• GitHub — OpenCode (offener Coding-Agent, ~200k Sterne). https://github.com/anomalyco/opencode
• GitHub — Ollama (Laufzeitumgebung für lokale Modelle, ~179k Sterne). https://github.com/ollama/ollama
• LM Studio — Offline-Desktop-Laufzeitumgebung für offene Modelle. https://lmstudio.ai
• GitHub — Microsoft GraphRAG (graphbasiertes Retrieval, ~36.000 Sterne). https://github.com/microsoft/graphrag
• GitHub — Mem0 (offene Memory-Schicht, ~64.000 Sterne). https://github.com/mem0ai/mem0
• GitHub — Plastic Labs Honcho (offene Memory/Personas). https://github.com/plastic-labs/honcho
• GitHub — Composio (offene Tool-/Aktionsbibliothek, ~30.000 Sterne). https://github.com/ComposioHQ/composio
• AI Act Explorer (Future of Life Institute) — Struktur des AI Act inkl. Artikel 5 Verbote, Artikel 6 Hochrisiko-Klassifizierung, Artikel 8+. https://artificialintelligenceact.eu/ai-act-explorer/