Context Engineering: KI-Fundament im Mittelstand
Zusammenfassung: Context Engineering ist die strukturierte Aufbereitung von Unternehmenswissen, damit KI-Systeme es zuverlässig nutzen können. Es umfasst fünf Phasen: Datenharmonisierung, Query-Analyse, Retrieval & Re-Ranking, Halluzinations-Validierung und transparente Quellenangaben. Im Mittelstand mit über zehn Datensilos ist Context Engineering die Voraussetzung dafür, dass KI-Agenten produktiv arbeiten – nicht das LLM selbst.
Die meisten KI-Debatten drehen sich aktuell um die Frage, welches Modell den längsten Atem hat. Ist es GPT-4? Claude 3.5 Sonnet? Oder doch das neueste Llama? Doch die Wahrheit ist: Das Modell ist am Ende nur die Engine. Und eine Engine ohne Treibstoff bringt dich nicht ans Ziel.
In der Welt der Enterprise-KI heißt dieser Treibstoff Kontext.
Daniel Claessen, unser Senior Manager AI Solutions bei OPEN, hat es auf dem Kundentag auf den Punkt gebracht: Context Engineering ist das unsichtbare Fundament, auf dem echte Business-Cases stehen oder fallen. Wenn du willst, dass eine KI für dein Unternehmen arbeitet und nicht nur nette Gedichte schreibt, musst du das Thema Kontext meistern.
Das Dilemma: Die KI weiß nicht, wer du bist
Ein LLM (Large Language Model) ist wie ein*e neue*r Expert*in, der das gesamte Internet gelesen hat, aber am ersten Arbeitstag in deiner Firma steht und keinen Zugriff auf das interne Laufwerk hat. Er kennt deine Produkte nicht, er weiß nichts über deine Servicetickets von letzter Woche und er hat keine Ahnung, wie deine spezifische Unternehmensrichtlinie aussieht.
Im deutschen Mittelstand verschärft sich das Problem: Relevante Infos liegen meistens in über 10 verschiedenen Silos. SQL-Datenbanken, CRMs, PDFs, Mail-Verläufe und irgendwo noch eine verwaiste Excel-Tabelle.
Die bittere Pille: Du kannst nicht einfach dein gesamtes Firmenwissen (oft hunderte Millionen Tokens) in den Prompt werfen. Das wäre technisch instabil und finanziell ruinös. Eine einzige Anfrage könnte dich locker 500 $ kosten. Die Lösung? Context Engineering.
Die 5 Phasen: So baust du die Brücke zwischen Daten und Intelligenz
Wir bei OPEN haben einen Prozess etabliert, der sicherstellt, dass die KI exakt das weiß, was sie für die Lösung eines Problems braucht – nicht mehr und nicht weniger.
1. Befreie deine Daten (Harmonisierung)
Zuerst ziehen wir die Daten aus ihren Silos. Wir wandeln PDFs, XMLs und Datenbankeinträge in ein Format um, das die KI liebt: Markdown. Hier werden die Infos in „Chunks“ zerlegt, die wir später gezielt abrufen können.
2. Verstehe die Absicht (Query Analysis)
Wenn du eine Frage stellst, nehmen wir sie erst mal auseinander. Suchst du nach einem Produkt? Einem Fehlercode? Oder einem historischen Projektdatum? Wir analysieren die semantische Bedeutung hinter deinen Worten.
3. Der Deep Dive (Retrieval & Re-Ranking)
Jetzt kommt die Magie: Wir durchsuchen deine Wissensbasis nach den relevantesten Schnipseln. Dabei nutzen wir eine hybride Suche (Vektor- und Keyword-Suche). Ein Re-Ranking-Modell sortiert dann die Ergebnisse, damit die KI wirklich nur die Top-Treffer für die Antwort nutzt.
4. Der Faktencheck
Halluzinationen sind der Albtraum jeder Business-KI. Deshalb lassen wir die Antwort validieren. Ein zweites Modell prüft: „Steht das, was du gerade behauptest, wirklich in der Quelle?“ Wenn nicht, wird die Antwort korrigiert oder verworfen.
5. Transparenz schafft Vertrauen
Du bekommst nie nur eine Antwort, sondern immer auch den Beleg. „Die Lösung steht in Service-Handbuch XY auf Seite 42.“ So behältst du immer die Kontrolle.
Praxis-Check: Der „NEW LIFT“ Use Case
Wie das in der Realität aussieht, zeigt der Use Case des Unternehmens NEW LIFT, einem Spezialisten für Aufzugssteuerung. Gemeinsam mit uns wurde „Newton“ entwickelt. Ein KI-Managementsystem, das auf über 201 Millionen Tokens aus fünf verschiedenen Quellen zugreift (darunter 4.500 Produktdatenblätter und 50.000 SQL-Einträge). Newton hilft Techniker*innen bei komplexen Fragen zur Steuerungstechnik, indem er automatisch die richtigen Dokumente durchsucht und verifizierte Antworten liefert.
Ausblick: Die Vision der „Company 2.0“
Context Engineering ist kein Selbstzweck. Es ist die Vorbereitung auf eine Welt, in der KI-Plattformen zum Betriebssystem des Unternehmens werden.
In der „Company 2.0“ agieren spezialisierte Agenten als digitale Mitarbeitende. Ein CEO-Agent delegiert Aufgaben an einen CTO-Agenten (z. B. mittels Cursor) oder einen CMO-Agenten. Diese Agenten:
- Besitzen eigene Rollen und Guardrails.
- Verfügen über eigene Budgets in Form von Tokens.
- Speichern ihre Erfahrungen direkt wieder in der Wissensdatenbank ab, sodass das System kontinuierlich lernt.
Fazit: Ist dein Unternehmen bereit?
Die Herausforderung der nächsten fünf Jahre liegt nicht darin, das klügste Modell zu finden, sondern die beste Wissensarchitektur zu bauen. Die zentrale Frage für Entscheider*innen lautet: Zahlen die aktuellen IT-Projekte bereits auf diese Roadmap ein?
Bereit für deinen Context-Engineering-Sprint?
Wir helfen dir dabei, die Wissensarchitektur deines Unternehmens KI-fähig zu machen, in der Regel innerhalb von 100 Tagen vom Konzept bis zum produktiven Agenten.
Sprich mit Daniel Claessen über deinen Use Case.
Häufige Fragen FAQ
Stell dir vor, du hast einen hochintelligenten Experten (die KI), der aber leider unter Gedächtnisverlust leidet, was deine Firma angeht. Context Engineering sorgt dafür, dass dieser Experte genau im richtigen Moment die richtige Akte aus deinem Archiv auf den Tisch bekommt. Es ist die Kunst, deine verstreuten Unternehmensdaten (PDFs, Datenbanken, Mails) so aufzubereiten und zu filtern, dass die KI sie versteht und als Basis für ihre Antworten nutzt. Ohne Kontext rät die KI – mit Context Engineering weiß sie Bescheid.
Klassische KI-Implementierung konzentriert sich oft darauf, ein Modell für eine spezifische Aufgabe zu trainieren oder es „out-of-the-box“ zu nutzen. Das Problem: Das Modell bleibt statisch auf dem Stand seines Trainings. Context Engineering hingegen baut eine dynamische Brücke. Wir verändern nicht das Gehirn der KI (das Training), sondern wir geben ihr „Augen“ für deine Live-Daten. Es ist flexibler, kostengünstiger und vor allem sicherer, weil die KI nur mit den Informationen arbeitet, die du ihr explizit zur Verfügung stellst.
Bei OPEN setzen wir auf einen modernen Tech-Stack, um das Wissen flüssig zu machen:
- Vektordatenbanken (z. B. Pinecone oder Milvus): Hier speichern wir die „Fingerabdrücke“ deiner Daten für die blitzschnelle Suche.
- Frameworks wie LangChain oder LlamaIndex: Das sind die Werkzeuge, mit denen wir die Logik zwischen deinen Daten und dem Sprachmodell bauen.
- Modelle für das Re-Ranking: Damit sortieren wir die Suchergebnisse, damit wirklich nur der wichtigste Content im Prompt landet.
- Custom Agents: Spezialisierte Tools (wie unser Newton), die den gesamten Prozess orchestrieren.
Wir bei OPEN sind keine Fans von jahrelangen Wasserfall-Projekten. Unser Ziel ist Geschwindigkeit ohne Qualitätsverlust. In der Regel dauert es von der ersten Discovery über die Roadmap bis hin zum ersten produktiven KI-Agenten gerade mal 100 Tage. So siehst du schnell echte Ergebnisse, statt nur PowerPoint-Folien zu wälzen.
Mit einem Klick auf Social Media teilen
Kontakt. Auf Augenhöhe.
Sie sehen gerade einen Platzhalterinhalt von HubSpot. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf die Schaltfläche unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.
Mehr Informationen