Advanced
← Zurück zur Übersicht
Expert Advanced 60 Min

Graph RAG und Knowledge Graphs mit KI

Von klassischem RAG zu Agentic Graph RAG: Lernen Sie, wie Knowledge Graphs Beziehungswissen strukturieren und KI-Antworten auf ein neues Qualitätsniveau heben. Mit LazyGraphRAG, LightRAG, Neo4j und Graphiti.

Visual Summary

Klicken zum Vergrößern

Graph RAG und Knowledge Graphs mit KI - Sketchnote

Graph RAG und Knowledge Graphs mit KI

Lektion 1: Warum klassisches RAG an seine Grenzen stößt

Lernziel: Nach dieser Lektion können Sie die drei systematischen Schwächen von Vector RAG benennen und erklären, warum Beziehungswissen für komplexe Unternehmensanfragen unverzichtbar ist.

Retrieval Augmented Generation (RAG) hat sich als Standardverfahren etabliert, um Large Language Models mit aktüllem, unternehmensspezifischem Wissen zu versorgen. Das Prinzip klingt elegant: Dokumente werden in Vektoren umgewandelt, in einer Vektordatenbank gespeichert und bei einer Anfrage werden die relevantesten Textpassagen als Kontext an das Modell übergeben.

Doch wer RAG-Systeme in der Praxis betreibt, stößt schnell auf drei systematische Schwächen.

Schwäche 1: Fehlende Beziehungsintelligenz

Vektordatenbanken finden Textpassagen, die semantisch ähnlich zur Anfrage sind. Aber sie verstehen keine Zusammenhänge zwischen Entitäten. Ein Beispiel: Die Frage „Welche Projekte hat Frau Müller im letzten Quartal geleitet, die mit dem Kunden Bosch zu tun hatten?" erfordert die Verbindung zwischen einer Person, mehreren Projekten, einem Zeitraum und einem Kunden. Ein reines Vektor-RAG findet möglicherweise Dokumente über Frau Müller und andere über Bosch, versteht aber die strukturelle Beziehung zwischen diesen Entitäten nicht.

Schwäche 2: Multi-Hop-Reasoning versagt

Wenn die Antwort Informationen aus mehreren Dokumenten kombinieren muss, die nicht direkt miteinander verknüpft sind, scheitert klassisches RAG. Die Frage „Welcher Abteilungsleiter hat das größte Budget für externe Berater?" erfordert Wissen über Organisationsstrukturen, Budgetzuweisungen und Vertragspartner, verteilt über viele Dokumente.

Aktülle Benchmarks bestätigen das Problem: Laut dem Diffbot KG-LM Accuracy Benchmark (2025) erreicht Vector RAG nur 56,2% Genauigkeit bei Unternehmensabfragen. Bei Anfragen mit mehr als fünf beteiligten Entitäten bricht die Genauigkeit nahezu vollständig ein.

Schwäche 3: Keine globale Übersicht

Fragen wie „Was sind die Hauptthemen in unseren Kundenreklamationen der letzten sechs Monate?" kann Vector RAG nicht beantworten, weil es nur einzelne Dokumente findet, aber keine Zusammenfassung über Tausende von Einträgen erstellen kann.

> Kernaussage: Vector RAG findet ähnliche Textstellen. Was es nicht kann: Beziehungen zwischen Entitäten verstehen, Informationen über mehrere Dokumente hinweg verknüpfen und globale Übersichten liefern. Genau hier setzen Knowledge Graphs und Graph RAG an.


Reflexionsfrage: Denken Sie an Ihr eigenes Unternehmen oder Projekt. Welche Fragen stellen Ihre Mitarbeiter oder Kunden, die Beziehungswissen zwischen mehreren Entitäten erfordern? Notieren Sie drei konkrete Beispiele.


Lektion 2: Knowledge Graphs: Wissen als Netzwerk verstehen

Lernziel: Nach dieser Lektion können Sie das Konzept eines Knowledge Graphs erklären, die drei Grundbausteine (Knoten, Kanten, Properties) benennen und ein einfaches Beispiel aus dem Unternehmenskontext skizzieren.

Ein Knowledge Graph ist eine Datenstruktur, die Wissen als Netzwerk aus Knoten und Kanten darstellt. Knoten repräsentieren Entitäten (Personen, Unternehmen, Produkte, Konzepte), während Kanten die Beziehungen zwischen ihnen beschreiben. Diese Darstellungsform entspricht viel stärker der Art, wie Menschen denken und Zusammenhänge verstehen, als eine flache Sammlung von Textfragmenten.

Das bekannteste Beispiel

Die bekannteste Anwendung eines Knowledge Graphs nutzt jeder täglich, ohne es zu wissen: Googles Knowledge Panel. Wenn Sie nach „Albert Einstein" suchen, zeigt Google nicht nur Webseiten an, sondern strukturierte Informationen über Geburtsort, Nobelpreis, Relativitätstheorie und verwandte Personen. All diese Informationen sind als Graph gespeichert und können über Kanten traversiert werden.

Vom einfachen zum Property Graph

Im Unternehmenskontext funktioniert das Prinzip genauso: Mitarbeiter, Projekte, Kunden, Produkte, Standorte und Kompetenzen werden als Knoten modelliert, ihre Beziehungen als Kanten.

Seit 2025 haben sich Property Graphs als Standard durchgesetzt. Anders als einfache Knowledge Graphs erlauben Property Graphs Attribute sowohl auf Knoten als auch auf Kanten:

BestandteilEinfacher GraphProperty Graph
Knoten„Dr. Schmidt"„Dr. Schmidt" (Rolle: CTO, seit: 2020)
Kante„leitet"„leitet" (seit: Q1 2024, Budget: 2,5 Mio. EUR)
AbfrageWer leitet was?Wer leitet was, seit wann, mit welchem Budget?

Die technische Umsetzung erfolgt typischerweise mit Graphdatenbanken wie Neo4j, die die Abfragesprache Cypher verwenden. Eine Abfrage wie „Finde alle Projekte, an denen Entwickler mit Python-Expertise und Berater mit Branchenwissen Automotive beteiligt sind" lässt sich in Cypher elegant formulieren. In einer relationalen Datenbank würde dieselbe Abfrage mehrere komplexe JOINs erfordern und deutlich langsamer laufen.

Warum Graphdatenbanken schneller sind

Der entscheidende Vorteil von Graphdatenbanken liegt in der Traversierung: Das Folgen von Beziehungspfaden ist ihre Kernkompetenz. Während relationale Datenbanken bei jeder Verbindung einen aufwändigen JOIN durchführen müssen, springt eine Graphdatenbank direkt von Knoten zu Knoten. Bei Abfragen über drei oder mehr Beziehungsebenen wird der Geschwindigkeitsvorteil dramatisch.

> Zusammenfassung Lektion 2: > - Knowledge Graphs modellieren Wissen als Netzwerk aus Knoten (Entitäten) und Kanten (Beziehungen) > - Property Graphs erweitern das Konzept um Attribute auf Knoten und Kanten > - Graphdatenbanken wie Neo4j sind für Beziehungsabfragen optimiert > - Die Abfragesprache Cypher ermöglicht intuitive Graph-Traversierung


Lektion 3: Graph RAG: Das Beste aus beiden Welten

Lernziel: Nach dieser Lektion können Sie den Ablauf eines Graph-RAG-Systems beschreiben und die vier Architekturtypen (Naive RAG, Advanced RAG, Graph RAG, Agentic Graph RAG) voneinander abgrenzen.

Graph RAG kombiniert die semantische Suchfähigkeit von Vektor-RAG mit dem strukturierten Beziehungswissen von Knowledge Graphs. Statt sich für einen der beiden Ansätze entscheiden zu müssen, nutzt Graph RAG beide komplementär und überwindet so die jeweiligen Schwächen.

So funktioniert Graph RAG

Der Ablauf bei einer Anfrage sieht typischerweise so aus:

  1. Frage analysieren: Relevante Entitäten und gesuchte Beziehungen werden identifiziert
  2. Zwei Suchpfade parallel aktivieren:
  • Der Vektor-Pfad findet semantisch relevante Textpassagen
  • Der Graph-Pfad traversiert den Knowledge Graph für strukturierte Beziehungsinformationen
  1. Ergebnisse zusammenführen: Beide Kontexte werden kombiniert
  2. Antwort generieren: Das Language Model erhält den erweiterten Kontext und generiert eine fundierte Antwort

Die vier RAG-Architekturtypen im Vergleich

Die RAG-Landschaft hat sich 2025/2026 stark weiterentwickelt. Heute lassen sich vier Architekturtypen unterscheiden:

ArchitekturFunktionsweiseStärkeSchwächeTypischer Einsatz
Naive RAGText in Chunks aufteilen, vektorisieren, per Ähnlichkeit abrufenSchnell, günstig, einfachScheitert an Multi-Hop-FragenFAQ-Bots, einfache Dokumentensuche
Advanced RAGHybrid Search, Reranking, dynamisches ChunkingHöhere PräzisionVersteht keine BeziehungenUnternehmenssuche mit heterogenen Quellen
Graph RAGEntity-Extraktion in Knowledge Graph, Community Detection, hierarchische ZusammenfassungenMulti-Hop-Reasoning, globale FragenHöhere IndexierungskostenCompliance, Forschung, komplexe Wissensdomänen
Agentic Graph RAGGraph RAG mit autonomen Agenten, iterativer Navigation, Tool-NutzungMaximale Adaptivität, persistentes GedächtnisHohe Latenz, komplexe OrchestrierungAutonome Assistenten, Multi-Step-Workflows

Microsofts Beitrag: Der GraphRAG-Standard

Microsoft hat 2024 mit dem Open-Source-Projekt „GraphRAG" einen entscheidenden Impuls gesetzt. Ihr Ansatz nutzt LLMs, um automatisch Knowledge Graphs aus unstrukturierten Dokumenten zu extrahieren, und führt dann Community-Detection-Algorithmen (Leiden-Algorithmus) aus, um thematische Cluster zu bilden. Diese Cluster werden auf verschiedenen Abstraktionsebenen zusammengefasst, was besonders bei Überblicksfragen hilft.

Seitdem hat sich viel getan: GraphRAG 2.0 (2025/2026) brachte eine neuronale Entity-Extraktion mit 92% Genauigkeit (vorher 78%), Hybrid Search Architecture und 25% weniger Halluzinationen. Im HotpotQA-Benchmark stieg der Exact Match Score von 52,3% auf 73,1%.

> Kernaussage: Graph RAG ist kein Ersatz für Vector RAG, sondern eine Erweiterung. Die Kunst liegt darin, den richtigen Architekturtyp für den jeweiligen Anwendungsfall zu wählen.


Übung: Ordnen Sie die folgenden Anfragen dem passenden RAG-Typ zu: (a) „Was steht in unserer Datenschutzrichtlinie zu Cookies?" (b) „Über welche Projekte sind die Abteilungen Marketing und IT miteinander verbunden?" (c) „Fasse die wichtigsten Trends aus allen 200 Kundenberichten zusammen." (d) „Analysiere unsere Lieferkette und finde alternative Zulieferer für die drei kritischsten Komponenten."

Lösung: (a) Naive/Advanced RAG, (b) Graph RAG, (c) Graph RAG mit Community Detection, (d) Agentic Graph RAG


Lektion 4: Einen Knowledge Graph aufbauen: Von Dokumenten zu Beziehungen

Lernziel: Nach dieser Lektion können Sie den dreistufigen Prozess der automatischen Knowledge-Graph-Erstellung (Entity Extraction, Relation Extraction, Graph Storage) erklären und die wichtigsten Tools für jeden Schritt benennen.

Der Aufbau eines Knowledge Graphs war früher ein aufwändiger manüller Prozess, der Experten für Ontologie-Design erforderte. Mit modernen LLMs hat sich das grundlegend geändert. Seit 2025 können Knowledge Graphs weitgehend automatisch aus vorhandenen Dokumenten extrahiert werden.

Der dreistufige Prozess

Schritt 1: Entity Extraction Ein LLM liest die Quelldokumente und identifiziert Entitäten: Personen, Organisationen, Produkte, Orte, Konzepte. GraphRAG 2.0 erreicht hier mittlerweile 92% Genauigkeit.

Schritt 2: Relation Extraction Das Modell bestimmt die Beziehungen zwischen den gefundenen Entitäten. Aus dem Satz „Dr. Schmidt leitet seit 2024 das Innovationsprojekt Smart Factory bei der Müller GmbH" extrahiert das System:

  • Entitäten: Dr. Schmidt, Smart Factory, Müller GmbH
  • Beziehungen: leitet (seit: 2024), ist_Projekt_von

Schritt 3: Graph Storage Die extrahierten Tripel (Subjekt, Prädikat, Objekt) werden in die Graphdatenbank geschrieben.

Die Tool-Landschaft 2026

Die Auswahl an Werkzeugen ist 2025/2026 stark gewachsen:

ToolStärkeKosten (500 Seiten)Besonderheit
Microsoft GraphRAGGlobale Analysen, Community Detection50 bis 200 USDReferenz-Framework, Version 3.0.8
LazyGraphRAGGleiche Qualität, minimale Kostenca. 0,05 USD1000x günstiger als Original
LightRAGInkrementelle Updates, Speedca. 0,50 USD14.100 GitHub Stars, EMNLP 2025
LlamaIndex PropertyGraphIndexEinfache Integration, Property GraphsvariabelVektorisiert Graph-Knoten direkt
Neo4j LLM Graph BuilderUI-basiert, keine ProgrammierungvariabelPDFs, YouTube, Wikipedia als Input
Graphiti (Zep AI)Temporales Agent MemoryvariabelBi-temporales Modell

LazyGraphRAG: Der Durchbruch bei den Kosten

Das größte Hindernis für Graph RAG war bisher der Preis: Für große Datensätze konnte die Vorab-Indexierung über 30.000 USD kosten, weil das gesamte Textkorpus durch ein LLM verarbeitet werden musste.

LazyGraphRAG (Microsoft, 2025) löst dieses Problem radikal: Statt Community-Zusammenfassungen bei der Indexierung zu erstellen, werden sie erst zum Zeitpunkt der Suchanfrage generiert. Die Indexierungskosten sinken um den Faktor 1.000, bei gleicher oder besserer Qualität. In Benchmarks erreicht LazyGraphRAG eine Win-Rate von 100% (96 von 96 Vergleichen) gegenüber Standard-RAG.

Ontologie-Design: Der unterschätzte Erfolgsfaktor

Trotz aller Automatisierung bleibt das Ontologie-Design kritisch. Goldman Sachs und Deloitte berichten, dass sie Wochen in das Schema-Design ihrer Knowledge Graphs investiert haben. Die LLM-gesteuerte Entity-Extraktion macht 58% der Indexierungs-Tokens aus, und die Qualität dieser Extraktion entscheidet über alles Weitere.

Bewährt hat sich: Mit einem einfachen Schema starten (5 bis 10 Entitätstypen, 10 bis 15 Beziehungstypen) und iterativ erweitern.

> Zusammenfassung Lektion 4: > - LLMs extrahieren automatisch Entitäten und Beziehungen aus Dokumenten > - LazyGraphRAG senkt die Indexierungskosten um den Faktor 1.000 > - LightRAG bietet die beste Balance aus Kosten und Qualität für den Einstieg > - Ontologie-Design bleibt der kritischste Erfolgsfaktor


Lektion 5: Entscheidungskriterien: Wann lohnt sich Graph RAG?

Lernziel: Nach dieser Lektion können Sie anhand konkreter Kriterien entscheiden, wann Vector RAG ausreicht und wann der Einsatz von Graph RAG einen messbaren Mehrwert bringt.

Die Wahl zwischen Graph RAG und klassischem Vector RAG ist keine Frage von „besser oder schlechter", sondern hängt vom konkreten Anwendungsfall ab.

Der Entscheidungsrahmen

KriteriumVector RAG reichtGraph RAG empfohlen
Anfrage-TypEinzelne Fakten suchenBeziehungen zwischen Entitäten verstehen
DokumentstrukturHomogene TexteVernetzte Informationen über viele Quellen
Entitäten pro Anfrage1 bis 3Mehr als 5
Multi-Hop nötig?NeinJa (Informationen über 2+ Schritte verknüpfen)
Globale Übersicht?NeinJa (Trends, Zusammenfassungen über viele Dokumente)
Regulatorische AnforderungenGeringHoch (Nachvollziehbarkeit, Audit-Trail)
Budget und KomplexitätBegrenztAusreichend für Graph-Infrastruktur

Branchen-Perspektive: Wo Graph RAG den größten Mehrwert liefert

Finanzwesen und Compliance: Wenn ein Compliance-Officer fragt „Welche Geschäftsbeziehungen bestehen zwischen unseren Vorstandsmitgliedern und Lieferanten?", muss das System Personennetze traversieren. Graph RAG ist hier die natürliche Datenstruktur. Goldman Sachs und Deloitte berichten von 300 bis 320% ROI bei korrekt aufgebauten Graph-Systemen.

Pharma und Life Sciences: Pfizer nutzt Knowledge Graphs im Technology Transfer (vom Labor zur Massenproduktion), um strukturierte und unstrukturierte Daten im Unternehmen zu verbinden.

E-Commerce: Microsoft kombiniert Produkt-Knowledge-Graphs mit Support-Archiven und erreicht 23% mehr faktische Genauigkeit bei 89% Nutzerzufriedenheit.

Mittelstand: Empolis zeigt Einsatzszenarien für technischen Support (Fehlerdiagnose über vernetzte Gerätetypen und Fehlercodes), Field Service (Ersatzteil-Kompatibilitätsprüfung) und vorausschauende Wartung. Wichtig: Knowledge-Graph-Investitionen rentieren sich primär bei komplexem Produktportfolio und hohem Wissensmanagement-Reifegrad.

Performance im direkten Vergleich

Die Benchmark-Ergebnisse sprechen eine klare Sprache:

MetrikVector RAGGraph RAGVorteil
Genauigkeit bei Unternehmensabfragen (Diffbot)56,2%über 90%3,4x besser
Generierungsgenauigkeit (AIMultiple)18,5%73,5%4x besser
Stabilität bei 5+ EntitätenBricht einStabilEntscheidend
Einfache FaktenabfragenGleichwertigGleichwertigKein Unterschied
Aggregation über 1000+ DokumenteNicht möglichUnter 1msNur Graph RAG

> Kernaussage: Graph RAG ist kein Allheilmittel. Bei einfachen Faktensuchen reicht Vector RAG vollkommen aus. Der Mehrwert entsteht bei Multi-Hop-Reasoning, Beziehungsabfragen und globalen Übersichten. Die Faustregel: Wenn die Antwort Verbindungen zwischen drei oder mehr Entitäten erfordert, lohnt sich Graph RAG.


Reflexionsfrage: Bewerten Sie einen konkreten Use Case aus Ihrem Unternehmen anhand der Entscheidungskriterien in der Tabelle oben. Wo fällt Ihr Szenario hin: Vector RAG ausreichend, oder Graph RAG empfohlen?


Lektion 6: Praxis-Architekturen und die Tool-Landschaft 2026

Lernziel: Nach dieser Lektion können Sie drei verschiedene Praxis-Architekturen für Graph RAG beschreiben und die richtige Starter-Architektur für Ihr Projekt auswählen.

Architektur 1: Neo4j mit LlamaIndex oder LangChain

Die am weitesten verbreitete Kombination. Neo4j bietet mit der GenAI-Integration native Unterstützung für Vektor-Embeddings direkt im Graph. Das heißt: semantische Suche und Graph-Traversierung in einer einzigen Datenbank, ohne separate Vektordatenbank.

Neues seit 2025:

  • Neo4j Aura Agent (GA seit Q4 2025): No-Code-Plattform, die KI-Agenten auf Basis eigener AuraDB-Wissensgraphen in Minuten erstellt. Agenten, Prompts und Retrieval-Tools werden automatisch aus dem Datenschema generiert.
  • Nativer MCP-Server: Neo4j lässt sich nahtlos als Tool in Multi-Agenten-Systemen nutzen (kompatibel mit LangChain, LlamaIndex, AWS AgentCore, Salesforce AgentForce).
  • Text-to-Cypher: LLMs übersetzen natürliche Sprache direkt in Cypher-Datenbankabfragen.

Investition: Neo4j hat 100 Mio. USD in GenAI-Infrastruktur investiert und bezeichnet 2025 als „Jahr der KI und Skalierbarkeit".

Architektur 2: Microsoft GraphRAG (Standalone)

Als eigenständige Open-Source-Lösung konzipiert, mit automatischer Community-Erkennung und mehrstufigen Zusammenfassungen. Die Evolution seit 2024:

  • DRIFT Search: Dynamic Reasoning and Inference with Flexible Traversal. Kombiniert lokale und globale Suche über einen Top-Down-Ansatz mit automatischen Folgefragen.
  • LazyGraphRAG: Verschiebt Community-Zusammenfassungen auf die Abfragezeit. 1.000-fache Kostenreduktion.
  • Version 3.0.8 (März 2026): Modulare Architektur, 43% weniger Speicherbedarf.

Für Unternehmen mit umfangreichen Dokumentenbeständen und dem Bedarf an Überblicksantworten ist Microsoft GraphRAG eine exzellente Wahl.

Architektur 3: LightRAG für den schnellen Einstieg

LightRAG (Universität Hongkong) hat sich mit über 14.100 GitHub Stars als kostengünstige Alternative etabliert:

  • Dual-Level Retrieval: Low-Level für spezifische Entitäten, High-Level für globale Themen
  • Inkrementelle Updates: Neue Dokumente werden ohne komplette Neuindexierung eingepflegt
  • Multimodale Datenverarbeitung: Seit 2025 auch PDFs, Bilder und Office-Dokumente
  • Kosten: 500 Seiten für ca. 0,50 USD in 3 Minuten (statt 50 bis 200 USD in 45 Minuten bei Microsoft GraphRAG)
  • Qualität: Erreicht 70 bis 90% der GraphRAG-Leistung bei einem Bruchteil der Kosten

Die pragmatische Starter-Architektur

Für den Einstieg empfiehlt sich dieser Aufbau:

  1. Dokumente laden: Mit LlamaIndex PropertyGraphIndex oder LightRAG in einen Neo4j-Graph
  2. Query-Router: Ein einfacher Agent entscheidet pro Anfrage, ob Vektor-Pfad, Graph-Pfad oder beide aktiviert werden
  3. Antwort generieren: Claude oder GPT-4o erhält den kombinierten Kontext und erstellt die Antwort

Diese Architektur lässt sich in wenigen Tagen aufsetzen und schrittweise zu einer vollständigen Agentic-Graph-RAG-Lösung erweitern.

> Zusammenfassung Lektion 6: > - Neo4j + LlamaIndex/LangChain ist die ausgereifteste Kombination > - Microsoft GraphRAG eignet sich für globale Analysen großer Dokumentenbestände > - LightRAG bietet den besten Einstieg bei minimalen Kosten > - Starten Sie pragmatisch mit einem Query-Router und erweitern Sie schrittweise


Lektion 7: Agentic Graph RAG und temporale Wissensgraphen

Lernziel: Nach dieser Lektion können Sie erklären, was Agentic Graph RAG und temporale Wissensgraphen (Graphiti) sind und warum sie für autonome KI-Agenten unverzichtbar werden.

Die neueste Entwicklung in der Graph-RAG-Landschaft verbindet Knowledge Graphs mit autonomen KI-Agenten. Das Ergebnis: Systeme, die nicht nur Wissen abrufen, sondern selbstständig planen, navigieren und ihr Wissen über die Zeit weiterentwickeln.

Agentic Graph RAG: Der Agent als Navigator

Bei Agentic Graph RAG verlässt RAG den linearen Pfad. Statt einer festen Pipeline (Anfrage, Suche, Antwort) übernimmt ein Agent die Steuerung:

  • Der Agent plant die Aufgabe und zerlegt komplexe Fragen in Teilschritte
  • Er generiert eigenständig Cypher-Queries für den Knowledge Graph
  • Er evaluiert die Ergebnisse und entscheidet, ob weitere Traversierungen nötig sind
  • Er iteriert, bis die Antwort vollständig und korrekt ist

Das Besondere: Der Agent entscheidet selbst, ob für eine Teilfrage Vector Search oder Graph Traversal sinnvoller ist. Diese Hybridsteuerung liefert die besten Ergebnisse, weil sie pro Anfrage den optimalen Suchpfad wählt.

Graphiti: Temporales Gedächtnis für KI-Agenten

Das Graphiti-Framework (Zep AI, mit Neo4j-Unterstützung) löst ein Problem, das klassische Knowledge Graphs nicht adressieren: Wissen verändert sich über die Zeit.

Klassische Graphen speichern: „Alice ist CTO bei Firma X." Aber was, wenn Alice im Januar 2025 CEO wurde? Ein klassischer Graph überschreibt den alten Wert. Graphiti dagegen nutzt ein bi-temporales Modell:

AspektKlassischer GraphGraphiti
Update-VerhaltenÜberschreibenFakten werden invalidiert, nicht gelöscht
Zeitliche AbfragenNicht möglich„Wer war CTO in Q3 2024?"
LatenzVolle Re-IndexierungInkrementell, P95 bei ca. 300ms
Token-VerbrauchBaseline98% weniger
Agent-GedächtnisNicht vorgesehenKernfunktion

Graphiti bietet native MCP-Integration und lässt sich direkt als persistentes Gedächtnis in Multi-Agenten-Systeme einbinden.

Self-Evolving Knowledge Graphs

Die nächste Evolutionsstufe: Knowledge Graphs, die sich selbst weiterentwickeln.

  • Multi-Agenten-Systeme überwachen kontinuierlich neue Datenströme
  • Rekursive Expansion: Agenten gehen autonom neuen Hinweisen nach und erstellen neue Verknüpfungen
  • Automatische Ontologie-Erstellung: KI-Modelle entdecken eigenständig verborgene Muster und schlagen neue Ontologie-Klassen vor (Reinforcement Learning + Knowledge Distillation)

Diese Entwicklung senkt die Einstiegshürde drastisch: Keine tiefgreifende Graph-Expertise ist mehr nötig für das initiale Setup.

> Kernaussage: Agentic Graph RAG kombiniert die Stärke von Knowledge Graphs mit der Autonomie von KI-Agenten. Temporale Wissensgraphen (Graphiti) geben Agenten ein Gedächtnis, das sich verändert und wächst. Das Zeitfenster für den Einstieg ist jetzt optimal: Die Kosten sind gefallen, die Tools ausgereift, und die Anwendungsfälle klar.


Übung: Skizzieren Sie (auf Papier oder digital) einen einfachen Knowledge Graph für Ihr Unternehmen oder Projekt. Verwenden Sie mindestens 5 Knoten (z.B. Personen, Abteilungen, Projekte, Kunden) und 7 Kanten (Beziehungen). Überlegen Sie: Welche dieser Beziehungen verändern sich über die Zeit? Markieren Sie diese und notieren Sie, warum ein temporaler Graph hier einen Mehrwert bieten würde.


Lektion 8: Typische Fallstricke und der Weg in die Produktion

Lernziel: Nach dieser Lektion können Sie die fünf häufigsten Fallstricke beim Aufbau von Graph-RAG-Systemen benennen und für jeden eine konkrete Lösungsstrategie beschreiben.

Der Aufbau eines Graph-RAG-Systems birgt Fallstricke, die sich durch vorausschauende Planung vermeiden lassen. Hier sind die fünf wichtigsten, basierend auf Praxisberichten von Unternehmen wie Goldman Sachs, Pfizer und Microsoft.

Fallstrick 1: Entity Resolution vernachlässigen

LLMs extrahieren Entitäten aus Text, aber sie erkennen nicht zuverlässig, ob zwei unterschiedlich geschriebene Namen dieselbe Entität bezeichnen. „Deutsche Bank", „Deutsche Bank AG" und „DB" können drei separate Knoten im Graph werden.

Lösung: Kombinieren Sie regelbasierte Normalisierungen (Abkürzungen auflösen, Rechtsformen standardisieren) mit einem LLM-gestützten Matching-Schritt nach der initialen Extraktion. Frameworks wie Graphiti lösen dies mit probabilistischem Matching in Echtzeit.

Fallstrick 2: Schema-Übermodellierung

Einsteiger neigen dazu, extrem feingranulare Beziehungstypen zu definieren. Das macht den Graph komplex und schwer wartbar.

Lösung: Starten Sie mit 5 bis 10 Entitätstypen und 10 bis 15 Beziehungstypen. Es ist einfacher, ein Schema zu erweitern als ein überladenes Schema zu vereinfachen.

Fallstrick 3: Sofort den gesamten Dokumentenbestand laden

Unternehmen, die versuchen, sofort alle Dokumente in einen Knowledge Graph zu laden, scheitern fast immer an der Komplexität.

Lösung: Starten Sie mit einem klar abgegrenzten Wissensbereich (z.B. Projektdokumentation einer Abteilung). Bauen Sie den Graph auf, testen Sie typische Anfragen, und erweitern Sie den Scope erst, wenn die Qualität stimmt.

Fallstrick 4: Führungserwartungen falsch managen

Jonathan Lowe (Pfizer) berichtet auf der Neo4j-Konferenz 2025: Führungskräfte erwarten „I want it in production in two months." Die Realität ist komplexer. Gartner prognostizierte, dass 30% aller GenAI-Projekte bis Ende 2025 aufgegeben werden.

Lösung: Setzen Sie realistische Erwartungen. Ein MVP mit einem begrenzten Wissensbereich in 4 bis 6 Wochen, produktionsreifer Ausbau in 3 bis 6 Monaten.

Fallstrick 5: Graph-Wartung vergessen

Dokumentänderungen erfordern Re-Extraktion, Abgleich mit bestehenden Knoten und Aktualisierung betroffener Beziehungen.

Lösung: Setzen Sie von Anfang an Monitoring auf: Tracking von Extraktionsgenauigkeit, Beziehungsvollständigkeit und Graph-Abdeckung. Nutzen Sie Frameworks mit inkrementeller Indexierung (LightRAG, Graphiti).

8 Best Practices für den Produktionseinsatz

  1. Hybrid-Routing: Einfache Fakten über günstige Vektorsuche, komplexe Fragen über Graph-Traversierung
  2. Inkrementelle Indexierung: Keine Frameworks verwenden, die bei jedem Dokument den gesamten Graph neu berechnen
  3. Ontologie-Design investieren: Der kritischste Erfolgsfaktor laut Goldman Sachs und Deloitte
  4. Entity-Extraktion validieren: Macht 58% der Indexierungs-Tokens aus
  5. Domänenspezifisch testen: Auf echten Unternehmensdaten evaluieren, inklusive Mehrdeutigkeiten und mehrsprachiger Dokumente
  6. Graph-Wartung einplanen: Änderungen erfordern Re-Extraktion und Abgleich
  7. DSGVO bedenken: Graph RAG bietet bessere Nachvollziehbarkeit als Vektor-Ähnlichkeit
  8. Klein starten, iterativ wachsen: MVP mit einem Wissensbereich, dann schrittweise erweitern

> Zusammenfassung Lektion 8: > - Entity Resolution und Schema-Design sind die größten Herausforderungen > - Klein starten, iterativ wachsen ist die bewährte Erfolgsstrategie > - Monitoring und inkrementelle Wartung von Anfang an einplanen > - Realistic Erwartungsmanagement gegenüber der Führungsebene ist entscheidend


Kurs-Zusammenfassung: Die fünf wichtigsten Erkenntnisse

  1. Vector RAG hat systematische Grenzen bei Beziehungsabfragen, Multi-Hop-Reasoning und globalen Übersichten. Graph RAG schließt diese Lücken.
  2. Die Kosten sind kein Hindernis mehr. LazyGraphRAG (1.000x günstiger) und LightRAG (500 Seiten für 0,50 USD) machen Graph RAG massenmarktfähig.
  3. Property Graphs sind der neue Standard. Sie erlauben reichere Modellierung mit Attributen auf Knoten und Kanten.
  4. Agentic Graph RAG und temporale Wissensgraphen (Graphiti) definieren die nächste Generation: KI-Agenten mit persistentem, sich entwickelndem Gedächtnis.
  5. Klein starten, iterativ wachsen. Wählen Sie einen begrenzten Wissensbereich, bauen Sie einen MVP, und erweitern Sie erst bei nachgewiesener Qualität.

Weiterführende Ressourcen

Videos:

  • IBM Technology: „GraphRAG vs. Traditional RAG" (kompakte Einführung, 2025)
  • Neo4j: „Practical GraphRAG: Making LLMs Smarter" (fortgeschrittene Patterns, 2025)
  • Advancing AI: „Intro to GraphRAG" (5-teilige Serie mit Notebooks)

Tools zum Ausprobieren:

  • LightRAG (Open Source, GitHub): Bester Einstieg mit minimalen Kosten
  • Neo4j Aura Agent: No-Code Graph RAG in Minuten
  • Microsoft GraphRAG (PyPI): Referenz-Framework für globale Analysen

Literatur:

  • „Graph RAG: The Definitive Guide" (O'Reilly, Michäl Hunger, Stephen Chin, 2025)
  • Microsoft Research: GraphRAG Project Page
  • Paperclipped.de: „Graph RAG 2026: Was in Produktion funktioniert"
Knowledge GraphsGraph RAGNeo4jLlamaIndexMicrosoft GraphRAGLazyGraphRAGLightRAGGraphitiAgentic RAGVector RAG
← Weitere Kurse entdecken