In der rasant fortschreitenden Welt der Künstlichen Intelligenz haben Large Language Models (LLMs) eine bemerkenswerte Fähigkeit bewiesen, Informationen aus einer Vielzahl unterschiedlicher Quellen zu synthetisieren. Doch wie Daniel Chalef, Gründer von Zep AI und Architekt des Graffiti Frameworks, auf der AI Engineer World's Fair darlegte, führt dieser mächtige Syntheseprozess oft zu einem kritischen Verlust der Herkunft (Provenance). Die Herkunft, also die essenzielle Aufzeichnung, die detailliert, wie Daten generiert wurden und woher sie stammen, wird verschleiert. Dieser Mangel an Nachvollziehbarkeit stellt erhebliche Hindernisse für das Debugging komplexer KI-Systeme, die Sicherstellung der Einhaltung rechtlicher und regulatorischer Anforderungen und letztlich für das Vertrauen in die von KI generierten Ergebnisse dar.
Das Herkunftsproblem bei LLM-Ausgaben
Ein häufiges Fehlerbild, das Chalef hervorhob, betrifft LLMs, die Zusammenfassungen, extrahierte Fakten und strukturierte Datensätze generieren, die keine direkten wortgetreuen Reproduktionen ihrer Eingabequellen sind. Diese Synthese kann den Ursprung der Informationen erheblich verschleiern und es schwierig machen, deren Genauigkeit zu ermitteln oder Fehler effektiv zu beheben. Ein LLM könnte beispielsweise überzeugend eine Penicillin-Allergie eines Patienten behaupten, doch diese kritische Information könnte eine Komposition sein, die aus einer Mischung von elektronischen Gesundheitsakten, Laborberichten und sogar vom Benutzer eingegebenen Chat-Daten abgeleitet wurde. Ohne ein klares Verständnis dieses Ursprungs könnten medizinische Fachkräfte bei entscheidenden Behandlungsentscheidungen auf irreführende Informationen stoßen.
Die scheinbar einfache Lösung, jedem Datenpunkt einfach eine Quellenkennung anzuhängen, scheitert in den komplexen Pipelines von LLM-Operationen. Im Gegensatz zu deterministischen Datenverarbeitungspipelines werden LLM-Ausgaben häufig aus mehreren, dynamischen Quellen synthetisiert. Der Prozess des Zusammenführens von Entitäten (wie die Erkennung von 'J. Smith' und 'John Smith' als dieselbe Person) und die Mutation von Daten im Laufe der Zeit bedeuten, dass einfache Verweise auf eine einzelne Quelle schnell unzuverlässig werden. Chalef betonte, dass in diesem Kontext die Datenherkunft (Data Lineage) eine sich entwickelnde Menge sein muss, die solchen Mutationen standhält.
Einführung des Graffiti Frameworks
Um diese komplexen Herausforderungen zu bewältigen, entwickelte Chalefs Team Graffiti, ein Open-Source Temporal Graph Framework. Graffiti modelliert die komplexen Beziehungen zwischen Quelldaten und den daraus abgeleiteten Artefakten, wie einzelnen Fakten, als umfassenden Wissensgraphen. Diese Graphstruktur ermöglicht es, jeden Fakt durch eine einfache Graph traversal zu seiner ursprünglichen Quelle zurückzuverfolgen. Das Framework ist sorgfältig darauf ausgelegt, die inhärenten Komplexitäten von LLM-generierten Daten zu bewältigen, darunter:
- Temporal Graph Modeling: Erfassung der Entwicklung von Daten und Beziehungen über die Zeit.
- Metadata Projection: Ermöglicht das Markieren von Datenepisoden zum Zeitpunkt der Aufnahme.
- Data Deletion Management: Erleichtert die Einhaltung von Datenschutzbestimmungen und Anfragen nach dem "Recht auf Vergessenwerden".
Graffiti integriert auch Metadata Projection, wodurch Datenepisoden während der Aufnahme markiert werden können. Diese Tags, die Klassifizierungen wie 'EHR' oder 'verifizierte klinische Quelle' enthalten könnten, werden von allen nachfolgend abgeleiteten Entitäten und Fakten übernommen. Diese Fähigkeit ermöglicht es KI-Agenten, Informationen intelligent basierend auf der wahrgenommenen Zuverlässigkeit ihrer Quelle zu filtern. Wenn ein einzelner Fakt jedoch das Ergebnis von Beiträgen aus mehreren Quellen ist, wird die Bestimmung des Gesamtniveaus der Wahrhaftigkeit zu einer nuancierteren Aufgabe. Chalef illustrierte dies mit einem Szenario, in dem ein Fakt von drei übergeordneten Episoden unterstützt wird, von denen zwei verifiziert sind, während eine es nicht ist. Das System muss dann entscheiden, ob 'irgendeine' übergeordnete Quelle verifiziert werden muss oder ob 'alle' übergeordneten Quellen verifiziert werden müssen, eine Entscheidung, die von der Kritikalität des Fakts abhängt. Beispielsweise könnte ein Fakt bezüglich einer Patientenallergie erfordern, dass 'alle' übergeordneten Quellen verifiziert werden, während ein Fakt bezüglich der Zustimmung als akzeptabel angesehen werden könnte, wenn 'irgendeine' einzelne übergeordnete Quelle verifiziert ist.
Die Datenlöschung stellt eine weitere erhebliche Herausforderung dar, insbesondere im Hinblick auf die Einhaltung von Datenschutzbestimmungen und die Ausführung von Anfragen nach dem "Recht auf Vergessenwerden". Grafittis Graphmodell hilft dabei, indem es präzise identifiziert, welche Fakten aus spezifischen Quelldaten abgeleitet sind, die zur Löschung vorgesehen sind. Wenn ein bestimmter Fakt durch mehrere unabhängige Quellen unterstützt wird, kann er auch nach der Löschung einer Quelle bestehen bleiben. Umgekehrt wird ein Fakt, der ausschließlich aus gelöschten Daten abgeleitet ist, korrekt aus dem Graphen entfernt. Dieser Mechanismus stellt sicher, dass gemeinsame Fakten zugänglich bleiben, solange mindestens eine unterstützende Quelle verfügbar ist, während Fakten, die auf einzelnen, nun gelöschten Quellen basieren, ordnungsgemäß gelöscht werden.
Wichtige Erkenntnisse für zuverlässige LLM-Systeme
Chalef fasste die wesentlichen Prinzipien für den Aufbau robuster und zuverlässiger LLM-gesteuerter Systeme zusammen:
- Datenherkunft anerkennen: Erkennen Sie an, dass das Verständnis des Ursprungs und der Transformation von Daten von größter Bedeutung ist.
- Beziehungen modellieren: Nutzen Sie Graphstrukturen, um die komplexen Abhängigkeiten innerhalb von Daten darzustellen.
- Zeitliche Bewusstheit: Berücksichtigen Sie die Entwicklung von Daten und ihren Beziehungen im Laufe der Zeit.
- Kontextbezogene Metadaten: Nutzen Sie Metadaten zum Filtern, Verifizieren und für das kontextbezogene Verständnis.
Er räumte auch ein, dass der Prozess der Graphkonstruktion, insbesondere mit Grafittis ausgefeilter Methodik, rechenintensiv sein kann. Er bemerkte jedoch, dass erhebliche Anstrengungen unternommen wurden, um sowohl Kosten als auch Latenz zu optimieren. Chalef lud die Zuhörer ein, die Möglichkeiten des Graffiti Frameworks weiter auf GitHub zu erkunden.
Während die technischen Feinheiten des LLM-Herkunfts-Trackings für Datenursprünge mit Graffiti komplex sind, sind Lösungen wie Graffiti entscheidend für den Aufbau von Vertrauen und Rechenschaftspflicht im sich schnell entwickelnden Bereich der KI. Die Fähigkeit, Informationen zu ihren Wurzeln zurückzuverfolgen, ist nicht nur eine technische Herausforderung, sondern eine grundlegende Voraussetzung für die verantwortungsvolle KI-Entwicklung. Darüber hinaus ist es bei Diskussionen über KI-generierte Inhalte wichtig, sich des breiteren Spektrums von KI-Anwendungen bewusst zu sein, einschließlich derjenigen, die sich mit Themen wie NSFW KI befassen, was die vielfältigen und manchmal sensiblen Anwendungen dieser mächtigen Technologien hervorhebt.
tags: llm, ai, data provenance, graph database
Top comments (0)