Wissensgrenze

Eine Wissensgrenze ist der Zeitpunkt, ab dem ein Sprachmodell keine Trainingsdaten mehr hat und daher kein eingebautes Bewusstsein für Ereignisse, Fakten oder Änderungen, die später eingetreten sind. Da das Wissen eines Modells zum Trainingszeitpunkt praktisch eingefroren ist, ist alles, was nach seiner Wissensgrenze passiert ist, nicht Teil seines eingebauten Wissens, es sei denn, zur Laufzeit werden über externen Kontext, Retrieval oder Tools neuere Informationen bereitgestellt.

Kurz gesagt: Eine Wissensgrenze ist das Datum, an dem das eingebaute Wissen eines Modells endet; das Modell kann sich bei Ereignissen nach diesem Zeitpunkt nicht auf eingebautes Wissen verlassen, es sei denn, während der Inferenz werden Informationen nach der Wissensgrenze bereitgestellt.

Wie eine Wissensgrenze funktioniert

Das interne Wissen eines Modells ist eine feste Momentaufnahme, die davon bestimmt wird, wie und wann es trainiert wurde:

1. Eingefrorene Trainingsdaten: Ein Modell lernt aus einem großen, aber festen Datensatz, der bis zu einem bestimmten Datum gesammelt wurde, und danach aktualisiert sich sein internes Wissen nicht mehr von selbst.
2. Die Lücke zwischen Wissensgrenze und Veröffentlichung: Training, Feinabstimmung und Sicherheitstests dauern Monate, sodass ein Modell in der Regel deutlich nach seiner Wissensgrenze veröffentlicht wird und bereits an seinem ersten Tag etwas hinterher ist.
3. Zuverlässige Wissensgrenze vs. Trainingsdatengrenze: Einige Anbieter unterscheiden zwischen einer „Trainingsdatengrenze“ (dem gesamten Umfang der verwendeten Daten) und einer „zuverlässigen Wissensgrenze“ (dem Datum, bis zu dem das Wissen am vollständigsten und genauesten ist), die typischerweise etwas früher liegt.
4. Überbrückung zur Gegenwart: Ein Modell kann neuere Ereignisse nur dann behandeln, wenn es zum Abfragezeitpunkt Informationen nach der Wissensgrenze erhält – über Websuche, Retrieval-Augmented Generation, interne Wissensspeicher, kuratierte Datenfeeds oder andere Tools, die aktuellen Kontext einspeisen.
5. Stille Veraltung: Ohne Retrieval kann ein Modell eine Frage, die nach der Wissensgrenze liegt, dennoch selbstbewusst aus veralteten Informationen beantworten, ohne ein explizites Signal, dass es veraltet ist.

Der entscheidende Punkt ist, dass das eingebaute Wissen eines Modells eine Momentaufnahme der Welt zu einem festen Zeitpunkt ist und keine laufende, kontinuierlich aktualisierte Aufzeichnung.

Wissensgrenze vs. Kontextfenster und Halluzination

• Ein Kontextfenster ist die Menge an Text, die ein Modell in einer einzelnen Anfrage aktuell berücksichtigen kann; im Gegensatz zu einem Kontextfenster ist eine Wissensgrenze der Zeitpunkt, an dem das eingebaute Wissen des Modells endet. Bei dem einen geht es um Kapazität, bei dem anderen um Aktualität.
• Halluzination und Veraltung können sich überschneiden, sind aber nicht identisch: Eine veraltete Antwort, die durch die Wissensgrenze verursacht wird, ist eine Aktualitätsbeschränkung; wenn diese veraltete Antwort im aktuellen Kontext falsch ist, kann sie in manchen Taxonomien als Halluzination eingestuft werden.
• Trainingsdaten sind alles, woraus das Modell gelernt hat; die Wissensgrenze ist einfach das späteste Datum, das diese Daten erreichen.

Wo die Wissensgrenze wichtig ist

• Zeitkritische Fragen: News, Preise, Führungspersonen und Softwareversionen können alle falsch sein, wenn sie allein aus Trainingsdaten beantwortet werden.
• Inhaltsaktualität und AEO: Neue Inhalte können erst bei einem zukünftigen Trainingslauf im eingebauten Wissen eines Modells erscheinen, sodass die Sichtbarkeit für aktuelles Material von einer externen Retrieval-Schicht abhängt, die zum Inferenzzeitpunkt frische Quellen bereitstellen kann (einschließlich Web-Such-APIs wie der Brave Search API.
• Auswahl eines Modells oder Modus: Die Daten der Wissensgrenze variieren je nach Modell, und einige Systeme fügen Live-Retrieval hinzu, um dies auszugleichen, sodass die richtige Wahl davon abhängt, wie aktuell die Antwort sein muss.
• Gestaltung von KI-Produkten: Grounding von Antworten in abgerufenen Quellen ist der Standardweg, um die Wissensgrenze für alles Aktuelle zu umgehen.

Da die Daten der Wissensgrenze je nach Modell unterschiedlich sind und sich mit jeder Version verschieben, ist es riskant, das eingebaute Wissen eines Modells als aktuell zu behandeln; für aktuelle Fakten ist externes Retrieval der zuverlässige Weg.

Verwandte Begriffe

Kontextfenster, Halluzination, Retrieval-Augmented Generation (RAG), Trainingsdaten, großes Sprachmodell (LLM), Websuche, Grounding, KI-Antwortmaschine.