Chunk / Chunking

Kurz erklärt

Ein Chunk ist ein abgegrenzter Daten- oder Textabschnitt. Chunking bezeichnet das Aufteilen längerer Inhalte in kleinere Einheiten, damit sie besser gespeichert, gesucht und in einem begrenzten Kontext verwendet werden können.

Warum werden Dokumente aufgeteilt?

Ein ganzes Handbuch als einzelner Suchtreffer wäre meist zu groß und ungenau. Werden Dokumente in passende Abschnitte geteilt, kann ein RAG-System gezielt die Stellen auswählen, die zu einer Frage gehören.

Chunks können nach Zeichen- oder Tokenzahl, Absätzen, Überschriften, Seiten oder inhaltlichen Einheiten gebildet werden. Häufig überlappen sich benachbarte Abschnitte etwas, damit Zusammenhänge an Grenzen nicht verloren gehen.

Wie funktioniert das?

langes Dokument
      ↓
Abschnitt 1 | Abschnitt 2 | Abschnitt 3 | ...
      ↓
Embeddings und Suchindex

Die passende Größe ist ein Kompromiss: Sehr kleine Chunks können wichtigen Zusammenhang verlieren; sehr große Chunks enthalten viel Unnötiges und verbrauchen mehr Platz im Kontextfenster.

Konkretes Beispiel

Eine Hausordnung enthält eigene Kapitel zu Zugang, Brandschutz und Raumnutzung. Ein sinnvolles Chunking orientiert sich an diesen Überschriften. Eine starre Trennung mitten im Satz könnte dagegen Bedingungen und Ausnahmen voneinander lösen.

Warum ist das wichtig?

Chunking beeinflusst unmittelbar, welche Informationen die Suche findet und was das Sprachmodell als Kontext erhält. Es sollte anhand echter Fragen getestet werden, besonders bei Tabellen, Listen und Querverweisen.

Typisches Missverständnis

Missverständnis: Je kleiner die Chunks, desto präziser die Suche.

Zu kleine Abschnitte können ohne ihren Kontext unverständlich oder sogar irreführend sein. Die passende Aufteilung hängt von Inhalt und Aufgabe ab.

Merksatz

Chunking teilt Inhalte so auf, dass Suchbarkeit und notwendiger Zusammenhang im Gleichgewicht bleiben.