Training

Kurz erklärt

Beim Training lernt ein KI-Modell aus Daten. Dabei werden seine internen Parameter schrittweise so angepasst, dass es die gestellte Lernaufgabe besser erfüllt.

Was ist Training?

Training ist der Entwicklungsprozess vor der normalen Nutzung eines Modells. Das Modell verarbeitet viele Beispiele, erzeugt Vorhersagen und erhält ein mathematisches Fehlersignal. Ein Optimierungsverfahren verändert daraufhin die Parameter.

Große Modelle durchlaufen oft mehrere Phasen: allgemeines Vortraining, weitere Abstimmung auf Aufgaben und zusätzliche Ausrichtung anhand menschlicher oder automatisch erzeugter Rückmeldungen.

Wie funktioniert das?

Beispiel → Vorhersage → Fehler berechnen
   ↑                         ↓
   └──── Parameter anpassen ─┘

Dieser Zyklus wird sehr oft wiederholt. Ziel ist nicht, jedes Beispiel wörtlich zu speichern, sondern Muster zu lernen, die auch auf neue Eingaben übertragbar sind.

Konkretes Beispiel

Ein Modell zur Erkennung von Dokumentarten erhält viele gekennzeichnete Beispiele wie Rechnung, Vertrag, Protokoll oder technische Zeichnung. Es lernt typische Muster. Nach dem Training kann es für ein neues Dokument eine Kategorie vorschlagen.

Bei einem großen Sprachmodell sind Datenmenge, Aufgaben und Trainingsverfahren wesentlich umfangreicher, das Grundprinzip der wiederholten Anpassung bleibt jedoch ähnlich.

Warum ist das wichtig?

Trainingsdaten und Lernziele prägen Fähigkeiten und Grenzen eines Modells. Lücken, Fehler oder gesellschaftliche Verzerrungen in den Daten können sich im Verhalten wiederfinden. Training ist außerdem von der späteren Nutzung zu unterscheiden: Eine Unterhaltung trainiert ein bereitgestelltes Modell normalerweise nicht unmittelbar weiter.

Zusammenhang mit anderen KI-Begriffen

Inferenz ist die Nutzung nach dem Training.
Fine-Tuning ist ein zusätzliches Training eines vorhandenen Modells.
Open Weights können den lokalen Betrieb eines trainierten Modells ermöglichen.

Typisches Missverständnis

Missverständnis: Jede Korrektur im Chat trainiert das Modell dauerhaft.

Eine Korrektur kann innerhalb des aktuellen Kontextes helfen. Eine dauerhafte Änderung der Modellparameter erfordert jedoch einen eigenen Trainings- oder Anpassungsprozess.

Merksatz

Training formt die Parameter eines Modells; Inferenz nutzt das fertige Modell.