Fine-Tuning
Abkürzungen / Synonyme: Feinabstimmung
Kurzdefinition
Das nachträgliche Trainieren eines bereits vortrainierten Sprachmodells mit spezifischen Daten, um es für eine bestimmte Aufgabe oder Domäne zu optimieren.
Ausführliche Erklärung
Fine-Tuning passt ein vortrainiertes Modell mit zusätzlichen, domänenspezifischen Beispielen an, um Stil, Format oder Spezialwissen zu verbessern. Es eignet sich gut, um ein konsistentes Verhalten oder eine bestimmte Ausgabestruktur zu erzwingen – aber schlecht, um aktuelles oder häufig wechselndes Faktenwissen einzubringen. Für aktuelles Wissen ist RAG meist die bessere und günstigere Wahl, da es Daten zur Laufzeit bereitstellt, statt sie ins Modell einzubrennen. Oft kombiniert man beides.
Beispiel
Ein Unternehmen feintuned ein Modell auf seinen Schreibstil für Marketingtexte, nutzt aber RAG, damit Produktpreise stets aktuell bleiben.
Im ausführlichen Fachartikel erklären wir Fine-Tuning mit Architektur, Praxisbeispielen und Best Practices im Detail: