Glossar · KI & LLMs
Weiterführendes Training eines Basis-LLMs auf einem domänenspezifischen Datensatz, um Stil, Format oder Spezialwissen fest in die Modellgewichte einzubrennen.
Definition
Fine-Tuning verändert die Gewichte eines vortrainierten Modells durch zusätzliches Training auf einem kuratierten Datensatz aus Input-Output-Paaren. Das Ergebnis ist ein Modell, das ohne lange Prompts den gewünschten Stil trifft oder spezifische Klassifikationen schneller löst.
Sinnvoll für: konsistenten Markentonalität, schmale Klassifikationsaufgaben mit tausenden Beispielen, Latenz-/Kostenoptimierung (kleineres Modell ersetzt großes). Nicht sinnvoll für: aktuelles Wissen, häufig wechselnde Inhalte, komplexes Reasoning — dafür ist RAG oder ein größeres Frontier-Modell die bessere Wahl.
Praktisch oft unterschätzt: Datensatz-Qualität schlägt Datensatz-Größe, und ein schlecht kuratierter Fine-Tune kann ein Modell objektiv verschlechtern (Catastrophic Forgetting).
So nutzen wir das bei adsbird
In 9 von 10 Fällen empfehlen wir Kunden statt Fine-Tuning entweder besseres Prompting + RAG oder einen Wechsel auf ein stärkeres Modell. Fine-Tuning lohnt sich konkret bei wiederkehrenden Klassifikationen mit fixiertem Output-Format und >2 000 Trainingsbeispielen — etwa Lead-Klassifikation aus E-Mail-Antworten.
Verwandte Begriffe
Fine-Tuning in deinem Projekt?
Wenn du Fine-Tuning in einem konkreten Workflow brauchst — wir haben das wahrscheinlich schon gebaut.