Fine-Tuning

So funktioniert das

Beim Fine-Tuning wird ein vorhandenes Modell mit einer Sammlung eigener Beispiele (Eingabe plus gewünschte Ausgabe) weiter trainiert. Es lernt dadurch vor allem Stil, Format und Verhalten — etwa einen bestimmten Ton, ein festes Antwortschema oder eine Spezialaufgabe.

Beispiel aus der Praxis

Ein Modell soll Support-Tickets immer in dieselbe Struktur mit Kategorie, Dringlichkeit und Kurzfassung bringen. Mit mehreren hundert sauberen Beispielen lernt es das Schema zuverlässiger als durch Prompting allein.

Das solltest du wissen

• Fine-Tuning ist selten der erste Schritt. Oft reichen gute Prompts oder RAG, und die sind günstiger und schneller.
• Für aktuelles Faktenwissen eignet es sich schlecht: Dafür ist RAG die bessere Wahl.
• Entscheidend ist die Qualität der Beispiele: lieber wenige saubere als viele halbgare.
• Ein feinjustiertes Modell musst du pflegen, wenn sich Anforderungen oder das Basismodell ändern.