Was ist Fine-Tuning?
Fine-Tuning bedeutet, ein bereits trainiertes Sprachmodell mit eigenen Daten weiterzutrainieren. Das Modell hat sein Grundwissen schon — durch Fine-Tuning lernt es zusätzlich deinen spezifischen Stil, deine Fachbegriffe oder deine Branchenlogik.
Stell dir vor: Ein LLM ist wie ein gut ausgebildeter Generalist. Fine-Tuning macht daraus einen Spezialisten für dein Fachgebiet.
Wie funktioniert Fine-Tuning?
Der Prozess hat drei Phasen:
- Pre-Training: Das Basismodell lernt Sprache aus riesigen Datenmengen (Bücher, Webseiten, Code). Das machen die grossen Anbieter wie OpenAI oder Anthropic.
- Fine-Tuning: Du trainierst das Modell mit deinen eigenen Daten weiter — z.B. mit 1'000 Beispiel-Antworten in deinem Firmenstil oder branchenspezifischen Frage-Antwort-Paaren.
- Einsatz: Das angepasste Modell antwortet jetzt in deinem Stil und mit deinem Fachwissen.
Fine-Tuning vs. RAG — wann was?
| | Fine-Tuning | RAG | |---|---|---| | Ändert das Modell | Ja, das Modell selbst wird angepasst | Nein, Wissen wird bei jeder Anfrage hinzugefügt | | Gut für | Stil, Tonalität, spezifisches Verhalten | Aktuelle Daten, Dokumente, Wissensdatenbanken | | Aufwand | Hoch (Datenaufbereitung, Training, Kosten) | Mittel (Dokumente indexieren) | | Aktualisierung | Neues Training nötig | Dokumente austauschen reicht |
Für die meisten KMU-Anwendungen ist RAG die bessere Wahl: günstiger, flexibler, einfacher zu pflegen. Fine-Tuning lohnt sich erst, wenn das Modell ein spezifisches Verhalten zuverlässig zeigen muss — z.B. immer im gleichen Berichtsformat antworten.
Warum ist das wichtig für KMU?
Ehrlich gesagt: Für die meisten KMU ist Fine-Tuning noch nicht der richtige Schritt. Es ist teuer, braucht saubere Trainingsdaten und technisches Know-how.
Was du stattdessen tun solltest:
- Erst RAG prüfen: Eigene Dokumente als Kontext mitgeben löst 80% der Fälle
- Prompt Engineering nutzen: Gute Anweisungen bringen oft mehr als Fine-Tuning
- Fine-Tuning als Option kennen: Wenn RAG und Prompts nicht reichen, weisst du, dass es diesen nächsten Schritt gibt
Fine-Tuning ist mächtig — aber es ist ein Werkzeug für den richtigen Moment, nicht der erste Schritt.