Fine-Tuning bezeichnet das Nachtrainieren eines vortrainierten Sprachmodells auf einem kleineren, spezialisierten Datensatz. Dadurch wird das Modell für bestimmte Aufgaben, Branchen oder Schreibstile optimiert, ohne es von Grund auf neu trainieren zu müssen.
Ein Sprachmodell wie GPT-5.5 oder Claude wurde auf riesigen Textmengen trainiert und kann deshalb generell mit Sprache umgehen. Fine-Tuning nimmt dieses fertige Modell und trainiert es mit einem kleineren, gezielten Datensatz weiter. Zum Beispiel: tausend Kundenanfragen und die dazugehörigen Antworten. Das Modell lernt dadurch, wie es in genau diesem Kontext antworten soll.
Das Ergebnis: Ein Modell, das sich verhält wie ein Spezialist für eine bestimmte Aufgabe, obwohl es als Generalist gestartet ist.
Fine-Tuning lohnt sich, wenn ein Modell konsistent in einem bestimmten Stil oder Format antworten soll, wenn es Fachsprache einer Branche beherrschen muss oder wenn Prompt Engineering allein nicht die gewünschte Qualität liefert. Typische Anwendungsfälle: ein Modell, das Versicherungstexte in einem bestimmten Tonfall schreibt, oder ein Modell, das medizinische Befunde nach einem festen Schema zusammenfasst.
Fine-Tuning und RAG lösen unterschiedliche Probleme. Fine-Tuning verändert das Verhalten des Modells (wie es antwortet). RAG verändert die Wissensbasis (worauf es zugreift). RAG ist schneller umzusetzen und die Daten lassen sich jederzeit aktualisieren. Fine-Tuning braucht technisches Know-how, Trainingsdaten und Rechenkapazität. Beide Methoden lassen sich kombinieren.
🔗 Verwandte Begriffe:
RAG, Large Language Model (LLM), Trainingsdaten, Prompt, ChatGPT
➡ Du willst KI in deinem Arbeitsalltag einsetzen? In meinen „KI at Work“ Kursen zeige ich dir Schritt für Schritt, wie das geht. Ohne Vorwissen.
Änderungshistorie: