Fine-Tuning

Fine-Tuning ist der Prozess, ein vortrainiertes Large Language Model mit eigenen Daten weiterzutrainieren, um es für spezifische Aufgaben oder Domänen zu optimieren. Statt ein Modell von Grund auf zu trainieren, werden die bestehenden Gewichte eines Foundation Models angepasst — das spart enorme Rechenkosten und Zeit.

Es gibt verschiedene Ansätze: Vollständiges Fine-Tuning passt alle Parameter an (teuer, aber leistungsstark), LoRA und QLoRA modifizieren nur einen kleinen Teil der Gewichte (effizient und oft ausreichend), und Instruction Tuning trainiert auf Frage-Antwort-Paaren für besseres Befolgungsverhalten. RLHF (Reinforcement Learning from Human Feedback) ist eine spezielle Form, die menschliche Präferenzen einbezieht.

Wann Fine-Tuning statt RAG: Fine-Tuning lohnt sich, wenn das Modell einen bestimmten Stil, Ton oder spezialisiertes Verhalten lernen soll — etwa die Markensprache eines Unternehmens, medizinische Fachterminologie oder ein bestimmtes Antwortformat. Für rein faktisches Wissen ist RAG meist die bessere Wahl, da es aktueller und günstiger ist.

Die Kosten variieren stark: OpenAI Fine-Tuning startet bei wenigen Dollar für kleine Datensätze, während das Training eines kompletten Open-Source-Modells wie LLaMA auf eigenem GPU-Cluster tausende Dollar kosten kann. LoRA-basierte Ansätze bieten einen guten Mittelweg.