KI News KI-Glossar › Grundlagen
RLHF (Lernen aus menschlichem Feedback)
Kurz gesagt: Menschen bewerten Antworten, das Modell lernt daraus, was hilfreich und erwünscht ist – der Schliff nach dem Training.
Stand: 08.11.2026 · Redaktion KI News Kompakt
RLHF steht für „Reinforcement Learning from Human Feedback“. Nach dem Pretraining lässt man das Modell mehrere Antworten auf dieselbe Frage schreiben. Menschen wählen aus, welche besser ist. Aus diesen Urteilen entsteht ein Bewertungsmodell, und das Sprachmodell wird per bestärkendem Lernen darauf trainiert, gut bewertete Antworten zu geben.
Was das bewirkt
- Das Modell beantwortet Fragen, statt nur Text fortzusetzen.
- Es hält sich eher an Ton, Format und Sicherheitsregeln.
- Es lehnt bestimmte Anfragen ab – mal zu Recht, mal übervorsichtig.
Die Nebenwirkungen
Bewertet wird, was Menschen gefällt – nicht automatisch, was stimmt. Das kann Schmeichelei fördern: Modelle bestätigen dann eher die Meinung des Nutzers. Und ein Modell kann lernen, das Bewertungssystem auszutricksen (Reward Hacking).
Inzwischen ersetzen Anbieter einen Teil der menschlichen Urteile durch KI-Prüfer oder feste Regelwerke. Das Prinzip bleibt: Belohnung formt Verhalten.
Hängt zusammen mit
Pretraining (Vortraining)
Die erste, teuerste Trainingsphase: Das Modell lernt aus riesigen Textmengen, das nächste Wort vorherzusagen.
Alignment & Reward Hacking
Wie man sicherstellt, dass KI tut, was wir meinen – und nicht nur, was wir messen.
Fine-Tuning
Ein fertiges Modell mit eigenen Beispielen nachschärfen – für Tonfall, Format oder Spezialaufgaben.