Kalibrierte Eval-Schleife für KI-Ausgaben (Kriterien-Drift)
Wann Sie diese Methode brauchen
Ihr Produkt liefert KI-Ausgaben, und niemand im Haus kann belastbar sagen, ob sie gut sind. Sie ändern einen Prompt, ein Modell oder eine Wissensquelle und erfahren erst über Beschwerden, was das angerichtet hat. Der übliche Ausweg, ein Modell als Bewerter einzusetzen, verschiebt das Problem nur: Dieser Bewerter erbt genau die Schwächen der Technik, die er beurteilen soll, und niemand hat geprüft, ob seine Urteile mit denen Ihrer Fachleute zusammenpassen. Der Versuch, die Kriterien vorher im Workshop festzuschreiben, scheitert an einer Eigenart der Sache: Was als gut gilt, zeigt sich erst an echten Ausgaben.
Vorgehen
- 1Ablaufspuren echter Nutzung an einer Stelle sammeln und so zugänglich machen, dass ein Blick hinein Sekunden kostet und nicht eine halbe Stunde Klickarbeit.
- 2Eine Stichprobe von Ausgaben von Hand durchsehen und die Fehlerarten notieren, die dabei tatsächlich auftreten. Die Kriterien entstehen an dieser Stelle, nicht vorher.
- 3Je Fehlerart eine oder mehrere Kandidaten-Prüfungen erzeugen, entweder als harte Zusicherung im Code oder als Bewerter-Prompt an ein Modell.
- 4Dieselbe Stichprobe von Menschen mit Fachurteil bewerten lassen und je Prüfung zwei Größen messen: Welchen Anteil der schlechten Ausgaben fängt sie, und wie oft schlägt sie bei guten Ausgaben fälschlich an.
- 5Nur die Prüfungen behalten, die eine vorher gesetzte Schwelle für Falschalarme halten. Der Rest wird verworfen, auch wenn er plausibel formuliert ist.
- 6Die behaltenen Prüfungen nach Kosten einsortieren: Ebene 1 sind billige Zusicherungen bei jeder Änderung, Ebene 2 ist die Bewertung durch Mensch und Modell auf Stichproben in festem Takt, Ebene 3 ist der A/B-Test am lebenden Nutzer und lohnt erst im reifen Produkt.
- 7Den Kriterienkatalog bei jedem Durchlauf fortschreiben, weil jede neue Sichtung Fehlerarten hervorbringt, die vorher niemand kannte.
Typische Anwendung
Ein typisches B2B-SaaS im HR-Umfeld lässt Stellenausschreibungen und Bewerberzusammenfassungen von einem Sprachmodell erzeugen. Das Team legt die Qualitätskriterien in einem Workshop fest, baut daraus einen Bewerter-Prompt und liest dort eine Bestehensquote von über neunzig Prozent, während die Beschwerden im Support gleichzeitig zunehmen. Beim zweiten Anlauf lesen zwei Fachleute stattdessen einhundertfünfzig echte Ausgaben und finden vier Fehlerarten, die in keinem Workshop-Protokoll standen, darunter frei erfundene Zusatzleistungen, die im Eingabematerial nirgends vorkommen, und stillschweigend weggelassene Pflichtangaben. Jede Fehlerart bekommt eine Prüfung: Zwei lassen sich als billige Zusicherung im Code fassen, zwei brauchen einen Bewerter-Prompt. Gegen die menschlichen Urteile gemessen halten drei davon die Schwelle und laufen künftig bei jeder Änderung mit. Die vierte, eine Tonalitätsprüfung, fängt zwar viel, schlägt aber auch bei guten Ausgaben ständig an und wird verworfen, statt als hübsche Kennzahl weitergeführt zu werden.
Grenzen und Gegenindikationen
Das Verfahren kostet wiederkehrende Bewertungszeit von Menschen mit Fachurteil. Wo sich niemand dafür regelmäßig freistellen lässt, bleibt es bei der ersten Runde und der Katalog veraltet. Es arbeitet in seiner belegten Form mit binären Urteilen, also brauchbar oder nicht brauchbar. Wo Qualität ein Verlauf ist oder wo sich die Bewertenden untereinander nicht einig sind, lässt sich Übereinstimmung so nicht sinnvoll messen. Die Belegbasis ist schmal: eine qualitative Studie mit neun erfahrenen Entwicklerinnen und Entwicklern, ein rechnerischer Vergleich auf zwei Verarbeitungsketten, und die Betriebsphase nach dem Ausrollen wurde ausdrücklich nicht untersucht. Kriterien-Drift bedeutet außerdem, dass der Katalog nie fertig wird; wer ein festes Abnahmekriterium für einen Vertrag braucht, bekommt es hier nicht. Der modellgestützte Bewerter bringt eigene Verzerrungen mit, etwa nach Position und Länge der Antwort sowie eine Neigung zur Bevorzugung eigener Ausgaben, und die oft zitierte Übereinstimmung von über achtzig Prozent stammt aus dem offenen Vergleich von Chat-Antworten, nicht aus einer fachlichen Verarbeitungskette. Ebene 3 setzt Nutzungsvolumen voraus: Unterhalb einer gewissen Menge sind Unterschiede im A/B-Test nicht nachweisbar.
Woran Sie Wirkung messen
Führen Sie je Prüfung zwei Zahlen gegen die menschlich bewertete Stichprobe, nämlich den Anteil der erkannten schlechten Ausgaben und die Falschalarmquote bei guten Ausgaben. Halten Sie zusätzlich fest, wie viele Kandidaten-Prüfungen je Runde verworfen wurden, und messen Sie die Zeit von einer Ausgabe bis zum ersten menschlichen Blick darauf.
Verwandte Methoden
Werkzeuge dafür
Quellen
- 1.Shankar, Zamfirescu-Pereira, Hartmann, Parameswaran, Arawjo: Who Validates the Validators? Aligning LLM-Assisted Evaluation of LLM Outputs with Human Preferences, UIST 2024 (arXiv:2404.12272) (öffnet in neuem Tab) · ACM, Proceedings of the 37th Annual ACM Symposium on User Interface Software and Technology (Volltext über arXiv) · 2024-04-18 · Wissenschaft und Fachliteratur · beschreibt das VerfahrenTrägt das Verfahren in allen Schritten: Kriterien und Kandidaten-Prüfungen erzeugen, diese als Python-Funktion oder Bewerter-Prompt umsetzen, eine Teilmenge der Ausgaben von Menschen bewerten lassen und daraus die Umsetzung auswählen, die am besten mit den menschlichen Urteilen zusammenpasst. Die Übereinstimmung ist als harmonisches Mittel aus Trefferanteil und Gegenwert der Falschalarmquote definiert, mit einer vom Nutzer gesetzten Schwelle für Falschalarme. Trägt außerdem den Befund Kriterien-Drift: Menschen brauchen Kriterien zum Bewerten, gewinnen ihre Kriterien aber erst durch das Bewerten, weshalb sich Prüfkriterien nicht vollständig vorab festlegen lassen. Grenze: Die Belege sind eine qualitative Studie mit neun Praktikerinnen und Praktikern aus der Industrie sowie ein rechnerischer Vergleich auf zwei Verarbeitungsketten. Die Arbeit arbeitet mit binären Urteilen, die Teilnehmenden hatten wenig Zeit zum Iterieren, und die Betriebsphase nach dem Ausrollen ist ausdrücklich nicht abgedeckt. Ein Wirksamkeitsnachweis für die Produktqualität wird nicht behauptet.
- 2.Hamel Husain: Your AI Product Needs Evals (öffnet in neuem Tab) · hamel.dev (Eigenveröffentlichung des Autors) · 2024-03-29 · Praxisquelle · beschreibt das VerfahrenTrägt die Kostenordnung in drei Ebenen und die Betriebspraxis darum herum: Ebene 1 sind schnelle, billige Zusicherungen, die bei jeder Änderung laufen, Ebene 2 ist die Bewertung durch Mensch und Modell auf protokollierten Ablaufspuren mit laufender Prüfung, ob das bewertende Modell mit den Menschen übereinstimmt, Ebene 3 ist der A/B-Test am Nutzer und erst im reifen Produkt sinnvoll. Trägt außerdem die Forderung, jede Reibung beim Betrachten der Daten zu entfernen und eigene Sichtwerkzeuge zu bauen, statt sich auf allgemeine Plattformen zu verlassen. Grenze: Es handelt sich um einen Erfahrungsbericht aus der Arbeit an einzelnen Produkten ohne kontrollierte Messung. Die Ebenenordnung ist eine Kostenheuristik und kein belegtes Ergebnis, und die genannten Größenordnungen sind Beobachtungen des Autors.
- 3.Zheng, Chiang, Sheng et al.: Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena, NeurIPS 2023 Datasets and Benchmarks Track (arXiv:2306.05685) (öffnet in neuem Tab) · NeurIPS 2023 Datasets and Benchmarks Track (Volltext über arXiv) · 2023-06-09 · Wissenschaft und Fachliteratur · begrenzt das VerfahrenBegrenzt den Einsatz eines Modells als Bewerter und begründet damit die Kalibrierungspflicht. Die Arbeit weist bei modellgestützten Bewertern eine Verzerrung nach der Position der verglichenen Antworten, eine Bevorzugung längerer Antworten, eine Neigung zur Bevorzugung eigener Ausgaben sowie begrenzte Schlussfähigkeit nach. Zugleich erreichen starke Bewerter in dieser Aufgabe eine Übereinstimmung von über achtzig Prozent mit menschlichen Präferenzen, also so viel wie Menschen untereinander. Grenze: Gemessen wurde am offenen paarweisen Vergleich von Chat-Antworten in zwei eigens gebauten Prüfumgebungen. Die Zahl gilt für diese Aufgabe und lässt sich nicht auf beliebige fachliche Kriterien in einer Produktkette übertragen; sie ersetzt die Kalibrierung im Einzelfall gerade nicht.
Ursprung: Shankar et al. (UC Berkeley) / Husain