KI-Outputs richtig annotieren: Produktfehler von Vorlieben trennen
Eine praxistaugliche Review-Methode für KI-Produkte: Trenne Policy-Fehler, fehlenden Kontext und persönliche Vorlieben, damit echtes Feedback das Produktverhalten gezielt verbessert.
Teilen
Dieser Artikel wurde aus dem Englischen übersetzt. Original lesen
Eine Bewertung ist noch keine Erklärung
Ein Reviewer gibt einer KI-Antwort vier Sterne. Was soll das Produktteam jetzt ändern?
Vielleicht hat die Antwort die Frage der Nutzerin verfehlt. Vielleicht enthielt sie eine Behauptung ohne Quelle. Vielleicht stimmten die Fakten, aber der Tonfall wirkte hölzern. Vielleicht bevorzugt der Reviewer eine andere Struktur, obwohl die Antwort ihren Zweck voll erfüllt hat.
All diese Reaktionen sind nützlich, beschreiben aber völlig unterschiedliche Dinge. Wenn am Ende alles zu „Qualität: 4/5“ verschmilzt, verliert das Team genau die Informationen, die es zur Verbesserung des Produkts bräuchte.
Ein pragmatischer Annotationsprozess trennt sauber zwischen drei Ebenen: Was hat der Output getan?, Welche Produktregel wurde erfüllt oder verletzt? und Was waren die persönlichen Vorlieben der prüfenden Person? So wird das Review nicht zum Beliebtheitswettbewerb für generierten Text, sondern zu einem Werkzeug, um das tatsächliche Produktverhalten zu schärfen.
Entscheide, welche Art von Urteil du erfassen willst
Bevor du Kolleginnen und Kollegen bittest, Outputs zu labeln, musst du klären, wofür diese Labels überhaupt stehen sollen.
Manchmal benötigt das Produkt eine strikte, einheitliche Richtlinie (Policy). Ein KI-generiertes Product Brief darf beispielsweise eine unbelegte Kundenaussage niemals als Fakt darstellen. Reviewer müssen diese Regel ausnahmslos anwenden. Das ist ein Policy-Urteil: Das Team definiert ein verbindliches Soll-Verhalten für das Produkt.
In anderen Fällen sollte das Produkt den unterschiedlichen Bedürfnissen der Nutzer Raum geben. Eine Produktmanagerin bevorzugt vielleicht eine ultrakurze Zusammenfassung, während ein anderer mehr Details für ein Stakeholder-Meeting benötigt. Wenn beide Formate für den jeweiligen Anwendungsfall funktionieren, hilft das Festhalten dieser Vorlieben dabei, das Produkt auf verschiedene Kontexte anzupassen. Das ist ein Präferenz-Urteil – und nicht automatisch ein Produktfehler.
Die Forschung zur Annotation subjektiver Sprachaufgaben beschreibt eine ganz ähnliche Unterscheidung: Entweder sammelt man bewusst unterschiedliche Perspektiven ein oder man weist die Annotierenden an, eine fest definierte Policy umzusetzen. Die Wahl hängt davon ab, wofür der Datensatz später dienen soll. Genau dieselbe Entscheidung muss ein Produktteam treffen, wenn es KI-Outputs prüft: Willst du lernen, was Nutzer bevorzugen, oder festlegen, was das Produkt zwingend tun muss?
Wir erfassen diese Labels, um zu prüfen, ob der KI-Output das vereinbarte Produktverhalten für diese Aufgabe einhält.
Oder:
Wir erfassen diese Reaktionen, um zu verstehen, welche legitimen Output-Stile für unterschiedliche Nutzer und Situationen am besten funktionieren.
Ein Team kann durchaus beides erheben – die Labels müssen die beiden Fälle aber strikt auseinanderhalten.
Label das Verhalten, bevor du den Text bewertest
Dokumentiere für jeden Output drei Kernpunkte:
Beobachtetes Verhalten: Was hat das System tatsächlich getan?
Kriterium: Welche vereinbarte Produktregel greift hier?
Auswirkung: Welche Folgen hat es für die Nutzer, wenn dieses Verhalten unverändert bleibt?
Für ein Feature zur Zusammenfassung von Research-Daten könnte ein schlankes Set an Verhaltens-Labels so aussehen:
Label
Wann nutzen
Aufgabe verfehlt
Der Output löst die vom Nutzer gestellte Aufgabe nicht.
Unbelegte Behauptung
Eine Tatsachenbehauptung lässt sich im bereitgestellten Material nicht nachweisen.
Wichtige Auslassung
Relevante Belege oder wesentliche Widersprüche fehlen.
Kontext vermischt
Der Output vermengt Quellen oder Personen, die getrennt bleiben müssten.
Falscher nächster Schritt
Die Handlungsempfehlung ergibt sich weder aus den Belegen noch aus dem Ziel.
Vorliebe
Der Output funktioniert, der Reviewer hätte jedoch einen anderen Stil oder Aufbau gewählt.
Nicht beurteilbar
Wichtige Quellen oder Kontextinformationen zur Aufgabe fehlen für das Review.
Diese Labels sind nur ein Ausgangspunkt. Passe sie an die konkreten Jobs-to-be-Done und Risiken deines Produkts an. Ein Sammelbegriff wie „Halluzination“ ist meist zu vage, um daraus Verbesserungen abzuleiten. Ein konkretes Label wie „Behauptung über den Kündigungsgrund eines Kunden hat keine Textstelle im Interview“ sagt dem Team hingegen genau, was schiefgelaufen ist und mit welchem Beleg sich der Fall klären lässt.
Mach jeden Fehler überprüfbar
Wenn jemand einen Produktfehler markiert, sollte immer eine kurze Beweiskette hinterlegt werden:
Markiere die genaue Textstelle im Output.
Verlinke die Quelle oder die Arbeitsanweisung, an die sich das Modell halten sollte.
Beschreibe das erwartete Verhalten in einem prägnanten Satz.
Schildere die Auswirkung auf die Nutzer.
Halte die Schwere des Fehlers getrennt von deiner Gewissheit (Confidence) über das Label fest.
Ein konkretes Beispiel:
Feld
Beispiel
Textausschnitt
„Nutzer wanderten ab, weil das Setup zu komplex war.“
Quelle
Drei Interviews erwähnen das Setup, keines nennt es als Kündigungsgrund.
Kriterium
Keine Kausalitäten behaupten, die nicht durch Quellen belegt sind.
Erwartetes Verhalten
Erwähnen, dass das Setup thematisiert wurde; den Grund für die Abwanderung offenlassen.
Auswirkung
Das Team könnte das falsche Problem priorisieren.
Schweregrad
Hoch für diese Entscheidung.
Label-Gewissheit
Eindeutig.
Schweregrad und Gewissheit beantworten zwei völlig unterschiedliche Fragen. Ein Reviewer kann unsicher sein, ob eine Behauptung wirklich unbelegt ist – und sich gleichzeitig darüber im Klaren sein, dass die Konsequenz gravierend wäre, sollte es zutreffen. Werden beide Dimensionen separat erfasst, erkennen PMs sofort, was umgehend untersucht werden muss.
Verlange vom Reviewer keine technische Ursachenanalyse. „Das Retrieval-System hat versagt“ ist lediglich eine Implementierungshypothese. Die Annotation sollte das beobachtbare Fehlverhalten festhalten – warum es dazu kam, analysiert das Engineering-Team.
Betrachte Uneinigkeit als wertvolles Signal
Wenn zwei Reviewer unterschiedliche Labels vergeben, stimme nicht einfach per Mehrheitsbeschluss ab. Analysiere stattdessen die Ursache der Diskrepanz:
Die Regel ist unklar: Die Reviewer wissen nicht genau, was das Produkt verspricht. Überarbeite das Kriterium und ergänze ein Beispiel.
Kontext fehlt: Einer Person fehlen Quellen, das Nutzerziel oder nötige Zugriffsrechte für eine verlässliche Beurteilung. Optimiere den Review-Case.
Ungelöster Richtlinien-Trade-off: Beide Ansichten sind nachvollziehbar, verlangen aber ein unterschiedliches Produktverhalten. Hier muss der PM gemeinsam mit Fachexperten eine Entscheidung treffen.
Berechtigte Vorlieben weichen ab: Halte die Präferenzen fest und prüfe, ob sie zu bestimmten Nutzersegmenten, Aufgaben oder Kontexten passen.
Unterschiede in der Durchführung: Die Anleitung ist eindeutig, aber jemand hat Belege übersehen oder die Aufgabe missverstanden. Schärfe den Leitfaden und wiederhole den Fall.
Dieser Ansatz verhindert, dass jede Abweichung vorschnell als „menschlicher Fehler“ abgestempelt wird. Meinungsverschiedenheiten decken oft unvollständige Richtlinien oder echte Unterschiede in den Nutzerbedürfnissen auf. Eine Studie zu Annotationsparadigmen aus dem Jahr 2022 bringt es auf den Punkt: Manchmal geht es darum, divergierende Perspektiven abzubilden – und manchmal darum, eine fest definierte Haltung durchzusetzen. Entscheide vorab, welches Ziel für dein Produkt gilt, bevor du Labels zu einem einzigen Mittelwert verdichtest.
Starte mit einer Kalibrierung, bevor du das Review skalierst
Beginne mit einer kleinen Auswahl typischer Outputs: ein unkomplizierter Standardfall, ein Fall mit fehlender Quelle, ein Widerspruch, eine Stilfrage und ein kniffliger Grenzfall. Lass zwei oder mehr Personen diese Fälle unabhängig voneinander bewerten und vergleicht anschließend die Belege und Begründungen gemeinsam im Team.
Ziel dieser Kalibrierung ist keine perfekte Übereinstimmungsquote. Es geht darum aufzudecken, an welchen Stellen der Leitfaden noch unscharf ist bei der Unterscheidung von:
einem faktischen Fehler und einer unbelegten Schlussfolgerung
einem fehlenden Detail und einem für die Aufgabe irrelevanten Detail
einer reinen Stilpräferenz und einem echten Usability-Problem
einem harmlosen Schönheitsfehler und einem Verhalten, das den Release blockiert
einem Modellfehler und unvollständigem oder mangelhaftem Input-Kontext
Aktualisiere den Leitfaden anhand der Ergebnisse und ergänze jeweils ein kurzes, prägnantes Beispiel. Behalte auch die ursprünglichen Einzelbewertungen: Sie zeigen rückblickend, ob Unstimmigkeiten am Testfall, an der Policy oder an unklaren Anweisungen lagen.
Das NIST AI Risk Management Framework empfiehlt Teams ausdrücklich, Verantwortlichkeiten und Kontrollmechanismen für das Zusammenspiel von Mensch und KI klar zu regeln. Für ein Produktteam ist ein strukturierter Review-Leitfaden der beste Weg, diese Rollen sichtbar zu machen: Wer liefert die fachliche Expertise, wer wendet die Kriterien an und wer verantwortet die technische Umsetzung sowie die Systemzuverlässigkeit?
Verknüpfe Annotationen direkt mit Produktentscheidungen
Ein Datensatz aus Annotationen ist für sich genommen noch keine Launch-Entscheidung. Er liefert jedoch das Fundament für fundamentale Fragen:
Ist das gewünschte Produktverhalten präzise genug definiert, um entwickelt zu werden?
Welcher Fehler erfordert eine Anpassung der Produktrichtlinien?
Welcher Fehler liegt in der technischen Implementierung oder Systemzuverlässigkeit begründet?
Benötigt das Team repräsentativere Beispiele?
Handelt es sich um eine berechtigte Präferenz, die nach Personalisierung verlangt?
Was muss nach einer Änderung am Prompt, Modell oder Workflow erneut getestet werden?
Führe ein kurzes Protokoll zu jedem Review-Durchlauf: Aufgabe und Nutzerkontext, Version der Produktregel, Beispielquellen, vergebene Labels, offene Differenzen, getroffene Entscheidungen und Verantwortlichkeiten. Wenn sich eine Regel ändert, versiehst du sie mit einer Versionsnummer und prüfst die betroffenen Beispiele erneut. So lässt sich jederzeit nachvollziehen, ob ein Output anders ausfällt, weil die Produkt-Policy angepasst wurde – oder weil sich das Modell unvorhergesehen verhält.
Produktmanager verantworten die Zielsetzung für das Nutzerverhalten, wägen fachliche Trade-offs ab und bestimmen, was anhand der Beispiele gelernt werden soll. Sie schreiben die Prompts, analysieren die Outputs und definieren die Akzeptanzkriterien – denn genau das macht die Produktspezifikation aus. Das Engineering verantwortet die Produktivierung, Zugriffskontrollen, Ausfallsicherheit und die Systemarchitektur, die dieses Verhalten im Live-Betrieb verlässlich trägt.
Vorlage: Deine Annotations-Karte zum Kopieren
Nutze diese Vorlage für deine nächste Review-Session:
Aufgabe und Nutzer: Geprüfte Produktregel: Ausschnitt aus dem Output: Quelle oder Kontext: Beobachtetes Verhalten: Erwartetes Verhalten: Nutzerauswirkung und Schweregrad: Label-Gewissheit: Policy-Fehler, fehlender Kontext oder Vorliebe? Entscheidung, Owner und nächstes Review:
Wenn dein Team die Produktregel nicht klar formulieren kann: Stoppe das Scoring. Klärt zuerst, wie sich das Produkt verhalten soll. Jede Bewertungsmatrix nützt erst dann etwas, wenn sie auf Produktentscheidungen aufbaut, für die das Team geradesteht.
Specky unterstützt Teams dabei, Nutzer-Feedback, Produktentscheidungen und nächste Schritte nahtlos miteinander zu verknüpfen. Entdecke den Produkt-Workspace für technische PMs oder erstelle dein nächstes Anforderungsdokument direkt mit dem PRD-Generator.
GDPR-aligned. EU workspace data is stored in Frankfurt, Germany. GDPR and EU data Built in Vienna, Austria. A product of influence solutions fm GmbH (FN 675374y). Imprint 14-day trial. Card required, and nothing is charged until day 14. 30-day refund after subscribing. See pricing