PIPELINEKI-Wissen
Warum KI Dinge erfindet — und wie man das im Betrieb abstellt
Erfundene Antworten sind kein Fehler des Modells, sondern eine Folge seiner Funktionsweise. Deshalb hilft nur ein Aufbau, der sie unmöglich macht.
01
Warum es passiert
Ein Sprachmodell erzeugt wahrscheinliche Fortsetzungen von Text. Es hat kein Konzept von „ich weiß es nicht" — es hat nur Wahrscheinlichkeiten. Eine plausibel klingende falsche Antwort ist für das Modell nicht von einer richtigen unterscheidbar.
02
Was nicht hilft
Das Modell zu bitten, nichts zu erfinden. Das senkt die Häufigkeit ein wenig und beseitigt das Problem nicht.
03
Was hilft
Drei Dinge zusammen: Antworten nur aus einer geprüften Quelle zulassen, die Quelle in der Antwort ausweisen, und einen definierten Ausweg für den Fall vorsehen, dass nichts gefunden wird. Der dritte Punkt ist der wichtigste und wird am häufigsten weggelassen.
04
Der Test vor dem Livegang
Fragen stellen, deren Antwort nicht in den Unterlagen steht. Ein gut gebauter Bot sagt, dass er es nicht weiß, und leitet weiter. Ein schlecht gebauter erfindet etwas — und das merkt man dann beim Kunden.
Nächster Schritt
Reden wir kurz darüber, ob sich das bei euch rechnet.
Ein Gespräch von zwanzig Minuten reicht meistens, um zu klären, ob ein Projekt Sinn hat. Wenn nicht, sagen wir das — das ist billiger für beide Seiten als ein Angebot, das niemand braucht.