Was tun, wenn KI lügt

Eine Studie des Massachusetts Institute of Technology in Cambridge zeigt: KI kann lügen und täuschen. Eine falsche Antwort setzt aber keine böswilligen Absichten voraus. Künstliche Intelligenz neigt dazu, falsche Informationen zu geben, weil sie eine möglichst überzeugende Antwort geben will. Ein Systemfehler, so genannte „Halluzinationen“. Findet sie keine passenden Informationen zu einer konkreten Frage, erfindet sie etwas, um User nicht zu enttäuschen.

Dieses Phänomen, bekannt als „confirmation Bias“, erklärt KI-Experte Manuel Wolfsteiner: KI ist mit Daten aus dem Internet trainiert. Fehlen Informationen zu einem bestimmten Thema, kann sie keine fundierte Antwort formulieren. Auch widersprüchliche Daten stellen ein Problem dar. In so einem Fall muss die KI selbst entscheiden, welche Antwort sie gibt. Sie schätzt anhand der Fragestellung ab, welche Variante Nutzer wahrscheinlich am meisten überzeugt.

Tipps und Tricks

Unternehmen setzen laut Wolfsteiner auf „RAG-Systeme“, um falsche Antworten zu vermeiden. Das sind Datenbanken, die alle richtigen und wichtigen Informationen enthalten. Sie gleichen jede KI-Antwort automatisch mit der firmeneigenen Datenbank ab. Was aber tun als Privatperson?

Falsche Antworten lassen sich nicht gänzlich ausschließen, diese vier Maßnahmen senken das Risiko:

• Der KI eine Rolle zuteilen. Soll sie als Mediziner, Freund oder doch als Mathematiker antworten? Je mehr Kontext die Frage hat, desto besser und genauer werden die Antworten. Die Frage soll jede mögliche Information enthalten.
• Den Charakter der Antwort vorgeben. Soll es ein wissenschaftlicher Text sein, ein Referat oder sollen es nur Bullet Points sein? Das kann beispielsweise so aussehen: Erkläre es mir bitte so, dass Kinder im Alter von zwölf es gut verstehen. Fasse die wichtigsten Stichworte anschließend in Bullet Points zusammen.
•  Zuletzt ist es wichtig, die Antwort noch einmal überprüfen zu lassen. Die eben gelieferte Antwort in den Chat neu eingeben und nachfragen: Stimmt das? Bist du dir sicher? Oder einfach: Überprüfe das bitte noch einmal.
• Der KI verbieten Antworten zu geben, wenn keine passenden Informationen vorliegen. Etwa so: Wenn du die Antwort auf die Frage nicht kennst, dann sag es. Ein zusätzlicher Tipp: Frage nach Quellen. So ist es theoretisch möglich, nachzulesen woher die Infos kommen. Außerdem lassen sich so Antworten ohne Informationsgrundlage vermeiden.

„Es ist wichtig zu lernen und zu verstehen, wie diese Systeme funktionieren“, betont Wolfsteiner. Wer sich über die richtige Anwendung von KI informiert, reduziert das Fehlerrisiko. Denn nur, wer weiß, wie die Systeme funktionieren, kann sich zuverlässig vor falschen Antworten der KI schützen.