Warum KI selbstbewusst Dinge erfindet

Das Tückischste an KI ist, dass sie völlig falsch liegen und dabei völlig sicher klingen kann. Es gibt keinen unsicheren Ton, kein Vielleicht. Sie formuliert eine erfundene Tatsache ebenso glatt wie eine wahre.

Diese selbstsicheren Fehler werden Halluzinationen genannt. Zu verstehen, warum sie entstehen, ist Ihre erste Verteidigung dagegen, sich täuschen zu lassen.

Denken Sie daran, wie KI funktioniert: Sie sagt wahrscheinliche Wörter eines nach dem anderen voraus. Sie schlägt keine Fakten in einer Datenbank nach. Sie erzeugt Text, der richtig klingt.

Meistens stimmen richtig zu klingen und richtig zu sein überein. Doch manchmal ist der natürlichste Satz einfach falsch, und die KI hat keinen eingebauten Alarm, der ihr das mitteilt.

Die KI weiß nicht wirklich, was wahr ist. Sie hat kein Bewusstsein und keinen Faktenprüfer eingebaut. Sie erzeugt lediglich plausible Sprache.

Deshalb kann sie mit völliger Sicherheit eine Statistik, ein Datum oder ein Zitat erfinden. Für die KI sehen eine überzeugend klingende Lüge und eine Tatsache gleich aus: Beides sind nur wahrscheinliche Wortmuster.

Wenn die KI etwas nicht weiß, sagt sie das oft nicht. Stattdessen füllt sie die Lücke mit etwas, das zum Muster einer Antwort passt.

Fragen Sie nach einer obskuren Tatsache, die sie nie gelernt hat, und statt ihre Unwissenheit einzugestehen, erfindet sie möglicherweise problemlos eine plausible Antwort. Genau aus diesem Drang, Lücken zu füllen, entstehen Halluzinationen.

Sie bitten die KI um ein Zitat aus einem bestimmten Buch. Sie liefert Ihnen ein elegantes, passendes Zitat und ordnet es eindeutig zu. Es klingt perfekt – nur existiert dieses Zitat nicht.

Die KI hat etwas erzeugt, das wie ein Zitat aus diesem Buch klang. Keine böse Absicht, kein Bewusstsein, nur Mustererkennung, die selbstsicher danebenging. Das geschieht häufiger, als Anfänger erwarten.

Halluzinationen treten bei bestimmten Dingen gehäuft auf: konkreten Fakten, Zahlen, Daten, Namen, Quellen und Zitaten. Je genauer und weniger bekannt das Detail ist, desto größer ist das Risiko.

Allgemeine Erklärungen sind normalerweise zuverlässig. Bei einem genauen Beleg, einer präzisen Statistik oder einem Nischennamen erfindet die KI am ehesten selbstsicher etwas. Wenn Sie das wissen, erkennen Sie, wann besondere Vorsicht geboten ist.

KI-Modelle lernen aus Daten bis zu einem bestimmten Zeitpunkt und kennen aktuelle Ereignisse möglicherweise nicht gut. Wenn man sie nach etwas Neuem fragt, können sie raten und diese Vermutung als Tatsache darstellen.

Seien Sie bei Antworten über aktuelle Nachrichten, Preise oder sich schnell verändernde Themen besonders skeptisch. Die KI beschreibt möglicherweise selbstsicher eine Welt, die nicht mehr existiert oder nie existiert hat.

Es ist hilfreich zu wissen, dass die KI nicht versucht, Sie zu täuschen. Sie hat überhaupt keine Absichten. Eine Halluzination ist eine Nebenwirkung ihrer Funktionsweise, keine bewusste Entscheidung, Sie in die Irre zu führen.

Das ist wichtig, denn Sie können dieses Problem nicht dadurch beheben, dass Sie die KI bitten, ehrlich zu sein. Sie glaubt bereits, hilfreich zu sein. Die Schutzmaßnahme muss von Ihnen kommen.

Wenn Sie jede selbstsichere Antwort für bare Münze nehmen, werden Sie irgendwann nach etwas Falschem handeln – aufgrund einer falschen Tatsache in einem Bericht, einer erfundenen Quelle oder eines falschen Datums.

Die Lösung besteht nicht darin, die Nutzung von KI einzustellen, sondern sie klug einzusetzen: Verlassen Sie sich beim Denken und Erstellen von Entwürfen auf sie, aber überprüfen Sie die konkreten Fakten, auf die es ankommt, bevor Sie sich darauf verlassen.

Übernehmen Sie eine einfache Grundhaltung: Die KI ist eine brillante, schnelle Assistenz, die gelegentlich und selbstsicher falsch liegt. Vertrauen Sie ihr bei der Orientierung, prüfen Sie die Details jedoch doppelt.

Das ist keine Paranoia, sondern dieselbe Skepsis, die Sie jeder einzelnen Quelle gegenüber an den Tag legen würden. Schon das Wissen, dass es Halluzinationen gibt, verschafft Ihnen einen Vorsprung gegenüber den meisten Nutzern.

Bitten Sie die KI um etwas Obskures und Konkretes, etwa eine präzise Statistik oder ein Zitat aus einer weniger bekannten Quelle. Versuchen Sie anschließend, die Angabe an anderer Stelle zu überprüfen.

Möglicherweise stellen Sie fest, dass sie selbstsicher erfunden wurde. Eine Halluzination einmal selbst zu erleben, prägt sich viel besser ein, als nur davon zu hören.

Halluzinationen sind selbstsichere, erfundene Antworten. Sie entstehen, weil KI plausible Wörter vorhersagt und kein echtes Gespür für wahr oder falsch hat. Deshalb füllt sie Lücken, statt einzugestehen, dass sie etwas nicht weiß.

Das Risiko ist bei konkreten Fakten, Zahlen, Zitaten, Quellen und aktuellen Ereignissen am höchsten. Die KI lügt nicht, denn sie hat keine Absichten. Sie sind die Schutzmaßnahme: Vertrauen Sie der Orientierung, überprüfen Sie die Details.