Es gibt diesen einen Typ Mensch, der auf jede Frage eine Antwort hat. Flüssig, freundlich, mit fester Stimme. Und irgendwann merkst du: Bei der Hälfte davon hat er geraten. Er lügt nicht. Er hält es nur schlecht aus, etwas nicht zu wissen.

Eine KI hat dieses Problem eingebaut. Sie erfindet Namen, Jahreszahlen, Paragraphen, Buchtitel — und zwar im gleichen selbstbewussten Tonfall wie den Rest. Fachleute nennen das Halluzination (eine erfundene Antwort, die echt klingt). Das ist keine Panne, die irgendwann behoben wird. Das gehört zur Bauweise dieser Programme.

Heute lernst du, woran du eine solche Antwort erkennst und wie du sie in zwei Minuten gegenprüfst. Danach benutzt du KI so, wie man einen begabten Praktikanten benutzt: dankbar für die Zuarbeit, aber mit einem Blick drauf, bevor es rausgeht.

— Daniela Twardy

Gemini und der Doppelcheck

Antworten prüfen lassen · kostenlos, ein Klick

Google Gemini kennst du schon aus Ausgabe #07, da haben wir damit eine Reise geplant. Gemini hat eine Funktion, die genau für das heutige Thema gebaut ist: den Doppelcheck (im Menü unter der Antwort, oft als „Antwort überprüfen“ oder mit einem kleinen G-Symbol).

Du klickst darauf, und Gemini geht die eigene Antwort Satz für Satz durch und sucht bei Google nach Belegen. Danach ist der Text bunt markiert: Grün bedeutet, im Netz gibt es Ähnliches. Braun bedeutet, es gibt Widersprüchliches oder schlicht nichts. Zu jeder Markierung siehst du die Quelle und kannst selbst hineinschauen.

Es ist, als würde jemand seine eigene Steuererklärung noch einmal nachrechnen. Nicht unfehlbar, aber die braunen Stellen sind fast immer genau die, bei denen du gründlicher hinschauen solltest.

Die drei Warnzeichen · und die Gegenprobe

Halluzinationen haben Lieblingsverstecke. Bei diesen drei Dingen ist gesundes Misstrauen angebracht:

Warum die Anbieter das Erfinden nicht wegbekommen

Jede neue Modellgeneration halluziniert etwas seltener, und jede neue Modellgeneration halluziniert weiter. Der Grund liegt in der Bauweise: Diese Programme berechnen, welches Wort als Nächstes am besten passt. Sie schlagen nichts nach. Eine fließende, plausible Antwort ist genau das, wofür sie gebaut wurden — ob der Inhalt stimmt, ist eine andere Frage.

Deshalb rüsten die Anbieter außen herum nach: Internetzugang, Quellenangaben, Prüffunktionen wie der Doppelcheck. Das sind Geländer, keine Garantien. Bei Anwendungen mit Gewicht — Medizin, Recht, Finanzen — steht deshalb überall dieselbe Fußnote: Von einem Menschen prüfen lassen.

Für dich heißt das etwas Beruhigendes: Deine Aufgabe ist nicht, technisch mitzuhalten. Deine Aufgabe ist es, kurz nachzufragen, wenn eine Antwort zu glatt klingt. Das kannst du längst.