Während ich mich auf diese Episode vorbereitete, wurde mir klar, wie stark unsere menschliche Wahrnehmung mit der Funktionsweise von KI verwoben ist. Die Gestalttheorie ist hier ein spannender Ansatzpunkt. Sie beschreibt, wie unser Gehirn unvollständige Informationen ergänzt, um ein vollständiges Bild zu schaffen. Beispielsweise sehen wir in einem zerbrochenen Schriftzug das gesamte Wort oder ordnen Punkte gleicher Farbe automatisch einer Gruppe zu. Unser Gehirn ist darauf programmiert, Muster zu vervollständigen – ein Mechanismus, der uns im Alltag hilft, aber auch anfällig für Fehlinterpretationen macht.

Ebenso agieren KI-Systeme: Sie «vervollständigen» Muster, basierend auf den Daten, mit denen sie trainiert wurden. Doch während unsere Ergänzungen oft durch Emotionen und Erfahrungen geprägt sind, basieren KI-Halluzinationen ausschliesslich auf Wahrscheinlichkeiten. Beide Mechanismen – menschlich wie maschinell – sind unglaublich faszinierend, aber gefährlich zugleich.

Eingrenzung von KI-Halluzinationen
Um KI-Halluzinationen einzugrenzen, sind verschiedene Ansätze nötig, die sowohl auf technischer als auch auf menschlicher Ebene ansetzen. Eine zentrale Rolle spielt die Qualität der Trainingsdaten. Je umfassender und präziser die Datenbasis, desto weniger Lücken müssen durch probabilistische Ergänzungen gefüllt werden. Modelle sollten ausserdem regelmässig aktualisiert werden, um neue Informationen einzubeziehen und veraltete oder fehlerhafte Daten zu entfernen.

Ein weiterer wichtiger Schritt ist die Implementierung von Realitätschecks: Mechanismen, die KI-generierte Inhalte mit externen, verifizierten Wissensquellen abgleichen. Solche Prüfprozesse können dabei helfen, potenziell halluzinierte Informationen zu identifizieren, bevor sie als Fakten präsentiert werden. Besonders in kritischen Bereichen wie Medizin oder Recht könnten solche «Faktenprüfer» als zusätzliche Sicherheitsebene dienen.

Zusätzlich könnte die Weiterentwicklung von Erklärbarkeit bei KI-Modellen eine entscheidende Rolle spielen. Wenn die KI nicht nur Ergebnisse liefert, sondern auch erklärt, wie sie zu diesen gekommen ist, können Nutzer:innen besser einschätzen, ob eine Aussage vertrauenswürdig ist. Das ist beispielsweise bei Perplexity so. Wobei auch bei dieser KI die menschliche Prüfung nicht fehlen darf. Erklärbarkeit stärkt das Verständnis und hilft, potenzielle Halluzinationen frühzeitig zu erkennen.

Schliesslich ist die Förderung von KI-kritischem Denken bei Nutzer:innen essenziell. Menschen müssen lernen, KI-Ergebnisse zu hinterfragen und deren Kontext zu prüfen. Ein gesundes Mass an Skepsis und die Bereitschaft, Informationen zu validieren, sind Schlüsselkompetenzen in einer zunehmend KI-gestützten Welt. Denn egal wie ausgereift die Technologie wird, bleibt der menschliche Verstand die letzte Instanz, die entscheidet, was als Realität akzeptiert wird.

Kleiner Extra-Tipp: Ich prüfe manchmal die Ergebnisse von ChatGPT mit Gemini, oder von Perplexity mit Claude. Probiere es mal aus. Verlass dich aber auch nicht blind auf solche KI-prüft-KI-Experimente. 

Fazit
Episode 17  lädt dazu ein, die Grenze zwischen Mensch und Maschine genauer zu erkunden. Halluzinationen, ob menschlich oder maschinell, zeigen, wie wir Lücken in unserem Wissen füllen und Realität formen. Doch während unsere menschliche Intuition oft kreativ ist, bleibt KI ein Werkzeug, das auf Wahrscheinlichkeiten beruht und deshalb unser kritisches Denken und unsere Kontrolle benötigt.

​Die Frage, die bleibt: Können wir aus den Halluzinationen der KI etwas über uns selbst lernen? Vielleicht. Denn am Ende sind Mensch und Maschine gar nicht so verschieden – beide suchen nach Sinn in einer Welt voller Ungewissheiten.

Um meine kreative Freiheit zu wahren und urheberrechtliche Stolperfallen zu vermeiden, haben alle Figuren im Podcast Künstler:innen-Namen bekommen:
- Kai aka das Kollektiv aus Chattipy, Klud und Jeremy und neu von Perpexxi