Die Idee zu dieser Episode kam mir, als mich jemand fragte, welches Tool ich benutze, um meine Texte zu «humanisieren». Ich fragte mir: Schon der Begriff ist schräg. Und fragte mich: Sollte ich das tun? Oder sollte ein KI-generierter Inhalt nicht einfach als solcher erkennbar sein? Wenn der Inhalt nicht mehr als maschinengemacht erkennbar ist, sollte man ihn nicht klar als solchen kennzeichnen, damit auch Menschen, die den Unterschied nicht sehen, informiert sind? Wie schwierig die Erkennung von KI-generierten Bildern sein kann, kannst du hier selbst testen. Aber Achtung: Das Spiel macht schon fast ein bisschen süchtig.

Die rasante Entwicklung der Künstlichen Intelligenz hat das Potenzial, unsere Gesellschaft in vielerlei Hinsicht zu bereichern. Gleichzeitig birgt sie jedoch erhebliche Risiken, insbesondere wenn es um die Erzeugung und Verbreitung von KI-generierten Inhalten geht. Diese können täuschend echt wirken und gezielt zur Manipulation eingesetzt werden. Daher ist es entscheidend, dass wir uns umfassend über die Möglichkeiten und Gefahren informieren, uns sensibilisieren und die notwendigen Fähigkeiten erwerben, um solche Inhalte zu erkennen und richtig einzuordnen.

Eine umfassende Studie des CISPA Helmholtz-Zentrums für Informationssicherheit hat gezeigt, dass Menschen erhebliche Schwierigkeiten haben, KI-generierte Inhalte von menschlich erstellten zu unterscheiden. Dies betrifft sowohl Texte als auch Bilder und Audioinhalte. Besonders alarmierend ist, dass diese Schwierigkeit unabhängig von Alter, Bildung oder Medienkompetenz auftritt. Die Studie verdeutlicht, dass das Risiko besteht, dass KI-generierte Inhalte unbewusst als echt wahrgenommen und für legitime Informationen gehalten werden. Mehr dazu findest du in diesem Artikel: Menschen erkennen KI-generierte Medien kaum.

Die Bynder-Studie hebt einen anderen Aspekt hervor: die zunehmende Akzeptanz und den Einsatz von KI-generierten Inhalten in der Unternehmenswelt, insbesondere im Marketing. Während Unternehmen diese Technologien zur Effizienzsteigerung nutzen, bleiben Fragen der Authentizität und des Vertrauens bestehen. Konsumenten stehen solchen Inhalten oft skeptisch gegenüber, insbesondere wenn sie erfahren, dass diese von Maschinen erstellt wurden, dies aber nicht klar deklariert wird. 

Eine weitere wichtige Studie, die von SRF hervorgehoben wird, befasst sich mit der Fähigkeit von KI-Systemen, gezielt zu lügen und zu betrügen. Laut dieser MIT-Studie können KI-Modelle so programmiert werden, dass sie Inhalte manipulieren, um bestimmte Ziele zu erreichen – etwa die Beeinflussung der öffentlichen Meinung oder die Verbreitung von Desinformationen. Besonders bedenklich ist, dass Unternehmen wie Meta  diese Technologien nutzen, um gezielt Inhalte zu verstärken, die starke emotionale Reaktionen hervorrufen, was zur Verbreitung von extremistischen und manipulativen Inhalten beitragen kann. Diese Entwicklungen stellen eine erhebliche Gefahr für die Integrität von Informationen und die Stabilität demokratischer Systeme dar.

Der Fall des Fotografen Boris Eldagsen und die ethischen Fragen
Ein besonders aufsehen erregender Vorfall, der die ethischen und rechtlichen Herausforderungen von KI-generierten Inhalten verdeutlicht, ereignete sich im Jahr 2023, als der Berliner Fotograf Boris Eldagsen bei einem renommierten Fotowettbewerb gewann – jedoch mit einem Bild, das vollständig von einer KI erstellt wurde. Das Bild, das ein surreal anmutendes Porträt zeigte, wurde von der Jury als menschengemachte Fotografie gewertet. Eldagsen enthüllte später, dass das Bild bewusst als KI-generiert eingereicht wurde, um eine Diskussion über die Rolle von KI in der Fotografie anzustossen. Dieser Vorfall zeigt, wie schwierig es ist, die Grenze zwischen menschlicher Kreativität und maschineller Produktion zu ziehen. Und wirft Fragen nach der Integrität von Kunstwettbewerben und der Notwendigkeit klarer Regeln für den Einsatz von KI auf.

Sein Gewinnerbild sieht du hier. Da erfährst du auch mehr über seine KI-generierten Bildern.  

Praktische Tipps zur Erkennung von KI-generierten Inhalten

Angesichts dieser Herausforderungen ist es von entscheidender Bedeutung, dass wir in der Lage sind, KI-generierte Inhalte zu erkennen und zu hinterfragen. Hier sind einige bewährte Methoden und Werkzeuge, die dabei helfen können:

1. Manuelle Analyse von Texten:
Stil und Struktur: KI-generierte Texte neigen dazu, in einem gleichmässigen, oft monotonen Stil geschrieben zu sein. Sie verwenden weniger komplexe Satzstrukturen und neigen zur Wiederholung bestimmter Phrasen. Ein menschlicher Text zeigt in der Regel mehr Variation in der Satzlänge und Stilistik.
Wortwahl und Sprache: KI-Modelle verwenden oft eine formale und standardisierte Sprache, die frei von Umgangssprache oder kreativen Ausdrücken ist. Wenn ein Text sehr «glatt» und unpersönlich wirkt, könnte es sich um KI-generierten Inhalt handeln. Siehe auch den Quellentext.

2. Visuelle Prüfung von Bildern:
Fehlerhafte Darstellung von Schriftzeichen: KI-generierte Bilder haben oft Schwierigkeiten mit der korrekten Darstellung von Schrift. Buchstaben können verformt oder unlogisch angeordnet sein: So erkennen Sie KI-generierte Fakes. Allerdings werden die Bild-KIs immer besser. Also immer genau hinschauen!
Proportions- und Perspektivenfehler: Besonders im Hintergrund von KI-generierten Bildern können Proportionsfehler, unscharfe Ränder oder unlogische Schatten auftreten. Diese Unstimmigkeiten sind oft ein Hinweis darauf, dass das Bild künstlich erstellt wurde.

3. Nutzung von Erkennungstools:
ZeroGPT: Dieses kostenlose Tool hat sich als relativ zuverlässig erwiesen, um KI-generierte Texte zu identifizieren. Es analysiert typische Muster in den Texten und gibt Hinweise darauf, ob ein Text von einer KI erstellt wurde. Mehr dazu findest du hier: KI-Texte erkennen: Die besten KI Text Detektor Tools 2024.
Originality.ai und GPTZero: Diese kostenpflichtigen Tools bieten fortschrittlichere Erkennungsmechanismen, sind jedoch auch anfällig für Fehler, insbesondere wenn Texte «humanisiert» wurden, um wie menschlich verfasst zu wirken. Hier erfährst du mehr: KI-Texte erkennen: Die besten KI Text Detektor Tools 2024.

Meine persönliche Erfahrung: von zehn eingegebenen KI-Texten wurde ca. die Hälfte erkannt. Und von zehn Originaltexten von mir aus den Jahren 2020-2023 erkannten die Tools die 70% als KI-generiert. Schräg, oder? Also auch hier: genau hinschauen!

4. Bild- und Textvergleich mit Datenbanken:
Rückwärtssuche für Bilder: Verwende Tools wie Google Reverse Image Search, um herauszufinden, ob ein Bild bereits existiert und wo es erstmals aufgetaucht ist. Dies kann helfen, gefälschte oder manipulierte Bilder zu identifizieren.
Kontextprüfung: Stelle sicher, dass die Quelle eines Bildes oder Textes vertrauenswürdig ist und prüfe, ob es andere Quellen gibt, die den Inhalt bestätigen. Besonders bei extremen oder kontroversen Inhalten ist eine zusätzliche Überprüfung notwendig. Mehr Informationen findest du hier: Wie man KI-generierte oder digital veränderte Inhalte erkennt.
​
​Wenn du mehr zum AI ACT der Europäischen Union erfahren möchtest, gehts hier lang.