FEATURE
KI-Detek­toren: Wer hat’s geschrieben?

Was halten wir davon, wenn sich ein Minister seine Rede von einer KI schreiben lässt? Diese Frage wurde erst vor kurzem heiß disku­tiert. Aller­dings: Spit­zen­po­li­tiker verfassen doch ihre Reden ohnehin nicht selbst. Macht es also einen entschei­denden Unter­schied, ob ein mensch­li­cher Reden­schreiber oder ChatGPT den Stift geschwungen bzw. die Tastatur bedient hat?

Fast zeit­gleich ging es in der Lite­ra­tur­welt um eine ähnliche Frage: Der Horror­roman Shy Girl geriet unter Verdacht, teil­weise mithilfe künst­li­cher Intel­li­genz entstanden zu sein. Leser analy­sierten Text­pas­sagen, disku­tierten über „typi­sche KI-Muster“ und bemühten KI-Detek­toren. Schließ­lich zog der Verlag das Buch zurück.

Hinter beiden Fällen stehen ähnliche Fragen. Kann man über­haupt zuver­lässig erkennen, ob ein Text von einer KI stammt? Und noch grund­sätz­li­cher: Ist es bei jedem Text glei­cher­maßen wichtig, wer oder was ihn geschrieben hat?

Auf die erste Frage verspre­chen zumin­dest diverse KI-Detek­toren eine Antwort. Doch genau hier beginnt das Problem. Nun soll eine Blackbox – der KI-Detektor – heraus­finden, welche Spuren eine andere Blackbox wie ChatGPT oder Claude in einem Text hinter­lassen hat.

Digi­tales Meinungs­lotto statt sicheren Nachweises

KI-Detek­toren, die verspre­chen, maschi­nell erzeugte Texte zu iden­ti­fi­zieren, werden von Schulen, Univer­si­täten, Verlagen und Unter­nehmen bereits einge­setzt. In der Praxis fallen ihre Urteile aller­dings oft erschre­ckend wider­sprüch­lich aus. Wer denselben Text durch mehrere Detek­toren laufen lässt, erhält nicht selten völlig unter­schied­liche Bewertungen.

Wir haben verschie­dene popu­läre Detek­toren mit unter­schied­li­chen Text­formen getestet. Natür­lich ist das ist keine wissen­schaft­liche Unter­su­chung. Der kleine Praxis­test zeigt aber sehr anschau­lich, wie vorsichtig man mit den Ergeb­nissen umgehen sollte.

Diese Ergeb­nisse machen deut­lich, wieso in seriösen Arti­keln, die sich auf die Ergeb­nisse von KI-Checkern berufen, immer mit Vorsicht formu­liert wird. Ein voll­ständig selbst geschrie­bener medi­zi­ni­scher Text wurde von einem Tool mit einer Wahr­schein­lich­keit von 93 Prozent als KI-gene­riert einge­stuft. Gleich­zeitig galt ein komplett von ChatGPT erstellter Lied­text bei allen drei getes­teten Detek­toren über­wie­gend oder voll­ständig als mensch­lich geschrieben.

Ganz absurd wird es, wenn jemand den Gebrauch von KI durch KI vertu­schen möchte: Soge­nannte „Huma­nizer“ sollen KI-Texte so umfor­mu­lieren, dass sie mensch­li­cher wirken und von Detek­toren nicht mehr erkannt werden. Bei unserem Versuch wurde das Ergebnis jedoch keines­wegs verläss­li­cher. Teil­weise stuften die Detek­toren den bear­bei­teten Text sogar häufiger als KI-gene­riert ein.

Spätes­tens hier stellt sich sowieso die Frage, ob der Aufwand nicht größer wird, als den Text von Anfang an selbst sorg­fältig zu bearbeiten.

Nicht jeder KI-Einsatz ist gleich zu bewerten

Ist aber nun jeder KI-Einsatz grund­sätz­lich negativ zu bewerten?

Bei einem Roman erwarten Leser neben einer Hand­lung auch eine indi­vi­du­elle Stimme, Krea­ti­vität und persön­liche Entschei­dungen des Autors. Die Person, die hinter dem Roman steht, gehört gewis­ser­maßen zum Produkt. Entspre­chend sensibel wird reagiert, wenn der Verdacht entsteht, hinter größeren Teilen eines lite­ra­ri­schen Textes könnte eine KI stehen.

Bei poli­ti­schen Reden ist die Lage kompli­zierter. Dass Spit­zen­po­li­tiker ihre Reden häufig nicht selbst schreiben, ist nichts Neues. Trotzdem sollte eine Rede Haltung, Posi­tion und Persön­lich­keit des Redners trans­por­tieren. Die entschei­dende Frage lautet deshalb weniger, wer jeden einzelnen Satz formu­liert hat. Wich­tiger ist, ob der Redner für den Inhalt steht und Verant­wor­tung für das Gesagte über­nimmt. Und bei Gedenk­reden finden wohl die meisten die Worte einer KI deplatziert.

Für Schulen und Univer­si­täten stellt sich ein anderes Problem. Wenn eine schrift­liche Arbeit gerade die eigen­stän­dige Fähig­keit zum Recher­chieren, Struk­tu­rieren und Formu­lieren bewerten soll, verän­dert KI-Unter­stüt­zung die Prüfungs­leis­tung. Da tun sich weit­rei­chende Probleme auf.

Bei vielen Sach­texten liegt der Schwer­punkt dagegen an anderer Stelle. Ein medi­zi­ni­scher Hinter­grund­ar­tikel, eine Pres­se­mit­tei­lung oder eine Bedie­nungs­an­lei­tung sollen vor allem fach­lich korrekt, verständ­lich und präzise sein.

Hier kann KI durchaus ein hilf­rei­ches Werk­zeug sein: bei der Struk­tu­rie­rung von Infor­ma­tionen, bei Über­set­zungen, Zusam­men­fas­sungen, Über­schrif­ten­vor­schlägen oder formalen Prüfungen. Viele Schrei­bende dürften entspre­chende Werk­zeuge längst als Assis­tenz nutzen.

Entschei­dend ist, wer die Verant­wor­tung übernimmt

Proble­ma­tisch wird es aber gerade hier, wenn Ergeb­nisse einer KI tatsäch­lich unge­prüft über­nommen werden sollten. Die Möglich­keiten einer KI, Fehler oder „Hallu­zi­na­tionen“ zu gene­rieren und sie mit der größten Über­zeu­gung zu präsen­tieren, sind fast unbegrenzt.

Am Ende des Tages geht es um die fach­liche Kontrolle. Wichtig ist, wer die Verant­wor­tung für das Ergebnis über­nimmt. Kein Zweifel, die KI kann Recherche, Struk­tu­rie­rung und Text­ar­beit unter­stützen. Fach­wissen, Erfah­rung, kriti­sches Denken und sorg­fäl­tige Quali­täts­kon­trolle ersetzt sie nicht.

Und für die Neugie­rigen: Für diesen Artikel gilt

ZeroGTP: 100 % wurde von einem Menschen verfasst

AI Detector: 90% Confi­dent That’s Original

Pangram: 100 % Human Written