Sloppy KI-Detection und warum gute GEOs KI-Content mit Bedacht nutzen sollten
Als Google 2024 mit SynthID für Wasserzeichen um die Ecke kam, hatte ich mich zum Thema Wasserzeichen für KI-Content und generelle KI-Detection schon einmal skeptisch geäußert.
Jetzt ist das Thema KI-Wasserzeichen wieder brandaktuell. In den letzten Wochen hatten allein wir Wingmenschen uns dazu wie folgt geäußert:
- Saskia berichtete Dir ja, dass der EU-AI-Act die maschinenlesbare Kennzeichnung von AI-Content fordert
- Johan hat die Einführung von ähnlichen Wasserzeichen bei Anthropic eingeordnet
- und Jolle und Flo haben das in Wingcast Episode 12 ausführlich diskutiert
Ich habe das zum Anlass genommen, darüber nochmal nachzudenken, was ich da vor zwei Jahren geschrieben habe.
Immerhin sind fast zwei Jahre vergangen. Könnte ja sein, dass sich neuer Kontext ergeben hat, der dazu führt, dass eine einmal gefasste Meinung hinterfragt werden sollte.
Vielleicht muss ich sie sogar ändern (Worst-Case-Szenario, wer will denn schon seine Meinung ändern)...
Vielleicht hat sich meine Meinung in der Zwischenzeit auch ganz subtil, organisch, schleichend von alleine geändert (Klingt nach Charakterschwäche, aber vielleicht kann man es auch mentale Agilität nennen)...
Ha! Nix da! Glücklicherweise war Vergangenheitsbehrend so schlau und weitsichtig (oder vage genug in seinen Äußerungen), dass der ganze neue Kontext sich ganz ordentlich in das damalige Meinungsbild einfügt, sodass ich den Artikel heute inhaltlich noch voll unterstütze.
Diese statistischen Wasserzeichen für KI-Texte funktionieren immer noch nur, wenn der Text lang genug und der Prompt nicht zu spezifisch ist. Und natürlich, wenn der Text nicht zu stark verändert wurde. Von Lee Foot gibt es dazu einen Spielplatz, wie viele Edits notwendig sind, um Watermark loszuwerden (Achtung: Bevor Du da jetzt irgendwelche Texte rein nagelst, das basiert nicht auf den produktiv eingesetzten Algorithmen, sondern ist ein abstrahiertes Beispiel).
Trolle und Spammer werden weiterhin auch KI-Texte ohne Wasserzeichen produzieren können.
Ja, je mehr Anbieter ihre Modelle mit Wasserzeichen ausstatten, desto höher wird das zu überspringende Stöckchen. Aber spätestens wenn man eines der vielen, vielen existierenden, offenen Modelle, die keine Wasserzeichen haben, selbst hostet, spammt es sich ganz wasserzeichenfrei.
Aber auch wenn die Wasserzeichen nicht umgangen werden, bleibt der Aufwand bei der Erkennung höher als bei der Erstellung.
Schließlich kann das Wasserzeichen nur der erkennen, der es gesetzt hat. Anthropic erkennt nur Anthropics Wasserzeichen, Google nur Googles und so weiter. Du musst also einen Text immer bei allen Anbietern prüfen (oder einen Service bezahlen, der das macht).
Und wenn Du das machst, und die Wasserzeichen-Erkennung bei dem geprüften Text anschlägt, was dann?
Dann ist da noch die moralisch-ethische Problematik
Wenn ich lese, dass Autoren ihre Buchverträge wegen AI-Nutzung verlieren, frage ich mich, wie das beurteilt wurde.
Schließlich sind diese Text-Wasserzeichen kein geheimer DRM-Key, der ein eindeutiger Herkunftsnachweis ist, sondern das Verfahren bleibt ein Wahrscheinlichkeits-Ratespiel mit Falsch-Positiven und Falsch-Negativen.
Die unzähligen Third-Party-KI-Detektoren haben mit Sicherheit noch weit höhere Fehlerraten. Aber auch wenn die Genauigkeit dieser Wasserzeichen höher ist, ist sie auch genau genug?
Raoul Spada von der TAZ hat sich vor ein paar Wochen mit der Frage der KI-Detektoren beschäftigt, hat aber darauf keine Antwort finden können. Wenig überraschend, denn das ist eine moralisch-ethische Konsensfindung, die unsere Gesellschaft noch lange nicht ausdiskutiert hat.
Und dann gibt es noch eine weitere Dimension des Problems. James Padolsey schreibt (in diesem lesenswerten Artikel, der ausführlich die Funktionsweise der AI-Wasserzeichen erläutert) folgende Worte:
A found mark means "processed by", not "written by".
Je nachdem, wie grob Du einen Text-Entwurf runtergetippt hast, kann ein LLM-basiertes Korrekturlesen genug Änderungen für ein Wasserzeichen einbringen, ohne dass sich der Sinn des Textes verändert.
Meine Newsletter-Entwürfe beispielsweise strotzen vor angefangenen Gedanken, …
…unfertigen und kaputten Sätzen (die mir vom Lektorat (sei es ein anderer Wingmensch oder eine KI))
(Ich lasse diesen “Satz” mal als Stilmittel so stehen)
Wenn so eine KI Texte umbaut, eröffnet sich theoretisch tonnenweise Terrain, um mit technischer Tücke Texte zu transformieren und trotz thematischer Treue der Textanpassung den taktischen Token-Tausch trivial zu tarnen.
Zumindest wenn man wenig Wert auf einen persönlichen Schreibstil legt. Die Menge an Wortspielen und Alliterationen, die so kunstlose KI-Korrekturen mir schon kaputt machen wollten (und ständig wollen sie so Dinge, die ich in Klammern schreibe stattdessen durch Gedankenstriche absetzen... schlimm).
Aber auch wenn man die Wasserzeichen nicht durch den zwanghaften Drang zu schlechten Wortspielen oder ausgereiften Alliterationen aushebelt, ist das dann gleich AI-Slop?
Klar, wenn Studierende Hausarbeiten stumpf in Chatty schieben und mehr oder minder ungelesen abgeben, hat das keine Schöpfungshöhe und geschweige denn einen Lerneffekt...
Aber was ist, wenn der Inhalt sorgsam recherchiert und die inhaltliche Leistung menschengemacht ist, und am Ende lediglich ein LLM genutzt wurde, um das nochmal sprachlich zu glätten? Oder die Arbeit in der Muttersprache verfasst wurde und die KI zur Übersetzung genutzt wurde?
Andersrum kann (Achtung, den Gedankenstrich habe ich jetzt mal bewusst gesetzt:) – wenn der Autor die sykophantischen, mit Halluzinationen und Fehlschlüssen durchsetzten Plattitüden, die, nach ein paar halbdurchdachten Prompts, aus dem erstbesten Chatfenster gepurzelt sind, mit einer echten, quellenkritischen Recherche verwechselt und diese ohne eigene Gehirnleistung wiederkäut – auch ein Text aus Menschenhand, vielleicht sogar handschriftlich auf Papier eingereicht, de facto AI-Slop sein.
Und auch abseits von Lehre und Ausbildung gilt:
Ein KI-Wasserzeichen macht keine Aussage über die Güte des Inhalts.
Trotz der Möglichkeit gute Texte mit KI zu generieren/überarbeiten, ist natürlich die Wahrscheinlichkeit höher, dass ihr Inhalt mit weniger Gehirnschmalz, weniger Liebe zum Detail, weniger Faktentreue verfasst wurde.
Auch wenn der komplette Content einer ganzen Domain mit großer Sicherheit KI-generiert ist, kann der Inhalt theoretisch trotzdem hervorragend sein. Aber wenn ich mir 10 solche Domains angucke, habe ich wahrscheinlich 10 Spam-Domains oder sonst vermutlich einen statistischen Ausreißer.
Je nach Anwendungsfall, mag uns diese Wahrscheinlichkeit ausreichen, aber in vielen Fällen reicht das nicht.
Die Auswirkung von KI-Detektion auf GEO und SEO
Genug von Moral, Ethik und hoher Theorie, kommen wir zu den praktischen Auswirkungen.
Für Anthropic, Google, OpenAI und Co sind Wasserzeichen ein zusätzliches Hilfsmittel, AI-Spammer zu erkennen und den Anteil ihres Auswurfs in den Trainingsdaten ihrer Modelle zu verringern.
"Our focus on the quality of content, rather than how content is produced."
Aber das heißt noch lange nicht, dass sie oder ihre Marktbegleiter diesen Content auch in ihren Trainingsdaten der Modelle haben wollen (Stichwort Modellkollaps).
Inwiefern dafür Wasserzeichen genutzt werden und ob wassergezeichnete Inhalte direkt aus dem Trainingsset fliegen oder sie drin bleiben, wenn genügend andere Faktoren für sie sprechen… ¯\\_(ツ)\_/¯
Kann ich Dir nicht sagen, denn Wasserzeichen sind nur ein weiteres Werkzeug in einem Werkzeugkasten, der stetig weiterentwickelt wird.
Unabhängig von den Details ist der springende Punkt, dass KI-Unternehmen daran arbeiten, KI-Content aus den Trainingsdaten zu halten.
Behalte den Gedanken bitte im Hinterkopf, falls ein GEO-Guru versucht Dir einzureden, ganz viel tollen, KI-generierten Content ins Netz zu blasen, in der Hoffnung, irgendwie die Relevanz Deiner Brand in den Modellen zu erhöhen.
Und auch, wenn es nicht um die Trainingsdaten geht, wäre ich mit KI-Content vorsichtig.
Ja, Google sagt, dass KI-Content erlaubt ist, aber sie sagen nicht, dass es nirgends in die Bewertung einfließt.
Für die Spam-Erkennung ist es definitiv ein spannendes Signal.
Auch im Re-Ranking könnte die Information einfließen, ob der Content KI-generiert ist oder nicht. Wie gesagt, gibt es schon eine gewisse Wahrscheinlichkeit, dass KI-Content weniger gut ist, als menschengemachter Content.
Es macht für Google keinen Sinn, daraus ein starkes Signal abzuleiten, das Dinge wie Navboost überschreiben könnte. Aber vielleicht ist es hier und da ein Zünglein an der Waage.
Hast Du für Deinen Online-Shop einen KI-Quirl laufen, der die Produktbeschreibungen des Herstellers, die alle Shops haben, "unique" machen soll?
Wenn Du einfach nur eine Token-Rochade durchführst, ohne dass der Informationsgehalt des Textes sich verändert, sind die "uniquen" Texte vielleicht schlechter für Deine Rankings, als der Duplicate Content mit der Konkurrenz.
Anders sieht es aus, wenn der Quirl da noch zusätzliche, für Kunden hilfreiche Informationen unterrührt. Stichwort Information Gain.
Die zusätzlichen Informationen kannst Du aber auch als eigenes Element einbauen. Quasi als Information-Gain-Sahnehaube auf dem Content-Kuchen. Schmeckt der Suchmaschine (und Deinen Kunden) vielleicht besser, als die Sahne einfach so mit in den Teig zu rühren.
Und bevor hier irgendwer, irgendwen, irgendwie missversteht: Damit meine ich explizit nicht, dass Du oder irgendwer (oder irgendwas, KI-Algorithmen sind ja ein "was") wahllos Produktdaten in einen unübersichtlichen Fließtext verwandeln, die vorher leicht erfassbar, schön als Tabelle oder so, verfügbar waren, um das in die Produktbeschreibung zu dengeln.
Irgendwelche KI-Text-SaaS-Startups wollen Dir vielleicht gerne solche Prosa “schreiben”, aber Deine Kunden wollen keine Prosa lesen, sondern möglichst einfach erfassen können, was Deine Produkte ausmacht.
Selbst wenn Du Prosa verkaufst (Publisher, Buchläden und so), wollen Deine Kunden keine Produktbeschreibung lesen müssen, um relevante Produktinformationen zu bekommen.
Wenn Deine Nutzer ausreichend verzweifelt sind, produzieren sie zwar schöne lange Sessions, während sie mühsam die ganzen individuellen Texte der einzelnen Produkte studieren, aber das ist kein Engagement, sondern Enragement!