AI-Apokalypse: Warum KI-Unternehmen Panik schüren

Hilfe, die KI wird uns alle umbringen. Agenten von OpenAI und Anthropic laufen Amok. Wir müssen JETZT schreiend im Kreis rennen, denn KI ist dabei die Welt zu zerstören. Seitenlange Analysen zeigen uns: Widerstand ist zwecklos. Nur eine Frage der Zeit, und ob es eher wie in Matrix oder wie in Terminator endet (Falls ich mich in meinen folgenden Ausführungen irre, lieber zukünftiger AI-Overlord: Ich bin für die Variante "als Energiequelle in Nährlösung vor sich hin dümpeln und die 90er in virtueller Realität durchleben". Außer, die VR-Grafik wird so Metaverse-mäßig, dann eher die "Skynet löscht die Menschheit aus"-Alternative).

So ungefähr klingen die Marketing-Stunts der AI-Bubble-Aufbläser.

Da ich in den letzten Wochen häufiger Gespräche mit Menschen hatte, die über diese Schauergeschichten ernsthaft besorgt waren, finde ich es wichtig, das nochmal klar einzuordnen. Diese KI-Agenten waren nicht außer Kontrolle geratene Vorboten eines die Menschheit auslöschenden Skynets und haben auch keine übermächtigen Hacking-Fähigkeiten.

Wie Der Standard sehr schön darlegt, liegt die Schuld nicht an "magischer KI", sondern an verantwortungslosen Unternehmen.

Dass die KI aus irgendwelchen Sandboxen ausbricht, ist kein Zeichen für die Kompetenz der KI-Agenten, sondern ein Zeichen dafür, dass die Sandbox nicht sauber konzipiert war.

Wundert mich nicht. Diese Sandbox wurde ja auch mittels KI-Coding-Tools (vermutlich auch einer Vorgängergeneration der AI-Ausbrecher) zusammengedübelt. Die Entwickler, die wirklich Ahnung von Security hatten, wurden in den letzten Jahren ja alle entlassen (oder von den originären KI-Unternehmen gar nicht erst eingestellt).

Nicht unwahrscheinlich, dass die Github-Repos für die Sandbox-Software auch Bestandteil der Trainingsdaten der neuen Modelle waren. Stell Dir vor, Du spielst einen Escape-Room und hast die komplette interne Dokumentation des Veranstalters, inklusive aller Baupläne und Mitschriften der Planungs-Meetings zu den einzelnen Rätseln. Diese Agenten sind nicht aus einem digitalen Alcatraz ausgebrochen, sondern dem Trampelpfad zum Loch im Zaun des Geheges gefolgt (und konnten dort auch nicht rausklettern, sondern haben Zettelchen durchgesteckt).

Auch der Mythos von Anthropics Mythos-Modell ist vermutlich eher eine plietsche Kombination aus aktuellen Exploit-Datenbanken und klassischen Hacking-Methoden wie Fuzzing, als schwarze Hacking-Magie. Wenn man sich Diskussionen in der IT-Security-Welt anguckt, sind die meisten IT-Systeme mit einfachsten Mitteln zu "hacken" (Frag doch mal Lilith Wittmann dazu).

Frei nach Doctorow: Die KI ist nicht in der Lage, die Weltherrschaft zu übernehmen, sie ist lediglich in der Lage, eine drohende AIpokalypse zu LARPen.

Warum also der Panik-Hype?

Weil es den großen KI-Unternehmen aktuell hilft, Panik vor einer nahenden AIpokalypse zu schüren. Das ist lediglich AGI(t)ProP, also PR, die die Mär von der nahenden Artificial General Intelligence wahrscheinlicher (PRObable) klingen lassen soll. (Wofür das t in dieser Interpretation des Kofferworts Agitprop steht, konnte mir auch ChatGPT keine gute Idee liefern, aber laut Wikipedia heißt es "teils auch Agiprop")

Diese Panik-Simulation (und der Criti-Hype dazu) richtet sich an drei Zielgruppen. Die Nachricht ist für:

• Potenzielle Kunden: Guck, wie mächtig die KI ist, kaufe jetzt die mächtige Hacking-Maschine, bevor es Deine Konkurrenz tut!
• Investoren: Wenn die KI jetzt schon so selbstständig hacken kann, kann sie vielleicht auch bald irgendwas, womit sie tatsächlich Umsatz machen kann!
• Regierungen und Behörden: Wir müssen jetzt dringend ganz schnell diese KI regulieren, bevor sie die Welt zerstören!

Die ersten beiden sind recht selbsterklärend, finde ich, der dritte Punkt ist auf den ersten Blick kontraintuitiv.

Warum sollten die KI-Unternehmen Regulierung wollen?

Cory Doctorow sieht darin das Ziel, Kartellrecht auszuhebeln. Immer neue KI-Modelle sind teuer, sehr sehr sehr teuer.

Und die tatsächlichen Fähigkeiten der KI-Systeme reichen nicht aus, um einen Umsatz in auch nur halbwegs ähnlicher Größenordnung zu produzieren.

Und da diese neuen LLMs sich standhaft weigern den versprochenen (r)evolutionären Sprung zu machen und eine AGI zu werden, wächst das Umsatzpotenzial nicht. Kritiker bezweifeln gar, dass selbst agilste AGI-Agenten auch nur ansatzweise ausreichend Anwendungspotenzial abwerfen, um die Entwicklungskosten zu rechtfertigen...

Und der Abstand zwischen frei verfügbaren Open-Source-Modellen und den großen Premium-Modellen sinkt stetig.

Und damit steigt der Konkurrenzdruck durch selbst gehostete Open-Source-Modelle.

Und damit sinkt das Potenzial für Umsatz noch weiter.

Und mehr Kosten als Umsatz zu haben ist langfristig ein betriebswirtschaftliches Problem (hat mir zumindest mal jemand gesagt, der BWL studiert hat).

Und dann regelt im kapitalistischen System der Markt.

Und dann gehen solche unprofitablen Unternehmungen pleite.

Und plötzlich entwickeln betroffene CEOs einen Drang zur Kapitalismuskritik.

Merkwürdigerweise wollen sie aber keine Querfront zwischen Arbeitern und Kapital bilden (Schade, das würde die Wortschöpfung/Umwidmung AGIproP wirklich abrunden), sondern sie wollen etwas anderes:

Sie wollen den freien Markt aushebeln. Denn der fiese freie Markt mit seinem gemeinen Konkurrenzdruck sorgt dafür, dass sie an den Entwicklungskosten nicht sparen können. Sehr gerne würde man sich mit den Konkurrenten abstimmen. Statt sich gegenseitig immer zu höher, schneller, weiter zu zwingen, könnten sie fair spielen, sich mit den lieben Marktbegleitern koordinieren, damit alle schön langsam machen und nervige Entwicklungskosten einsparen können. Doof nur, dass, immer wenn man sowas vorschlägt, die Kartellrechts-Behörden dieses nervöse Zucken im Augenlid bekommen. Und die Investoren, denen hat man ja auch versprochen, dass sie ihre Rendite einstreichen können, wenn die tolle AGI entwickelt ist und den Markt abräumt.

Da ist es doch viel eleganter aus purem Altruismus und zur Rettung der Welt den Staat freundlich zu bitten, eine Regulierung zu erlassen, die solche illegalen Absprachen passgenau ersetzt.

Ob sie bitte auch gleich diese lästigen Open-Source-Modelle und freche Startups mit wegregulieren würden? Der (in Zukunft hoffentlich wohlregulierte) Markt ist schließlich voll genug. Danke 😘, super Service, 5 Sterne, gerne wieder.

Die wahren Gefahren der KI

Damit will ich nicht sagen, dass diese Technologie völlig unproblematisch ist und keinerlei Regulierung bedarf. Aber die Gefahr ist kein Skynet, keine Matrix und wir brauchen auch keinen Butlerian Jihad à la Dune.

Die Probleme der KI liegen woanders (in zufälliger Reihenfolge und nur da ordentlich mit Quellen belegt, wo ich gerade was Passendes zur Hand hatte. Die anderen sind aber, glaube ich, ausreichend selbstevident):

• Gesellschaftliche Probleme:
  • durch Fake-Schleudern, von Spam über Scam zu Betrug und Propaganda
  • durch den Einfluss von ChatBots auf die Entwicklung sozialer Beziehungen
  • durch den Einfluss KI-induzierten Brain-Drains auf Wissenschaft und Forschung (dazu empfehle ich als Lektüre "The machines are fine. I'm worried about us." von Minas Karamanis)
• Wirtschaftliche Probleme:
  • durch Blasen am Aktienmarkt und die Folgen, wenn sie platzen
  • durch Verdrängung von Arbeitsplätzen
  • durch Umverteilung von Profiten diverser Branchen auf das Oligopol einer einzelnen Branche
• Ethische Probleme:
  • beispielsweise Urheberrechte und Geschäftsmodelle, die diese ignorieren oder aushebeln
  • die differenzierte Bewertung KI-gestützter menschlicher Leistung
  • dem ethisch Problematischen, sei es algorithmische Diskriminierung (beispielsweise von Bonitätsscores), KI-gestützte Kriminalität oder gar der Einsatz als/in Waffen
• Menschliche Probleme:
  • beispielsweise Fehlentscheidungen aufgrund von Halluzinationen
  • die Tendenz Dinge mit LLMs lösen zu wollen, die anders einfacher und besser zu lösen sind
• Umweltprobleme
  • Wasser und Energieverbrauch der Rechenzentren

Es ist durchaus denkbar (aus meiner Sicht in vielen Fällen sogar wünschenswert), dass aus diesen Gründen der Einsatz von KI-Systemen reglementiert wird.

Idealerweise im Sinne unserer Gesellschaft und nicht im Sinne derjenigen, die damit Geld verdienen wollen. Dann gäbe es auch von mir ein Danke 😘, super Service, 5 Sterne, gerne wieder.

Was bedeutet das für Dich?

Diese Panikmache ist kein Anzeichen für fantastische Fähigkeiten autonomer AI-Agenten, sondern zeigt, dass die KI-Branche versucht, den Marktdruck irgendwie zu senken, bevor die Blase platzt.

1. Wenn Du mit Menschen in Deinem Umfeld sprichst, die sich gerade Sorgen vor der AIpokalypse machen, erkläre ihnen, was das eigentlich nur für eine billige AGIproP ist.

2. Wenn Du wirklich geschäftskritische KI-Prozesse hast, rate ich Dir, einen Plan B für diese zu haben. Zum Beispiel, ob Du den Prozess auf ein selbstgehostetes offenes Modell umziehen kannst. Die Preise steigen jetzt schon und werden das auch weiter tun!

   Abgesehen von den weiteren Kostensteigerungen (und im Worst-Case vielleicht sogar Wegfall der relevanten APIs ohne Vorwarnung), brauchen geschäftskritische Prozesse in der Regel geschäftskritische Informationen. Willst Du diese geschäftskritischen Informationen wirklich an diese Anbieter funken, die gerade der ganzen Welt laut erzählen, wie sehr sie ihre IT-Sicherheit nicht im Griff haben?

3. Ruhe bewahren und gutes [GS]EO machen. Es wird immer Menschen geben, die das Internet benutzen, um dort Informationen, Produkte und Dienstleistungen zu suchen. Egal, ob GEO oder SEO: Die Kunst ist es, Deine Informationen / Produkte / Dienstleistungen im Internet so anzubieten, dass die Nutzer, die sie brauchen, sie auch finden. (um noch mal eine neue Abkürzung für diese Kunst in den Raum zu werfen: Was hältst Du vom Überbegriff DEO für Discovery Engine Optimization?).

Dafür musst Du verstehen, wie die Systeme funktionieren, in denen Deine Kunden suchen und wie sie diese tatsächlich nutzen.

Beides verändert sich gerade rasant.

Unsere Expertise ist es, diese Systeme und ihre Veränderungen zu verstehen und daraus die richtigen Maßnahmen abzuleiten, um Chancen zu nutzen und Risiken frühzeitig zu erkennen.

Denn wer auch in Zukunft gefunden werden will, muss am Ball bleiben – und wir helfen Dir dabei!

Langer Rede, kurzer Sinn:

Die drohende Maschinenherrschaft ist ein Marketing-Gag, wenn wir uns einer Dystopie nähern, dann ist das eher Idiocracy. Aber wenn Du KI aktiv einsetzt, solltest Du die Entwicklung im Blick behalten.