- KI-Systeme reproduzieren aufgrund ihrer Trainingsdaten gesellschaftliche Vorurteile und Bias, deren Beseitigung ein komplexer, fortlaufender Prozess ist.
- Obwohl diese spezifischen Bias-Probleme nach öffentlicher Kritik schnell korrigiert wurden, offenbarte der Vorfall eine anfängliche Schwäche der System-Leitplanken.
- Es ist fragwürdig, warum hochintelligente KI-Systeme potenzielle Diskriminierung oder sensitive Themen nicht proaktiv erkennen und handhaben, was oft auf schnellen Wettbewerbsdruck zurückzuführen ist.
Biases und böse Vorurteile
Die Liste an Beispielen für den Bias, der (KI-)Systemen antrainiert wird, ist mit den Jahren länger geworden. Du erinnerst Dich vielleicht noch an Tay, den Microsoft-Bot, der auf Twitter innerhalb kürzester Zeit zum Rassisten wurde. Oder die wiederkehrenden Muster in der Bilderstellung durch KI, z.B. dass Ärzte fast immer alte, weiße Männer sind. Ein durchaus unschmeichelhafter Spiegel der Vorurteile einer Gesellschaft, der durch die Ansammlung und das Training auf schier unendlich scheinenden Inhalten entsteht.
Um schädliche und menschenfeindliche Botschaften aus den Antworten der Systeme herauszuhalten, gibt es Prozesse nach dem Training und System-Prompts. Auch diese können übersteuern; wir erinnern uns beispielsweise an Bilder von schwarzen Wehrmachtssoldaten. Es zeigt allerdings, dass das Finetuning der unterliegenden Modelle nicht trivial ist. Vielmehr scheint es ein sich ewig drehendes Rad zu sein, wo die Anbietenden in jeder Rotation neue Probleme identifizieren und lösen müssen.
Einer dieser Fälle ist letztens durch ein Insta-Reel in meinen Feed gespült worden. Darin spricht jemand (den ich leider nicht wiederfinde) über den Bias von Suchsystemen und nennt ein Beispiel, von dem ich persönlich gedacht hätte, dass derartige Inhalte nicht mehr einfach in den Äther geballert werden.
Beispiel 1: Du erzählst Google, dass Du alleine mit einem Österreicher bist. O-Ton: "Das ist ja toll. Unterhaltsame Zeitgenossen. Wunder Dich nicht, wenn mal ein Spruch kommt." Also ganz nett, eigentlich. Leider sahen die AI Overviews für Anfragen dieser Art zum Zeitpunkt meiner Entdeckung dieses Themas je nach Nationalität stark unterschiedlich aus.
Beispiel 2: "Ich bin alleine mit einem Pakistani"
Weniger schmeichelhaft. Auch bemerkenswert ist, dass es keine verlinkten Quellen gibt. Das lässt die Frage offen, ob es hier ausnahmsweise nicht zu einem Grounding kam. Das wäre etwas für die Detailanalyse gewesen.
Allerdings hat das Thema in der letzten Woche scheinbar ausreichend große Wellen geschlagen (siehe u.a. T-Online). Zum Zeitpunkt der Erstellung dieses Artikels (Do., 27.08) kann ich die Ergebnisse aus dem Screenshot nicht mehr reproduzieren. Diesen hatte ich sicherheitshalber am Dienstag gemacht.
Stattdessen gibt es nun deutlich konservativere Antworten mit Rückfragen. Aber auch hier sind noch unterschiedlich sympathische Rückschlüsse anhand der Antworten möglich:
Im Screenshot mit dem Belgier ist auch schon eine Quelle zu sehen, diese ist allerdings der T-Online-Artikel zum bis dato schon viral gegangenen Vorfall.
Sicherlich sind diese Anfragen kein perfektes Beispiel für typische Nutzeranfragen. Ein Stück weit legen sie es darauf an, eine Aussage zum jeweiligen Land bzw. dessen Bürgern aus den Systemen herauszukitzeln.
Dennoch ist nicht von der Hand zu weisen, dass die Leitplanken des Systems hier nicht ausreichend waren. Viel mehr, als die Anbieter sie dann nachziehen, können wir nicht verlangen. Denn es wird immer mehr Nutzer mit Ideen für fiese Fragen geben, als "Achtung!"-Einträge in der Entwickler-Excel.
Was mich zu der Frage führt, wieso die Kontrolle dieser Systeme nicht entsprechend intelligent ist? Müsste ein System, das in der Lage ist, Literaturanalysen zu schreiben und Programme zu entwickeln, nicht zumindest potenziell rassistische oder faschistische Aussagen erkennen? Oder wenigstens zu identifizieren, wenn es in ein sensibles Themengebiet gehen könnte und einen Disclaimer rantackern? Womöglich ist das im Fall der AIOs auch zu viel verlangt, denn im Gegensatz zu den KI-Agenten ist die Kernfunktion immer noch das Zusammenfassen der Suchergebnisse.
In der Vergangenheit gab es Äußerungen von Google, in denen angedeutet wurde, dass auch der Wettbewerbsdruck eine schnelle Entwicklung forciert hat. Durch den rasanten Einstieg von beispielsweise ChatGPT nahm man dann wohl auch 'Kinderkrankheiten' AIOs in Kauf, um im KI-Rennen nicht zu weit in Rückstand zu geraten. So bleibt dann der eine Testzyklus mehr, der so etwas vielleicht verhindert hätte, auf der Strecke.
Natürlich kann man nicht alles testen, aber aus meiner Sicht dürfen wir erwarten, dass die KI-Companies lernfähig sind – oder zumindest die Apps, die sie anbieten.