Ein Essay von Robin Pocornie

Künstliche Intelligenz (KI) soll unser Leben einfacher gestalten. Zahlreiche Menschen benachteiligt sie allerdings – zum Beispiel aufgrund ihrer Hautfarbe, sexuellen Identität oder ihres Alters. Das geschieht dann, wenn die Daten, mit denen die KI trainiert wird, bestehende gesellschaftliche Vorurteile widerspiegeln. Robin Pocornie hat als Studentin selbst diese Erfahrung gemacht. Seitdem engagiert sich die heutige Wissenschaftlerin und Speakerin für gerechtere KI-Systeme. Hier erklärt sie, warum vielfältigere Datensätze allein das Problem nicht lösen werden.

Die Studentin ohne Gesicht: digital diskriminiert?

Im Jahr 2020, auf dem Höhepunkt der Coronapandemie, begann ich damit, mich für eine gerechtere künstliche Intelligenz einzusetzen. Ich tat das nicht freiwillig oder aus wissenschaftlichen Gründen – obwohl ich Informatik studierte. Sondern weil ein Algorithmus zur Gesichtserkennung mich nicht erkannt hatte. Die Software, die meine Universität für Onlineprüfungen nutzte, war nicht in der Lage, Schwarze Studierende wahrzunehmen. Folglich kam es bei mir – anders als bei meinen Weißen Kommilitoninnen und Kommilitonen – zu Verzögerungen und Problemen bei meinen Prüfungen. Ich beschloss, meine Universität über diese unerfreuliche (um nicht zu sagen schmerzliche) Erfahrung zu informieren. Dazu motivierten mich auch Berichte über andere Studierende weltweit, die mit dem gleichen Problem kämpften.

Es hat mich viele Versuche (und mehrere Monate) gekostet, um auch nur die richtige Anlaufstelle für meine Beschwerde zu finden. Letztlich lehnte die Universität meine Forderung ab, die Prüfungssoftware nicht mehr zu nutzen. Seitdem kämpfe ich für faire und gerechte Algorithmen und will Organisationen, Regierungen und den privaten Sektor zu einem verantwortungsvolleren Umgang bewegen. Im Jahr 2022 urteilte das Netherlands Institute for Human Rights in einer ersten Einschätzung, dass ich genügend Beweise für eine Diskriminierung vorgelegt hätte. Doch nachdem die Universität angehört worden war, kam das Institut im Oktober 2023 zu dem Schluss, dass die betreffende Software zwar diskriminierend sein könnte, aber nicht eindeutig bewiesen sei, dass dies in meinem Fall auch tatsächlich stattgefunden habe. Ich war enttäuscht. Diese Entscheidung zeigte mir, wie schwierig es ist, technische Diskriminierung juristisch zu stoppen.

Unsere KI-Modelle basieren auf Datensätzen, welche die Lebensrealität bevorzugt aus der Perspektive einer wohlhabenden europäischen und nordamerikanischen Bevölkerung abbilden. Dies führt dazu, dass sich Stereotype zu Hautfarbe oder auch Geschlecht weiter halten, was wiederum Initiativen gegen Vorurteile behindert. Als etwa Text-zu-Bild-Generatoren Bilder von Menschen in verschiedenen Berufen erzeugen sollten, waren die Ergebnisse bedrückend simpel: In Berufen mit hohem Einkommen erschienen Bilder von weißen Männern, in Berufen mit niedrigem Einkommen Bilder von nichtweißen Frauen.

Auch bei der Stellenbesetzung können sich geschlechtsspezifische Vorurteile durch KI verfestigen. Ein Beispiel dafür ist die KI-gesteuerte Bewerbungssoftware von Amazon. Wegen veralteter Daten, die ein ungleiches Geschlechterverhältnis widerspiegelten, bevorzugte es für technische Positionen grundsätzlich männliche Bewerber. Diese Verzerrung zeigt, dass KI-Systeme mehr Transparenz und Fairness brauchen, um Diskriminierung zu verhindern und Chancengleichheit für alle Bewerberinnen und Bewerber zu gewährleisten.

Das bevorzugte Vorgehen gegen vorurteilsbelastete KI besteht darin, die Datensätze zum Training der Algorithmen zu diversifizieren. Die Forderungen nach vielfältigeren Datensätzen sind zwar gut gemeint, aber sie reichen nicht aus. Wir brauchen einen anderen Blick auf die Entwicklung von KI und müssen diese von Grund auf überdenken. Eine solche neue Sichtweise erfordert, dass Fairness und Gleichberechtigung höher priorisiert werden als technologische Vorteile.

3 Wege hin zu gerechteren KI-Entscheidungen

Oft laden mich Unternehmen und Organisationen ein, mein Wissen über diese ethische KI-Perspektive zu teilen. Die Lösungen, die ich gegen die zunehmenden Vorurteile unserer Entscheidungsmodelle vorschlage, lassen sich von Software-Entwicklungsteams ebenso umsetzen wie von Führungsgremien. Denn sie berücksichtigen sowohl technologische als auch organisatorische Aspekte im Umgang mit KI. Am wichtigsten finde ich, dass die Auswirkungen von KI, die der Öffentlichkeit oft verborgen bleiben und womöglich unvorhergesehene Folgen haben können, besser sichtbar gemacht werden. Wie?