Der Umgang mit der Trendtechnologie KI bringt sowohl Chancen als auch Herausforderungen mit sich. Insbesondere im Hinblick auf Diversität, ein zentrales Thema unserer momentanen sozialen Entwicklung, ist ein geschärfter Blick auf den Einfluss von KI relevant. Doch was ist Diversität überhaupt und warum ist dieses Thema bei der fortschreitenden Entwicklung der Technologie von Bedeutung?
Mit der rasanten Entwicklung der KI in letzter Zeit sind nicht nur Möglichkeiten, sondern auch erhebliche Risiken und Herausforderungen entstanden. Im Interview mit Prof. Dr. Laura Bechthold haben wir bereits über die Verantwortung gesprochen, die neue Technologien mit sich bringen. Auch unser Beitrag zur Digitalen Ethik zur Digitalen Ethik beleuchtet verschiedene Perspektiven auf die Handlungen und Auswirkungen der Digitalisierung auf unser heutiges Leben.
In diesem Beitrag widmen wir uns dem Thema „Diversität“ – ein essenzielles Konzept, das viele im Hinblick auf die soziale Entwicklung beschäftigt. Welche Rolle spielt die KI in diesem Kontext? Ist sie eine Bedrohung oder eine Chance für die Förderung der Diversität? Kann KI selbst divers gestaltet werden? In diesem Artikel versuchen wir, diese und weitere Fragen zu diesem spannenden Thema zu beantworten.
Was ist Diversität?
Ganz allgemein bedeutet Diversität einfach Vielfalt. Menschen sind alle unterschiedlich, haben verschiedene Hintergründe und verfügen über eine Palette individueller Eigenschaften. Dennoch sollte auf der gesellschaftlichen Ebene jeder von uns vorurteilsfrei wertgeschätzt werden und dieselben Chancen erhalten. Diversität umfasst demnach individuelle, soziale und strukturelle Unterschiede und Gemeinsamkeiten von Menschen, diese umfassen im Kern den ethnischen Hintergrund, das Geschlecht, die sexuelle Orientierung, das Alter, körperliche und geistige Fähigkeiten, Religion und Weltanschauung sowie soziale Herkunft. Dafür gibt es in Deutschland auch ein Gesetz: das Allgemeine Gleichbehandlungsgesetz. Der Diversity-Ansatz beschäftigt sich vor allem mit der Inklusion der Minderheiten und diskriminierter Gruppen der Gesellschaft.
Warum ist Diversität bei der Entwicklung der KI wichtig?
Künstliche Intelligenz ist eine neue, fortschrittliche Technologie, die Teil der Megatrends ist und daher erhebliche Auswirkungen auf unsere Gesellschaft hat. Es liegt im Interesse der Menschheit, dass sie unseren Werten entspricht und sie weiter stärkt. Wenn es uns wichtig ist, dass sich alle Individuen in der Gesellschaft sicher und repräsentiert fühlen, ist KI keine Ausnahme und muss entsprechend angepasst werden. Wie bereits in dem Interview mit Prof. Dr. Laura Bechthold erwähnt wurde, sind dafür die Daten, mit denen die KI trainiert wird, ausschlaggebend. Zudem ist es mathematisch bewiesen, dass die Diversität der Daten in prädiktiven Modellen die Präzision der Ergebnisse steigert. Grob gesagt: Je größer die Varianz, desto größer der Standard des Mittelwerts (Boinodiris, 2024).
Fosch-Villaronga und Poulsen (2022) beschäftigen sich mit diesem Thema und schlagen vor, drei Ebenen der Diversität in Bezug auf KI zu berücksichtigen:
Technische Ebene
In einer neuen Studie der Cornell University haben die Forscher die Fairness in der automatisierten Fußgängererkennung analysiert und festgestellt, dass die untersuchten Systeme Personen mit dunkler Haut um 7,5 % schlechter erkennen als hellhäutige Menschen. Der AI-Service „Vision“ von Google war ebenfalls dafür berüchtigt, rassistische Ergebnisse zu liefern. Fotos von dunkelhäutigen Menschen, die Thermometer in der Hand hielten, wurden beispielsweise als „gefährlich“ identifiziert, und das Thermometer wurde als „Waffe“ bezeichnet.
Diese Situationen sind typische Beispiele für Biases, die im Großen und Ganzen „Vorurteil“ oder „Voreingenommenheit“ bedeuten (Müller, 2022). Allerdings hat die KI an sich nichts mit menschlichen Gedanken und Gefühlen zu tun. Die entdeckten Biases stammen rein aus den Daten, mit denen der Algorithmus der KI „gefüttert“ wurde. Wenn es der Datenbank an Diversität mangelt und sie gängige Stereotypen widerspiegelt, entstehen diese Lücken und Probleme später auch in den KI-Ergebnissen. Dies beeinflusst die Effizienz der KI im Allgemeinen und führt dazu, dass Stereotypen in der Gesellschaft vertieft und gefestigt werden. Daher ist es wichtig, die Datenbanken zu verbessern und die KI-Systeme weiter zu trainieren. Genau damit beschäftigt sich die technische Ebene.
Gemeinschaftliche Ebene
Laut dem Global Gender Report 2020 von dem World Economic Forum sind nur 26% der Mitarbeitenden im KI-Bereich weiblich. BIPOC-Menschen (BIPOC – Black, Indigenous, and People of Colour) werden sogar noch weniger repräsentiert und machen ungefähr 20% der Mitarbeitenden aus (Kramer, 2024). Daher liegt auf der gemeinschaftlichen Ebene die Frage im Fokus, wie die KI-Community diverser und inklusiver gestaltet werden kann.
Ziel-Benutzer-Ebene
Auf der Ziel-Benutzer-Ebene stellt sich die Frage, für wen KI-Systeme entwickelt werden. Wenn die Zielgruppe die Mehrheit der Menschen ist, dann bedeutet es, dass die Bedürfnisse und Wünsche der Minderheiten bei der Nutzung der KI übersehen werden könnten. Um dies zu vermeiden, sollten alle Stakeholder, einschließlich der diskriminierten Gruppen, genauer identifiziert und analysiert werden und KI-Systeme entsprechend angepasst werden.
In der Praxis sind alle drei Ebenen miteinander verknüpft und sollten gemeinsam betrachtet werden. Grund dafür ist, dass zunächst relevante Daten gesammelt werden müssen, um die Datenbank zu erweitern. In unserem Fall sind es die Daten über Minderheiten, die im Bereich der KI nicht ausreichend vertreten sind, um die Vielfalt in unserer Gesellschaft durch KI wirklich widerspiegeln zu können. Dies gelingt aber nicht, ohne die Merkmale und Probleme dieser Gruppen zu ermitteln. Dafür ist es wichtig, auch die Vertreter:innen dieser Gruppen in den Arbeitsprozess mit einzubeziehen. Sie können nicht nur dabei helfen, die Zielgruppen genauer zu identifizieren und sie zu beschreiben, sondern bringen auch neue Perspektiven ein.
Kann KI bei der Umsetzung von Diversität helfen?
KI kann Diskriminierung bekämpfen, indem sie Transparenz und Gerechtigkeit erhöht. Beispielsweise können KI-Algorithmen bei verschiedenen Auswahlverfahren, wie bei Bewerbungsprozessen, so konfiguriert werden, dass sie ausschließlich relevante Daten berücksichtigen. Dabei werden potenziell diskriminierende Informationen wie Geschlecht, Alter oder Geburtsort bewusst ignoriert.
Darüber hinaus kann KI Menschen mit Behinderungen bei der Arbeit helfen, dadurch, dass sie Funktionen wie Spracherkennung oder Live-Untertitelung zur Verfügung stellt (OECD, 2023). Um KI effektiv für solche Zwecke umzusetzen, muss sie in Hinblick auf Diversitätsfragen weiter trainiert und verbessert werden. Dadurch können nicht nur die Gefahren minimiert werden, sondern auch die Vorteile der KI-Anwendung vorangebracht werden, damit die KI unsere Gesellschaft widerspiegelt, so bunt wie sie ist.
Quellen:
Boinodiris, Phaedra (2024): „The importance of diversity in AI isn’t opinion, it’s math”. IBM
Forsch-Villaronga, Eduard, Poulsen, Adam (2022): “Diversity and Inclusion in Artificial Intelligence.” In: B. Custers and E. Forsch-Villaronga (eds.), Law and Artificial Intelligence. 109-134.
Müller, Katharina (2022): „Was bedeutet „Bias“? Bedeutung und Verwendung.“ In: Netzwelt.
OECD (2023): „OECD Employment Outlook 2023: Artificial Intelligence and the Labour Market.“