Von der unbewussten Nutzung im Alltag bis zur Automatisierung von Arbeit: KI wird weitreichend genutzt. Welche Chancen, Veränderungen und Risiken sich hinter der Technologie verbergen und wieso eine gesetzliche Regelung wie der AI Act notwendig ist, das verrät uns Herr Prof. Dr. René Peinl, Leiter der Forschungsgruppe Systemintegration am angegliederten Institut für Informationssysteme der Hochschule Hof, in einem Experteninterview.
Mittlerweile ist KI viel mehr als nur ein technologischer Trend, sie wurde zum Gamechanger in vielen Bereichen. Als Hilfestellung zum Verfassen von Texten, der Erstellung von Bildmaterial oder der generellen Sammlung von Wissen: Firmen, Studierende, Privatpersonen oder Selbständige nutzen KI zunehmend. Auch in vielen Alltagsanwendungen ist KI bereits integriert, von Navigationssystemen bis hin zu Einkaufsempfehlungen. Algorithmische Entscheidungsfindung (ADM) ist mittlerweile eine feste Größe in unserer Wirklichkeitswelt. KI bietet viel Potenzial für Verbesserungen und Erleichterungen, aber auch für Missbrauch. Daher gewinnt eine wertorientierte und verantwortungsvolle Nutzung von KI, die digitale Ethik, in diesem Kontext immer mehr an Notwendigkeit.
-
Inakzeptables Risiko: KI-Systeme, die ein erhebliches Risiko haben, Menschenrechte und Grundprinzipien zu verletzen, sollten verboten werden.
-
Hohes Risiko: KI-Systeme, die ein hohes Risiko für die Verletzung von Gesundheit, Sicherheit und Grundprinzipien haben, sollen reguliert werden.
-
Begrenztes Risiko: Betrifft KI-Systeme, die mit Menschen interagieren. Nutzer:innen müssen über die Anwendung von KI informiert werden.
-
Niedriges Risiko: KI-Systeme, die nicht beschränkt werden müssen, bei denen aber eine Dokumentation notwendig ist, wie beispielsweise Spamfilter.
Experten-Interview mit Prof. Dr. René Peinl
Hochschule Hof
Projektteam: Hallo, Herr Prof. Dr. Peinl. Beginnen wir einmal damit, welche Herausforderungen und Bedenken sich grundsätzlich beim Einsatz von KI in Verbindung mit Datenschutz, Qualität und Ethik ergeben. Was können Sie uns dazu sagen?
Um die Nutzung von KI zu regulieren, hat die EU 2022-23 den „AI Act“, das global erst umfassende AI-Gesetz, entwickelt. Wie anspruchsvoll ist dessen Umsetzung und Einhaltung?
Prof. Dr. Peinl: Die darin integrierte Risikoabschätzung wird als positiver Schritt angesehen, da sie sich auf die Auswirkungen konzentriert und nicht nur auf die Datenerhebung. Es gibt Beispiele und Diskussionen in Gesetzestexten über die Einstufung von generativer KI in Risikoklassen, aber keine eindeutige Einigung. Nun stehen Unternehmen vor der Herausforderung, ihre Produkte und Projekte angemessen in Risikoklassen einzustufen und dies im Zweifelsfall vor Gericht verteidigen zu müssen. Die größte Herausforderung besteht am Ende darin, eine verlässliche Einschätzung zu erhalten und sich entsprechend abzusichern.
Und wie können wir uns absichern bzw. sicherstellen, dass persönliche Daten bei der Anwendung von KI-Algorithmen ausreichend geschützt sind?
Das stellt sich schnell die Frage, was richtig und was falsch ist. Inwieweit sind also ethische Überlegungen bei der Entwicklung von KI-Systemen wichtig?
Das ist eine recht düstere Perspektive. Gibt es denn spezifische ethische Richtlinien, die Ihrer Meinung nach bei der Integration von KI in verschiedenen Anwendungsgebieten berücksichtigt werden sollten?
Das klingt schon hoffnungsvoller. Zum Fortschritt gehört dann auch die Sicherstellung der Qualität von KI-generierten Antworten und Daten, insbesondere in sensiblen oder kritischen Anwendungsfeldern, richtig?
Zum Abschluss noch eine typische Frage, wie sie sich auch eine Unternehmensberatung stellen würde: Welche Maßnahmen sollten Unternehmen und Organisationen ergreifen, um einen sicheren Einsatz von KI-Technologien zu gewährleisten?
Es ist schwierig, alle möglichen Missbrauchsszenarien vorherzusehen, da die Benutzer oft kreative und unerwartete Anwendungen für Software finden. Eine Strategie besteht darin, bekannte Risiken zu antizipieren und durch Sicherheitsmechanismen zu minimieren, um eine unerwünschte oder schädliche Nutzung zu verhindern. Ein kontinuierliches Monitoring der Anwendungen kann helfen, unerwartete Entwicklungen zu erkennen und angemessen darauf zu reagieren. Die Datenschutzgesetze müssen ebenfalls eingehalten werden, um sicherzustellen, dass die Anwendung den gesetzlichen Anforderungen entspricht und die Privatsphäre der Nutzer geschützt wird.
Vielen Dank, Herr Prof. Dr. Peinl, für diesen Ausflug zum Thema "AI im Rahmen der Digitalen Ethik" und herzlichen Dank für das führen des interviews an das Studierendenteam der Hochschule hof, zu deren projekt demnächst ein bericht folgt.
weitere Beiträge
Die Digitalisierung hat in den vergangenen Jahren unsere Arbeitswelt, aber auch unsere Gesellschaft im privaten Bereich enorm verändert. Dabei sind die Vorteile der Digitalisierung offensichtlich, eine Verbesserung von Effizienz, Produktivität, Kommunikation sowie die allgemeine Erhöhung des Wohlstands lassen sich leicht argumentieren. Andererseits darf man für eine umfassende, realistische Einschätzung auch die Risiken und Gefahren nicht außer Acht lassen. Ziel dieses Beitrages wird es sein, sowohl die Chancen als auch die Risiken der Digitalisierung aufzeigen und darzulegen und zu klären, inwiefern die Digitale Ethik helfen kann, Gefahren frühzeitig zu erkennen und zu adressieren.
Die Digitale Ethik untersucht verschiedene Handlungsoptionen, die sich aus der Entwicklung, dem Einsatz und der Anwendung digitaler Technologien ergeben. Das bedeutet, dass sie aus verschiedenen Perspektiven auf die Digitalität blickt.
KI, Robotik, Algorithmen, Big Data oder ganz allgemein die Digitalisierung sind aus unserem Leben nicht mehr wegzudenken, denn wir nutzen sie regelmäßig in immer mehr Bereichen (und oft, ohne es zu bemerken.)
Nachhaltigkeit und Digitale Transformation sind prägende und drängende Themen unserer Zeit und sollten mehr sein als nur Schlagworte. Die digitale Transformation –der Übergang in die digitale Welt mit ihren digitalen Geschäftsmodellen beschäftigt sich u.a. mit der Frage: Wie können sich Unternehmen am Markt behaupten, wenn sich ihre Märkte aufgrund disruptiver Technologien und Geschäftsmodelle drastisch verändern? Es bedarf einer Betrachtung der Beziehungen zwischen Unternehmen, Mitarbeiter:innen, Kund:innen und weiteren Stakeholdern.
Wir sind umgeben von digitalen Anwendungen – im Privatleben, im Beruf & im sozialen Kontext. Aber welche Konsequenzen resultieren aus diesen Entwicklungen und wie können wir als Gesellschaft die Digitalisierung zu unserem Vorteil und nicht unserem Nachteil nutzen? Dieses Thema werden wir ab Ende dieses Jahres in einem Blog über Digitale Ethik im Rahmen unseres Think Tanks beleuchten. Wir haben unserem Senior Transformation Consultant & Autor des Blogs, Carsten Gundlach, sechs Fragen zu diesem spannenden Thema gestellt.