Von der unbewussten Nutzung im Alltag bis zur Automatisierung von Arbeit: KI wird weitreichend genutzt. Welche Chancen, Veränderungen und Risiken sich hinter der Technologie verbergen und wieso eine gesetzliche Regelung wie der AI Act notwendig ist, das verrät uns Herr Prof. Dr. René Peinl, Leiter der Forschungsgruppe Systemintegration am angegliederten Institut für Informationssysteme der Hochschule Hof, in einem Experteninterview.
Mittlerweile ist KI viel mehr als nur ein technologischer Trend, sie wurde zum Gamechanger in vielen Bereichen. Als Hilfestellung zum Verfassen von Texten, der Erstellung von Bildmaterial oder der generellen Sammlung von Wissen: Firmen, Studierende, Privatpersonen oder Selbständige nutzen KI zunehmend. Auch in vielen Alltagsanwendungen ist KI bereits integriert, von Navigationssystemen bis hin zu Einkaufsempfehlungen. Algorithmische Entscheidungsfindung (ADM) ist mittlerweile eine feste Größe in unserer Wirklichkeitswelt. KI bietet viel Potenzial für Verbesserungen und Erleichterungen, aber auch für Missbrauch. Daher gewinnt eine wertorientierte und verantwortungsvolle Nutzung von KI, die digitale Ethik, in diesem Kontext immer mehr an Notwendigkeit.
Experten-Interview mit Prof. Dr. René Peinl
Hochschule Hof
Projektteam: Hallo, Herr Prof. Dr. Peinl. Beginnen wir einmal damit, welche Herausforderungen und Bedenken sich grundsätzlich beim Einsatz von KI in Verbindung mit Datenschutz, Qualität und Ethik ergeben. Was können Sie uns dazu sagen?
Um die Nutzung von KI zu regulieren, hat die EU 2022-23 den „AI Act“, das global erst umfassende AI-Gesetz, entwickelt. Wie anspruchsvoll ist dessen Umsetzung und Einhaltung?
Prof. Dr. Peinl: Die darin integrierte Risikoabschätzung wird als positiver Schritt angesehen, da sie sich auf die Auswirkungen konzentriert und nicht nur auf die Datenerhebung. Es gibt Beispiele und Diskussionen in Gesetzestexten über die Einstufung von generativer KI in Risikoklassen, aber keine eindeutige Einigung. Nun stehen Unternehmen vor der Herausforderung, ihre Produkte und Projekte angemessen in Risikoklassen einzustufen und dies im Zweifelsfall vor Gericht verteidigen zu müssen. Die größte Herausforderung besteht am Ende darin, eine verlässliche Einschätzung zu erhalten und sich entsprechend abzusichern.
Und wie können wir uns absichern bzw. sicherstellen, dass persönliche Daten bei der Anwendung von KI-Algorithmen ausreichend geschützt sind?
Das stellt sich schnell die Frage, was richtig und was falsch ist. Inwieweit sind also ethische Überlegungen bei der Entwicklung von KI-Systemen wichtig?
Das ist eine recht düstere Perspektive. Gibt es denn spezifische ethische Richtlinien, die Ihrer Meinung nach bei der Integration von KI in verschiedenen Anwendungsgebieten berücksichtigt werden sollten?
Das klingt schon hoffnungsvoller. Zum Fortschritt gehört dann auch die Sicherstellung der Qualität von KI-generierten Antworten und Daten, insbesondere in sensiblen oder kritischen Anwendungsfeldern, richtig?
Zum Abschluss noch eine typische Frage, wie sie sich auch eine Unternehmensberatung stellen würde: Welche Maßnahmen sollten Unternehmen und Organisationen ergreifen, um einen sicheren Einsatz von KI-Technologien zu gewährleisten?
Es ist schwierig, alle möglichen Missbrauchsszenarien vorherzusehen, da die Benutzer oft kreative und unerwartete Anwendungen für Software finden. Eine Strategie besteht darin, bekannte Risiken zu antizipieren und durch Sicherheitsmechanismen zu minimieren, um eine unerwünschte oder schädliche Nutzung zu verhindern. Ein kontinuierliches Monitoring der Anwendungen kann helfen, unerwartete Entwicklungen zu erkennen und angemessen darauf zu reagieren. Die Datenschutzgesetze müssen ebenfalls eingehalten werden, um sicherzustellen, dass die Anwendung den gesetzlichen Anforderungen entspricht und die Privatsphäre der Nutzer geschützt wird.
Vielen Dank, Herr Prof. Dr. Peinl, für diesen Ausflug zum Thema "AI im Rahmen der Digitalen Ethik" und herzlichen Dank für das führen des interviews an das Studierendenteam der Hochschule hof, zu deren projekt demnächst ein bericht folgt.
weitere Beiträge
Künstliche Intelligenz (KI) hat sich in kürzester Zeit zu einem unverzichtbaren Werkzeug in der Kreativbranche entwickelt, sowohl im privaten als auch im geschäftlichen Bereich. Ihre rasante Weiterentwicklung führt dazu, dass KI heute schon in viele kreativen Berufen integriert ist und diese nachhaltig verändert. Doch welche Möglichkeiten bringt die neue Technologie mit sich für die verschiedenen kreativen Bereiche? Welche Herausforderungen entstehen dadurch und wie kann man damit umgehen? Diese Fragen sollen in unserem Blogbeitrag geklärt werden.
Der Umgang mit der Trendtechnologie KI bringt sowohl Chancen als auch Herausforderungen mit sich. Insbesondere im Hinblick auf Diversität, ein zentrales Thema unserer momentanen sozialen Entwicklung, ist ein geschärfter Blick auf den Einfluss von KI relevant. Doch was ist Diversität überhaupt und warum ist dieses Thema bei der fortschreitenden Entwicklung der Technologie von Bedeutung?
Autonomes Fahren ist eine der großen Entwicklungen unserer Zeit. Dabei geht es viel mehr als um technischen Fortschritt. Sicherheit und Verantwortung sind entscheidende Themen in der großen Transformation der Automobilbranche. Mehr dazu erfahren wir von Prof. Dr. Johannes Betz von der Technischen Universität München in einem Experteninterview...
Unsere Arbeitsweise wird laufend durch Megatrends transformiert. KI unterscheidet sich jedoch von den anderen Technologien, da sie im Prinzip alle Berufsfelder umfasst. Wie können also die negativen und positiven Vorhersagen über die Auswirkungen der KI auf den Arbeitsmarkt untersucht werden? Und wie kann sich an die weitreichende Anwendung von KI angepasst werden? …
Prof. Dr. Laura Bechthold ist Professorin an der Technischen Hochschule Ingolstadt mit dem Lehrgebiet Technology Assessment and Cultural Management. Einer ihrer Forschungsschwerpunkte ist Corporate Digital Responsibility (CDR) und auch im Allgemeinen beschäftigt sie sich mit technologischen Entwicklungen und der Verantwortung, die Innovationen mit sich bringen. Daher haben wir uns an Laura gewandt für einen Einblick in das Thema CDR, die „digitale Verantwortung“, die KI bereits in ihrer Entwicklung sowie der Datenbereitstellung und -auswertung mit sich bringt...
Die Digitalisierung hat in den vergangenen Jahren unsere Arbeitswelt, aber auch unsere Gesellschaft im privaten Bereich enorm verändert. Dabei sind die Vorteile der Digitalisierung offensichtlich, eine Verbesserung von Effizienz, Produktivität, Kommunikation sowie die allgemeine Erhöhung des Wohlstands lassen sich leicht argumentieren. Andererseits darf man für eine umfassende, realistische Einschätzung auch die Risiken und Gefahren nicht außer Acht lassen. Ziel dieses Beitrages wird es sein, sowohl die Chancen als auch die Risiken der Digitalisierung aufzeigen und darzulegen und zu klären, inwiefern die Digitale Ethik helfen kann, Gefahren frühzeitig zu erkennen und zu adressieren.
Die Digitale Ethik untersucht verschiedene Handlungsoptionen, die sich aus der Entwicklung, dem Einsatz und der Anwendung digitaler Technologien ergeben. Das bedeutet, dass sie aus verschiedenen Perspektiven auf die Digitalität blickt.
KI, Robotik, Algorithmen, Big Data oder ganz allgemein die Digitalisierung sind aus unserem Leben nicht mehr wegzudenken, denn wir nutzen sie regelmäßig in immer mehr Bereichen (und oft, ohne es zu bemerken.)
Nachhaltigkeit und Digitale Transformation sind prägende und drängende Themen unserer Zeit und sollten mehr sein als nur Schlagworte. Die digitale Transformation –der Übergang in die digitale Welt mit ihren digitalen Geschäftsmodellen beschäftigt sich u.a. mit der Frage: Wie können sich Unternehmen am Markt behaupten, wenn sich ihre Märkte aufgrund disruptiver Technologien und Geschäftsmodelle drastisch verändern? Es bedarf einer Betrachtung der Beziehungen zwischen Unternehmen, Mitarbeiter:innen, Kund:innen und weiteren Stakeholdern.
Wir sind umgeben von digitalen Anwendungen – im Privatleben, im Beruf & im sozialen Kontext. Aber welche Konsequenzen resultieren aus diesen Entwicklungen und wie können wir als Gesellschaft die Digitalisierung zu unserem Vorteil und nicht unserem Nachteil nutzen? Dieses Thema werden wir ab Ende dieses Jahres in einem Blog über Digitale Ethik im Rahmen unseres Think Tanks beleuchten. Wir haben unserem Senior Transformation Consultant & Autor des Blogs, Carsten Gundlach, sechs Fragen zu diesem spannenden Thema gestellt.