Am 22. Oktober fand ein Workshop des Kompetenzzentrums KARL statt, der sich mit den ethischen, rechtlichen und sozialen Aspekten (ELSA) der KI-Gestaltung befasste. Die Veranstaltung bot den Teilnehmenden Einblicke in die verantwortungsvolle Entwicklung und Nutzung von KI-Lösungen. Eine unabdingbare Voraussetzung, um unsere demokratischen Werte in unserer Gesellschaft nachhaltig zu schützen.
Die Bedeutung ethischer Überlegungen in der KI-Entwicklung
Der Deutsche Ethikrat weist im Zusammenhang von KI-Einführungen auf die entscheidende Frage hin, „für wen eine Anwendung jeweils Chancen oder Risiken, also Erweiterungen oder Verminderungen mit sich bringt“ (2023). Damit soll unterstrichen werden, dass nicht jeder gleichermaßen von KI-Entwicklungen profitiert. Deshalb müssen gezielt alle gesellschaftlichen Akteure bedacht und geschützt werden. Dieser Ansatz stand auch im Mittelpunkt des Workshops, der von KARL-Projektpartnern, wie dem Forschungszentrum Informatik (FZI), dem Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) vom KIT sowie dem Forum Soziale Technikgestaltung (FST) organisiert wurde.
Der vielseitige theoretische Abriss zu Beginn der Veranstaltung, wo es unter anderem um New Work im Kontext von KI oder rechtsverbindliche KI-Verordnungen ging, legte den Grundstein für den anschließenden praktischen Teil, in dem die Teilnehmenden in ein fiktives Rollenspiel eintauchten.
Der moderierte Spezifikationsdialog: Ein partizipativer Prozess
Im Rollenspiel wurden die Workshopteilnehmenden zu Akteure eines fiktiven Unternehmens, welches in Betracht zieht, ein komplexes algorithmisches System zur Steuerung von Bewerbungsverfahren einzuführen. Dieses KI-System, das in der Personalgewinnung und -betreuung eingesetzt werden soll, wirft verschiedene ethische, rechtliche und soziale Fragen auf. Im Rollenspiel versuchte man mithilfe eines „moderierten Spezifikationsdialogs“ eine für alle Parteien vertretbare Lösung zu finden.
Der „moderierte Spezifikationsdialog“ ist ein partizipativer Prozess, der bei der Einführung von algorithmischen Systemen wie KI in Arbeitsumgebungen alle beteiligten Akteure von Anfang an einbezieht. Im Rollenspiel nahmen die Teilnehmenden unterschiedliche Standpunkte ein, wie beispielsweise den der Personalabteilung, des Betriebsrates, der Entwickler:innen oder der Geschäftsführung. Ziel ist es, ethische, rechtliche und soziale Fragen frühzeitig zu klären und nicht erst im Nachhinein zu reagieren. Im Dialog legen alle Beteiligten gemeinsam die Anforderungen und Verantwortlichkeiten fest, um Transparenz zu gewährleisten und die Rechte der Mitarbeitenden zu schützen.
Assistenz- vs. Delegationstechnik: Zwei Ansätze der KI-Anwendung
Im Workshop wurde klar, dass der Einsatz von KI nicht pauschal bewertet werden kann. Es muss unterschieden werden, ob man sich vielmehr für eine Assistenz- oder Delegationstechnik entscheiden möchte und welche Konsequenzen dies mit sich bringt.
Die Assistenztechnik unterstützt den Menschen bei seiner Arbeit, ohne ihm die Kontrolle zu entziehen. Der Mensch bleibt der handelnde Akteur, und die Technik dient der Erleichterung von Arbeitsprozessen. Historisch entstammt dieser Begriff der analogen Zeit, als Maschinen in der Produktion dazu dienten, Menschen bei körperlichen Arbeiten zu entlasten.
Die Delegationstechnik hingegen überträgt eine rechtsverbindliche Handlung auf ein IT-System. Hierbei gibt der Mensch die Entscheidungsmacht ab, und das KI-System trifft eigenständig Entscheidungen, die für das Unternehmen bindend sind. Diese Technik bringt erhebliche ethische und rechtliche Herausforderungen mit sich, da die Verantwortung von Menschen auf Maschinen übergeht.
Effizienz vs. ethische Verantwortung
Aus Kostengründen und aufgrund des Fachkräftemangels sind manche Unternehmen geneigt, sich für den Einsatz einer Delegationstechnik zu entscheiden. Doch dabei wird der Mensch oft in eine untergeordnete Rolle gedrängt, während Maschinen die Entscheidungshoheit übernehmen. Zwar ermöglicht dies eine immense Zeitersparnis, jedoch müssen die hierfür geeigneten Einsatzfelder sorgfältig durchdacht werden.
Ein weiteres zentrales Thema in der Simulation war der Datenschutz. Wo werden die Daten gespeichert, und welche Risiken entstehen, wenn personenbezogene Daten auf außereuropäischen Servern gespeichert werden? Gerade im Personalwesen, wo hochsensible Daten verarbeitet werden, stellt sich die Frage nach der Sicherheit und dem Schutz der Daten.
Die Zukunft der KI bedarf klarer ethischer Rahmenbedingungen
Der Workshop zeigte eindrucksvoll, dass die ethischen, rechtlichen und sozialen Aspekte von KI keinesfalls vernachlässigt werden dürfen. Insbesondere in sensiblen Bereichen wie dem Personalwesen müssen klare Regeln und Transparenz geschaffen werden, um die Rechte aller Beteiligten zu wahren. Der Dialog ist dabei unerlässlich, um die Chancen der KI zu nutzen, ohne die Risiken zu übersehen.
Wer gerne noch tiefer in das Thema eintauchen möchte, den verweisen wir auf den Artikel mit Welf Schröter vom Forum Soziale Technikgestaltung (FST): „Warum KI-Einführungen scheitern und wie man es besser macht“ und den ELSA-Leitfaden des Kompetenzzentrums KARL: ELSA bei KI-Einführungen.
Kompetenzzentrum KARL
Ziel von KARL ist es, menschzentrierte, transparente und lernförderliche, KI-unterstützte Arbeits- und Lernsysteme zu konzipieren und in konkreten Praxisanwendungen vorzeigbar zu machen. Das Projekt richtet sich an Unternehmen, Beschäftigte und Interessierte in der Region Karlsruhe, die sich KI-unterstützte Arbeits- und Lernsysteme einsetzen, damit auseinandersetzen oder diese besser verstehen wollen. KARL ist eines von aktuell dreizehn regionalen Kompetenzzentren, welches die Auswirkungen von Künstlicher Intelligenz (KI) auf die Lern- und Arbeitswelt untersucht.
Das CyberForum ist Teil des Projektkonsortiums und hauptsächlich mit der Öffentlichkeitsarbeit, dem Community-Management sowie dem Nachhaltigkeitskonzept betraut. Konsortialführer ist die Hochschule Karlsruhe. Projektpartner sind neben sieben Forschungs- bzw. Transferpartnern auch zehn regionale Unternehmen.