Ziad Mahayni ist Professor für Angewandte Ethik an der Hochschule Karlsruhe und Leiter des Zentrums für ethische Fragen im 21. Jahrhundert. Er hat an der TU-Darmstadt, Université de Bordeaux und der Harvard University Chemie und Philosophie studiert und lehrte zuvor in den Bereichen Future-Design und Creative Entrepreneurship. Er ist Autor des Buchs „Mensch-Sein im Zeitalter Künstlicher Intelligenz“, Herausgeber der Buchreihe „Ethische Fragen im 21. Jahrhundert“ und betreibt den Podcast „Auf der Kippe - Philosophie für das digitale Zeitalter“.  

In der Leitstelle eines Verkehrsbetriebs überwachen Disponent:innen den gesamten Verkehr des ÖPNV. In einem Störungsfall müssen sie schnell reagieren, dabei sehr viele Faktoren gleichzeitig berücksichtigen und sind dadurch einem sehr hohen Stress ausgesetzt. Ziel ist es, Daten zu bisherigen Störungsfällen mithilfe von Künstliche Intelligenz (KI) auszuwerten und darauf basierend einen Vorschlagsassistenten zu entwickeln, der Disponent:innen unterstützt. Dabei ist es wichtig, den Assistenten so zu gestalten, dass dieser auf die Bedürfnisse der Disponent:innen zugeschnittenen und intuitiv zu bedienen ist.

Durch eine KI-Unterstützung im Offline-Reiseberatungsgespräch erhalten Beratende proaktive aktuelle Themen und Informationen für eine zielgerichtete Gesprächsführung. Gleichzeitig wird für Kund:innen die Reisewunschermittlung optimiert, indem ihnen zur besseren Vorstellung des Reiseziels passende Bilder dynamisch und in Echtzeit präsentiert werden.

Wissensarbeit basiert auf Information und Kreativität, doch ein erheblicher Teil der Arbeitszeit wird durch zeitaufwendige Recherchen gebunden. Klassische Suchverfahren stoßen hierbei an Grenzen, da sie überwiegend syntaktisch arbeiten und inhaltliche Zusammenhänge unberücksichtigt lassen. Unser Ansatz setzt auf ein domänenspezifisch trainiertes BERT-Sprachmodell, das Dokumente semantisch durchsucht und kontextbezogene Ergebnisse bereitstellt. Ergänzt durch erklärbare KI wird der Rechercheprozess transparenter und effizienter. Dadurch entsteht ein Werkzeug, das Routinetätigkeiten minimiert und Wissensarbeitende wirksam unterstützt.

Im Rahmen des Forschungsprojekts KARL wurden verschiedene Assistenzsysteme in der Lernfabrik des wbk integriert, in der kleine Elektromotoren in hoher Variantenvielfalt montiert werden können. Dazu zählen Kinemic Wearables und Attachables zur Erkennung von Arbeitsschritten, Der Schlaue Klaus zur bildbasierten Qualitätssicherung sowie die teilweise robotische Umsetzung von Montageschritten. Darüber hinaus wurde mit dem Halodome ein System zur Anomaliedetektion entwickelt, das ebenfalls zur Qualitätsprüfung am Ende einer Produktionslinie eingesetzt werden kann.

Die Personaleinsatzplanung in der Fertigung ist durch hohe Komplexität und Dynamik geprägt: Unterschiedliche Parameter, Belastungssteuerung und kurzfristige Änderungen erfordern ein hohes Maß an Erfahrung und Flexibilität seitens der Führungskräfte. Gleichzeitig steigen die Anforderungen an Transparenz und Nachvollziehbarkeit, um nicht nur die Effizienz der Produktion, sondern vor allem auch die Zufriedenheit der Mitarbeitenden zu gewährleisten. Ziel des Use-Cases ist daher, einen KI-Assistenten zu entwickeln, welcher die Führungskräfte bei der Planung entlastet und zu einer ausgeglichenen Arbeitsbelastung der Mitarbeitenden führt.

Hey-KI ist eine webbasierte Lernanwendung, mit der Nutzende die Wirkung zentraler LLM-Parameter (Prompts, Temperature, Nucleus Sampling, Frequency/Presence Penalty) anhand kontrastiver Ausgaben direkt erfahren können. So wird die Funktionsweise entmystifiziert und KI-Kompetenz gefördert; in einer Laborstudie mit Studierenden zeigte sich ein signifikanter Wissenszuwachs und eine positive Nutzungsbewertungen. Für Schule, Hochschule und betriebliche Weiterbildung bietet Hey-KI einen niedrigschwelligen, praxisnahen Einstieg in den reflektierten LLM-Einsatz.

Große Sprachmodelle stellen eine große Chance für das individualisierte Lernen dar. Doch Lehrkräfte, Lernende und Bildungsinstitutionen stehen vor einer zentralen Herausforderung: Wie lässt sich die Korrektheit der generierten Informationen sicherstellen? Falsche oder veraltete Inhalte können Lernerfolge gefährden und das Vertrauen in digitale Lernhilfen untergraben. Mit dem Lernkiosk präsentieren wir einen vertrauenswürdigen LLM-Lernassistenten, der moderne Sprachmodelle mit einer Echtzeit-Faktenprüfung verbindet. Jede Erklärung wird automatisch mit wissenschaftlichen Quellen abgeglichen und die Quellen sowie die Prüfungsergebnisse den Lernenden zur Verfügung gestellt. Dadurch schaffen wir Transparenz und nachvollziehbare KI-Texte.

Das KARL-Planspiel vermittelt spielerisch einen ganzheitlichen Blick auf die Einführung von KI im Unternehmen.

Die Teilnehmenden durchlaufen anhand eines fiktiven Szenarios vier Phasen der KI-Einführung. In mehreren Runden und Rollen treffen sie Entscheidungen zu Themen wie Auswahl des KI-Anwendungsfalls, notwendige Kompetenzen, Datenschutz sowie ethische, rechtliche und soziale Aspekte.

Diese Entscheidungen beeinflussen den Erfolg der KI-Einführung und werden anschließend im Plenum reflektiert. So erkennen die Teilnehmenden, welche Maßnahmen für eine erfolgreiche und akzeptierte KI-Einführung entscheidend sind.

KI-Modelle sind mächtige Werkzeuge, doch ihre Komplexität macht sie oft zur Black Box. Wie trifft die KI Entscheidungen? Welche Daten fließen ein? Für Endnutzende bleibt das oft undurchsichtig – mit weitreichenden Folgen für Vertrauen und Akzeptanz. Hier setzt Erklärbare KI an. Sie macht KI-Entscheidungen nachvollziehbar. Nicht nur für Expert:innen, sondern für alle Nutzende. Doch wie gelingt das?

Im RoundTable diskutieren wir, welche Methoden es gibt, welche Hürden zu nehmen sind und warum die beste Erklärung die ist, die sich an der Zielgruppe orientiert.

Im Workshop eignen sich die Teilnehmenden an, auf welche Kompetenzen es für eine erfolgreiche Einführung und Nutzung von KI in Unternehmen ankommt. Sie identifizieren zentrale Rahmenbedingungen, leiten daraus spezifische Kompetenzbedarfe ab und lernen unterschiedliche Kompetenztypen kennen, die im KI-Kontext erforderlich sind – von der strategischen Planung über die praktische, menschenzentrierte Implementierung bis hin zur erfolgreichen Nutzung. Der Workshop bietet praxisnahe Orientierung und Hilfestellungen für Fach- und Führungskräfte, die KI gezielt im Unternehmen etablieren wollen.

KI im Arbeitsalltag ist nur dann wirklich nützlich, wenn Datenschutz von Anfang an mitgedacht wird. In der Praxis ist das nicht immer leicht umzusetzen, da die Vorgaben komplex sind und Informationen an verschiedenen Stellen vorliegen. Im Rahmen des KARL-Projekts wurde nicht nur ein Leitfaden für Datenschutz im Arbeitsumfeld entwickelt, sondern darüber hinaus mit dem KARL-Chatbot auch ein niedrigschwelliger Zugang zu diesen komplexen Dokumenten geschaffen. 

Neben einer interaktiven Vorstellung des Chatbots gibt es noch einen Impulsvortrag zum Thema Datenschutz im Arbeitsumfeld sowie der neuen KI-Verordnung. 

Die Entwicklung und Nutzung von Künstlicher Intelligenz (KI) hat tiefgreifende Auswirkungen – sowohl auf die Arbeitswelt als auch auf die gesellschaftliche Entwicklung. Das Kompetenzzentrum KARL betrachtet diese Veränderungen auch aus ethischer und sozialer Perspektive.
Im Fokus steht die betriebliche Ebene: Wie lassen sich Risiken von KI im Unternehmenskontext erkennen und adressieren? Ein konkretes Fallbeispiel zeigt, wie sozialwissenschaftliche Konzepte nachhaltige Arbeitsformen fördern und gleichzeitig Innovationspotenziale erschließen.