Risiken von KI-Systemen lassen sich grob in technische Risiken (Fehler, Schwächen, Sicherheitsprobleme in der KI-Software selbst) und ethisch-soziale Risiken unterteilen. Während die erste Fehlergruppe üblicherweise einen technischen Zugang erfordert, der bei der Entwicklung und Einführung von Softwaresystemen ohnehin erforderlich ist, können letztere durch Software-Entwickler:Innen nicht immer ausreichend adressiert werden. Zur Erhebung KI-spezifischer Risiken schlagen wir die Durchführung eines Risikoworkshops vor, welche alle Beteiligten dabei unterstützten soll, die relevanten KI-basierten Risiken ihres KI-Systems zu ermitteln.
Der hier empfohlene Risikoworkshop dient der Erhebung der ethisch-sozialen Risiken. Diese sind zentral geprägt durch die Anwendungsdomäne der KI-Software und die Positionierung der KI im Entscheidungsprozess. Vor diesem Hintergrund wird ein partizipatives Verfahren der Risikoermittlung empfohlen, welches auf eine breite Beteiligung sowohl in der Rollendimension als auch in Bezug auf die Diversität der Akteur:innen abzielt.
Wir schlagen hierbei eine Zusammensetzung der Zielgruppe analog zum Vorgehen im KIDD Projekt vor.
- Auswahl nach Funktion im Unternehmen
- z.B. Betriebsrat, Diversity-, Gleichstellungs-, Behinderten- und Datenschutzbeauftragte, Personalabteilung usw.
- Auswahl nach relevanten Vielfalts- und potentiellen Diskriminierungskriterien
- z.B. Alter, Geschlecht / geschlechtliche Identität und ethnische Herkunft / Nationalität
Dies hat eine Reihe von Vorteilen:
- Insbesondere die sozialen Risiken, die sich aus der Fairness der KI-Algorithmen ergeben, sind nur sinnvoll durch Personen diverser Hintergründe und Rollen zu erfassen.
- Ein zentrales unternehmerisches Risiko bei der Einführung von KI-Systemen ist auch das mangelnde Vertrauen der Arbeitnehmer:innen (und ihrer Interessenvertretungen) in die als intransparent empfundenen KI-Werkzeuge. Eine Beteiligung der Abeitnehmer:innen, bei der Gestaltung der menschlichen Aufsicht, kann hier Vertrauen schaffen und damit die Akzeptanz und Nutzung der KI-Systeme stärken.
Workshop Ablauf & Material
Im Rahmen des Workshops geht es zentral um eine erste partizipative Risikoanalyse sowie die Gewichtung, Beschreibung und Priorisierung der gefundenen Risiken und geeigneter Gegenmaßnahmen.
Die Beschreibung der Ablaufs findet sich im Leitfaden.
Die erste Arbeitsphase zur Sammlung der Kontextfaktoren und Verortung der Risiken findet auf einem Plakat statt.
In der zweiten Arbeitsphase, werden die einzelnen Risiken und angedachten Maßnahmen auf Arbeitsblättern spezifiziert.
Im Ergebnis liegen priorisierte und beschriebene Risiken des KI-Systems in ihrem Verwendungskontext sowie Maßnahmenvorschläge zur Minimierung des Risikos vor. Die Risiken und Maßnahmen können in dieser Form einen Beitrag zu ihrem allgemeinen Software-Risikomanagement darstellen, sowie die Grundlage für die Wahl und Konfiguration des KI-Cockpits bilden. Bezüglich der tatsächlichen Konfiguration des KI-Cockpits enthalten die kommenden Kapitel sowie die Dokumentation der KI-Cockpit Varianten alle relevanten Informationen.
ACHTUNG: Der hier vorgestellte Risikoworkshop stellt ausdrücklich keine tiefe Risikoprüfung dar, auch nicht der rein technischen Risiken. Der Fokus liegt hierbei darauf, gerade jene sozialen und ethischen Risiken zu finden, die nur oder besser durch einen partizipativen Ansatz identifiziert werden können. Für einen verordnungsgemäßen Betrieb sind ergänzende Maßnahmen der Risikoanalyse und -dokumentation notwendig, wie in Artikel 9 der EU KI-Verordnung gefordert.