KI-Toolbox für Versorgungsunternehmen: Modul Ethik

Als Unternehmen der Versorgungswirtschaft stellen Sie sich Ihrer Verantwortung im Umgang mit KI. In diesem Modul erfahren Sie mehr zum aktuellen Stand der Debatte über ethische Aspekte und Richtlinien von KI. Praxisorientierte Handlungs­;hilfen unterstützen Sie dabei, die Einführung und Umsetzung von KI in Ihrem Unternehmen zu gestalten und im Weiteren kontinuierlich an die dynamischen Veränderungen anzupassen.

Spricht man über die digitale Transformation, dann stehen hierbei aktuell viele Fragen rund um den Einsatz von Künstlicher Intelligenz auf der Agenda. Dabei geht es oft zunächst darum, was aus technischer Perspektive möglich ist, welche Infrastrukturen KI benötigt und welche Maßnahmen in punkto Datensicherheit, neue Geschäftsmodelle etc. ergriffen werden müssen. Vergleichsweise gering ausgeprägt ist der Diskurs jedoch noch darüber, welche Voraussetzungen aus ethischer Perspektive bei der Einführung und Umsetzung von KI geschaffen werden müssen. Gerade bei Unternehmen der Kommunalwirtschaft stellen ethische Leitlinien eine wesentliche Basis bei der Einführung von KI dar, da diese gesellschaftlich notwendige Produkte und Services der Daseinsvorsorge verantworten. Es liegt auf der Hand, dass unterschiedliche gesellschaftliche Bereiche unterschiedlich fehlertolerant in Bezug auf die Richtigkeit der algorithmisch erzeugten Ergebnisse sind und sein dürfen. Denn während eine falsche Auslastungsprognose beim Parkhaus womöglich maximal verärgerte Autofahrer*innen hervorbringt, sind die Folgen bei der Prädiktion von Kriminalität oder Zahlungsausfälle beim Stromkunden deutlich sensibler und schwerwiegender.

Mit der KI-Strategie stellt die Bundesregierung einen Rahmen für eine ganzheitliche politische Gestaltung der weiteren Entwicklung und Anwendung Künstlicher Intelligenz in Deutschland. Sie merkt dazu an, dass KI zwarderzeit in Form einzelner Anwendungen autonomer und intelligenter Systeme Einzug in unseren Alltag hält, doch dass das Wissen über und die Erfahrung mit der Technologie noch nicht so weit verbreitet ist, dass ein gesellschaftlich geklärtes Verhältnis dazu möglich ist (ebd.). Der Verband Kommunaler Unternehmen (VKU) positioniert sich mit einem Werte-Kompass zum Thema KI und Ethik, stellt in diesem Zusammenhang die herausragende Bedeutung der Versorgungswirtschaft und ihrer Gemeinwohlorientierung in den Vordergrund und sieht den Einsatz von KI grundsätzlich nur im Einklang mit den Werten der Kommunalwirtschaft. Ein umfassender Vorschlag zum Umgang mit KI, der sich an Akteure in Gesellschaft, Politik, Unternehmen, Wissenschaft, Verbraucher*innen, öffentliche Dienste etc. richtet, wurde unlängst von einer Expertengruppe der Europäischen Kommission vorgelegt. Die Leitlinien zielen insbesondere darauf ab, eine KI zu fördern, die rechtmäßig, ethisch und robust ist, wovon jede einzelne Komponente notwendig, aber allein nicht ausreichend ist, um vertrauenswürdig zu agieren.

Betrachtet man diese und weitere KI-Leitlinien, dann fällt einerseits deren Vorschlagscharakter auf sowie andererseits die Betonung der Notwendigkeit einer weiteren Fortschreibung der Leitlinien aufgrund der noch zu erwartenden dynamischen technischen (Weiter-)Entwicklungen und der insgesamt geringen Abschätzung der Auswirkungen von KI auf einzelne Branchen, Produkte und Services.

Diese Frage kann eigentlich nur mit der Empfehlung »je früher, desto besser« beantwortet werden, bedenkt man die weitreichenden Implikationen bei der Einführung und Umsetzung von KI. Die Realität zeigt jedoch: Viele Unternehmen setzen sich zunächst mit den technischen Möglichkeiten auseinander und gehen dann erste Schritte in der Erprobung. Spätestens in dieser Phase sollten Unternehmen sich jedoch konkret damit auseinandersetzen, welche Standards und Richtlinien zu beachten sind. Denn eine vertrauenswürdige KI sollte rechtmäßig sein und die Einhaltung aller geltenden Gesetze und Vorschriften sicherstellen. Des Weiteren sollte die Einhaltung ethischer Grundsätze und Werte sichergestellt werden. Und drittens sollten KI-Systeme sowohl aus technischer als auch aus sozialer Sicht robust sein, um damit sicherzustellen, dass diese auch bei guten Absichten keinen unbeabsichtigten Schaden anrichten. Auch wenn diese Anforderungen plausibel und nachvollziehbar klingen, so stellt sich dennoch die Frage, wie diese konkret in der betrieblichen Praxis umgesetzt werden können. Eine Bewertungsliste der Europäischen Kommission kann dabei helfen, den Fokus auf die verschiedenen Dimensionen wie beispielsweise zur Einhaltung der Grundrechte, der Integrität der Daten und des Datenzugriffs sowie der Nachhaltigkeit zur Umsetzung von KI-Systemen entlang des Lebenszyklus zu richten. Zur Umsetzung der Maßnahmen können sowohl technische (z. B. Erklärmethoden, Dienstqualitätsparameter) als auch nicht-technische Methoden (z. B. Zertifizierung, Beteiligung der Interessenträger und sozialer Dialog, insbesondere auch die Einrichtung eines unternehmensinternen Ethikgremiums sowie Regulierung und Standardisierung) eingesetzt werden. Jedoch sollte hierbei bedacht werden, dass die eingesetzten Verfahren fortlaufend neu bewertet werden müssen, da sich KI-Systeme in einem dynamischen Umfeld ständig weiterentwickeln.

Für die Umsetzung von ethischen Leitlinien in Unternehmen hat das Knowledge Center Data & Society eine praxisorientierte Hilfestellung erarbeitet und zur Verfügung gestellt. Hierbei wurden die zentralen Anforderungen an KI-Systeme zusammengefasst und zu jeder der Anforderungen wurde eine Reihe von Fragen formuliert, die dazu anregen, über deren Vertrauenswürdigkeit zu reflektieren bzw. diese als eine Art Checkliste einzusetzen. Zum Beispiel werden hinsichtlich Datenschutz und Data Governance Fragen gestellt, wie: »Bist du dir der Auswirkungen und Anforderungen bei der Verwendung von personenbezogenen Daten bewusst? Kannst du nachweisen, dass du die datenschutzrechtlichen Bestimmungen einhältst? Wer kann auf die Daten der Nutzer zugreifen und verfügst du über ein Datenzugriffsprotokoll?«. Die durch das Knowledge Center Data & Society bereitgestellten KI-Blindspots-Karten können dazu beitragen, proaktiv einen kritischen Blick auf ethische und soziale Entscheidungen beim Einsatz von KI zu richten. Das Flussdiagramm hilft ebenfalls bei der grundlegenden Fragestellung, ob die zu entwickelnde Technologie ethische Richtlinien berücksichtigt.

Eine praxisorientierte Informationsquelle, welche guten Beispiele es für KI auf kommunaler Ebene heute schon gibt, wird von Seiten der Initiative Co:Lab »KI in Kommunen« bereitgestellt und fortlaufend aktualisiert. Darüber hinaus werden verschiedene ethische Aspekte und Handlungsempfehlungen speziell für das kommunale Umfeld von Expert*innen aus Wissenschaft und Praxis thematisiert. Dabei wird das gesamte kommunale Ökosystem beleuchtet und betont, dass KI kein Selbstzweck ist, sondern dass sie konkrete Mehrwerte für Bürger*innen schaffen und stärker in der gesellschaftlichen Wahrnehmung verankert werden muss. KI soll und muss allen Menschen und einer Gesellschaft als Ganzes dienen und ist damit konsequent und kontinuierlich an den im Grundgesetz verankerten Werten und Rechten auszurichten.