Künstliche Intelligenz (KI) hat das Potenzial, Arbeitsprozesse zu optimieren und neue Geschäftsmodelle zu erschließen. Gleichzeitig birgt sie Risiken, denn je nach Qualität und Tendenz der Daten, mit der KI arbeitet, kann eine Ausgrenzung und Vorverurteilung bestimmter Personengruppen passieren. Um diese Herausforderungen zu bewältigen, wurde das Projekt „KIDD – Künstliche Intelligenz im Dienste der Diversität“ ins Leben gerufen.

KI-Systeme arbeiten auf Basis der Daten, die ihnen zur Verfügung gestellt werden. Sind diese Daten unausgewogen oder enthalten sie Vorurteile, können Verzerrungen entstehen, sogenannte Bias. Diese können dazu führen, dass bestimmte Personengruppen benachteiligt werden. Ein bekanntes Beispiel ist ein Bewerbungsassistent, der Frauen systematisch ausschloss, weil Männer historisch dominierend in den ausgeschriebenen Positionen waren. Solche Fälle zeigen, wie wichtig es ist, die Qualität der Datensätze zu überprüfen und sicherzustellen, dass sie frei von Stereotypen sind.

Das vom Bundesministerium für Arbeit und Soziales (BMAS) geförderte KIDD-Projekt erprobte von Oktober 2020 bis September 2024, wie Unternehmen diskriminierungsfreie KI erfolgreich einführen können. Im Fokus standen dabei Diversität und Ethik. Ziel war die Entwicklung eines standardisierten Prozesses, der Unternehmen befähigt, faire, transparente und verständliche Softwareanwendungen zu entwickeln und einzusetzen.

Der KIDD-Prozess: Fünf Schritte für eine faire Software

Der KIDD-Prozess bietet Unternehmen eine strukturierte Vorgehensweise, um diskriminierungsfreie KI zu implementieren. Die fünf Schritte des Prozesses sind:

Die Rolle des Panels der Vielfalt

Das Panel der Vielfalt spielt eine zentrale Rolle im KIDD-Prozess. Es bringt unterschiedliche Perspektiven zusammen und ermöglicht eine umfassende Betrachtung der geplanten KI-Anwendung. Gerade Teilnehmende ohne IT-Bezug stellen oft relevante Fragen, die entscheidend für die Fairness der Software sind. Die Zusammenarbeit im Panel fördert Transparenz und Vertrauen in die Technologie.

Diskriminierungsfreie KI bietet zahlreiche Vorteile: Sie stärkt die Unternehmenskultur, fördert Diversität und schafft Vertrauen bei Mitarbeitenden und Kund*innen. Zudem hilft sie Unternehmen, sich als verantwortungsbewusst und zukunftsorientiert zu positionieren. Der KIDD-Prozess zeigt, dass es möglich ist, KI so zu gestalten, dass sie fairer agiert als der Mensch – vorausgesetzt, sie wird ohne Bias trainiert.

Die Praxis zeigt: Mitwirkung, Transparenz und Vertrauen sind der Schlüssel zum Erfolg

Von einem erfolgreichen KIDD-Prozess profitieren nicht nur Mitarbeitende und Unternehmenskultur, sondern auch die Software-Hersteller – eine weitere wichtige Erkenntnis, die KIDD herbeigeführt hat. „Wir haben jetzt dank INQA und der engen Zusammenarbeit in den Experimentierräumen eine bessere Software“, sagt Axel Demel von Wavestone Germany.

Im Fall von Wavestone Germany ist das schon der Fall, denn die Firma setzte in ihrem Experimentierraum eine Software von Chemistree ein: „Mit Kund*innen wie Wavestone Germany können wir unsere Matching-Plattformen im Sinne der Mitarbeitenden prüfen und gemeinsam eine erfolgreiche Lösung für das Unternehmen schaffen, die das Vertrauen der Teilnehmenden wirklich verdient“, erklärt Rosmarie Steiniger, CEO von Chemistree. Die Fragen des Panels lieferten wertvolle Erkenntnisse.

Ergebnisse und Zukunftsperspektiven

Nach vier Jahren intensiver Arbeit endete das KIDD-Projekt offiziell im Herbst 2024. Die entwickelten Standards erfüllen die Anforderungen der EU-KI-Verordnung für kritische KI. Die Projektergebnisse sind im KIDD-Handbuch integriert, das detaillierte Beschreibungen und alle erforderlichen Tools für die einzelnen Prozessschritte bietet. Zudem liegen Schulungsmodule für Mitarbeitende und Durchführende (Basis- und Vertiefungsschulungen) vor. Das Handbuch kann auch als Qualitätssicherungstool genutzt werden. Umsetzungserfahrungen stehen in Form von Leuchtturmprojektbeschreibungen zur Verfügung, in denen neben Erfolgskriterien auch Herausforderungen bei der Umsetzung im Unternehmenskontext beschrieben sind. Die wichtigsten Angebote des Projekts sind:

• Das KIDD-Handbuch, das Unternehmen eine detaillierte Anleitung zur Implementierung diskriminierungsfreier KI bietet.
• Webinare, in denen die zentralen Aspekte des KIDD-Prozesses vermittelt wurden und die online abrufbar sind.
• Ein Podcast, in dem Expert*innen und Anwender*innen ihre Erfahrungen teilen.
• Eine Handreichung für Kleine und mittlere Unternehmen (KMU) zum Umgang mit der KI-Verordnung der EU.

Das KIDD-Team betont, dass der Dialog über Diversität und Fairness in KI weiterhin wichtig bleibt. Die Erkenntnisse des Projekts sollen in die Breite getragen werden, um Unternehmen in verschiedenen Branchen und Regionen zu erreichen. „Jedes Unternehmen, das diskriminierungssensible Software herstellt, sollte diese Kenntnisse erwerben“, fordert Georg Juelke von msg.systems.

Mehr zu KIDD

KIDD wurde durch das Bundesministerium für Arbeit und Soziales (BMAS) unter dem Dach der Initiative Neue Qualität der Arbeit (INQA) gefördert und durch die Bundesanstalt für Arbeitsschutz und Arbeitsmedizin (BAuA) fachlich begleitet. Alle Informationen zum KIDD-Prozess und das KIDD-Handbuch stehen Unternehmen unter www.kidd-prozess.de zur Verfügung.