KI-Fehltritte und Schlüsselakteure
Die Berichte über Vorfälle im Zusammenhang mit KI verdeutlichen die Notwendigkeit, Voreingenommenheit und Diskriminierung in KI-Systemen anzugehen. Unternehmen wie Facebook, Tesla und Google sind in diesen Berichten häufig genannt worden. Zum Beispiel zeigte Google Ads hochbezahlte Jobanzeigen weniger häufig für Frauen und Minderheitengruppen an. Ähnlich ergab eine Untersuchung, dass der Algorithmus der Apple Card Frauen niedrigere Kreditlimits gewährte als Männern, obwohl beide Gruppen gleiche Qualifikationen aufwiesen. Solche Vorfälle zeigen, wie wichtig es ist, die Fairness von KI-Systemen sicherzustellen.
Geschäftliche Risiken und Folgen
Die Existenz von Voreingenommenheit und Diskriminierung in KI-Systemen kann für Unternehmen schwerwiegende Folgen haben. Dazu gehören verpasste Chancen, Rufschäden und rechtliche Probleme. Beispielsweise kann ein Empfehlungssystem, das nur eine bestimmte Benutzergruppe anspricht, potenzielle Kunden ausschließen und so Umsatzverluste verursachen. Zudem können KI-Systeme, die Voreingenommenheit aufweisen, das Image eines Unternehmens beeinträchtigen, insbesondere wenn es sich um sensible gesellschaftliche Themen handelt. Darüber hinaus können in regulierten Branchen wie dem Arbeitsmarkt diskriminierende KI-Algorithmen zu rechtlichen Konsequenzen führen, einschließlich Geldstrafen und Sanktionen gemäß den Anti-Diskriminierungsgesetzen.
Aufbau von Vertrauenswürdiger KI für die Zukunft
Um die Risiken von voreingenommenen KI-Systemen zu minimieren, ist es wichtig, vertrauenswürdige KI zu entwickeln und einzusetzen. Dies erfordert die Implementierung von Maßnahmen zur Identifizierung, Minderung und Verhinderung von Vorurteilen in KI-Algorithmen. Unternehmen sollten diverse und inklusive Datensätze verwenden, transparente und verantwortliche Prozesse implementieren und interdisziplinäre Zusammenarbeit fördern. Durch die Priorisierung von Fairness und Inklusivität in der Entwicklung von KI-Technologien können Unternehmen nicht nur ihren Ruf verbessern, sondern auch zur Schaffung einer gerechteren Gesellschaft beitragen.
Wir unterstützen Unternehmen bei der Implementierung und Nutzung vertrauenswürdiger KI. Zusätzlich forschen wir an der Messbarkeit von Fairness und Vertrauenswürdigkeit in KI, was ein wichtiger Grundstein für die Zertifizierung und Validierung von KI gemäß dem EU AI Act sein wird.
Mehr zu unseren Erkenntnissen zu Bias in der KI in unserem gemeinsamen White Paper mit SGS.
https://www.sgs.com/en/whitepapers/trustworthy-ai-fairness-in-ai-and-its-relation-to-social-well-being-form