Computergestützte Anwendungen, die auf Methoden der künstlichen Intelligenz (KI) basieren, sind aus dem Alltag kaum mehr wegzudenken. Deren ständige Verwendung durch eine Vielzahl an Usern und Providern führt zu zahlreichen Erleichterungen. Beispiele sind in der Erleichterung der Informationssuche und in der Unterstützung von Entscheidungsprozessen zu finden.
Die typische und alltägliche Verwendung von KI liegt zum Beispiel, in Musik-Streamingdiensten wie „Spotify“ oder „Last.fm“ vor. Die Streamingdienste bedienen sich sogenannter Empfehlungssysteme, die für das Suchen, Sortieren und Filtern umfangreicher Musik-Inhalte eingesetzt werden. Durch KI generierte Musikempfehlungen basieren auf Trainingsdaten, die den vergangenen Hörgewohnheiten der Benutzer entsprechen. Dies kann zum ungewollten Popularitäts-Verzerrungseffekt führen, wodurch die Musikstücke von populären Künstlern in den Trainingsdaten überrepräsentiert sind.
Das Know Center untersucht den Popularitäts-Verzerrungseffekt im Bereich von Musikempfehlungssystemen. Erkenntnisse zeigen, dass HörerInnen von populärer, dem Mainstream angehörender Musik signifikant genauere Empfehlungen bekommen. HörerInnen unpopulärer, oder alternativer Musik, erleben eine Benachteiligung. Die Eigenschaften der unfair behandelnden Musik-HörerInnen wurden mit verschiedensten Data-Science Methoden, beispielsweise Clustering, analysiert. Dabei wurde entdeckt, dass sich die Offenheit gegenüber ungewohnter Musik positiv auf die Treffsicherheit von Empfehlungen auswirkt. Diese Erkenntnisse können für die Entwicklung unverzerrter Musikempfehlungssystem hilfreich sein, die den Anforderungen von vertrauenswürdiger KI entsprechen.
Innovationen im Bereich der Empfehlungssysteme und Entwicklungen in Richtung Fairness werden weiter dazu beitragen, das Vertrauen in KI-basierte Lösungen zu stärken. Damit wird auch dem Vorschlag durch die Europäische Union, der regulierte und vertrauenswürdige KI als gesetzlichen Standard vorsieht, gerecht.