Die Akzeptanz – und damit auch der Wettbewerbs- und Standortvorteil durch den Einsatz von KI in Unternehmen und auch öffentlichen Institutionen wird wesentlich davon abhängen, wie rasch es gelingt, das Vertrauen in solche Anwendungen zu erhöhen.

Die größten Bedenken in Bezug auf den Einsatz von KI in Unternehmen und Gesellschaft betreffen Datenschutz, Datensicherheit und die Nachvollziehbarkeit von Ergebnissen.

In diesem Forschungsprojekt geht es einerseits um die Entwicklung von KI-Algorithmen und Modellen des maschinellen Lernens, die entlang von Wertschöpfungsketten eingesetzt und geteilt werden können, ohne dabei vertrauliche Informationen aus der Hand zu geben. Andererseits konzipieren wir Algorithmen auch so, dass sie überprüfbar und erklärbar sind, damit Fachkräfte bei den Anwendung solcher Systeme die Richtigkeit der Ergebnisse jederzeit überprüfen können.

Nicht zuletzt wird damit den Anwendern auch die Interaktion mit der KI erleichtert, wodurch sie Kontrolle über den gesamten Prozess gewinnen – ein wesentlicher Aspekt von Vertrauen.

Mit unserer weltweiten Spitzenpositionierung rund um die Entwicklung vertrauenswürdiger KI und kryptographischen Verfahren sind wir der erste Ansprechpartner für Unternehmen beim Einsatz solcher Lösungen.

COMET-Modul

Die neuen COMET-Module der Forschungsförderungsgesellschaft FFG tragen wesentlich zur Entwicklung und Innovation bei. Damit sollen zukunftweisende Forschungsthemen etabliert und neue Stärkefelder aufgebaut werden. Per Forschung auf höchstem Niveau werden neue Themenfelder etabliert, die deutlich über den bisherigen Stand der Technik hinausreichen.

 

Das mit 4 Millionen Euro dotierte Modul läuft 4 Jahre lang, der offizielle Projekt Kick-off samt Pressekonferenz fand am 10. Februar 2020 in Graz statt.

„Mit dem COMET-Modul zu Artificial Intelligence kann dieser Schwerpunkt am Know Center in Graz gezielt ausgebaut werden.“

Henrietta Egerth und Klaus Pseiner, Geschäftsführer der Österreichischen Forschungsförderungsgesellschaft FFG

Forschungsbereiche

Datenschutzorientierte KI-Algorithmen

Wir entwickeln sichere KI-Methoden, die keine sensitiven Informationen preisgeben und auch die Auswertung verschlüsselter Daten erlauben. Damit ermöglichen wir z.B. sicheres Cloud Computing, die KI-Modelle können leichter mit Kunden und Zulieferern ausgetauscht und private und öffentliche Datenbanken können ohne Sicherheitsrisiken kombiniert werden. Wir schreiben Datenschutz groß und arbeiten an neuen Generationen von sicheren und vertraulichkeitserhaltenden KI-Algorithmen.

Erklärbare KI für Analysten

KI-Lösungen sollen keine Black-Box für Anwender sein, wir arbeiten daran die Entscheidungen der eingesetzten Algorithmen für Analysten verständlicher zu machen, ohne das vertrauliche Daten preisgegeben werden. So soll das Vertrauen in KI-Entscheidungen gestärkt, Modelle besser visualisiert und die entsprechenden Ergebnisse erklärbarer werden.

Erklärbare KI für Benutzer

Die Interaktion von Endanwendern mit KI wird immer wichtiger und wir forschen daran, wie wir diese Interaktion in Zukunft verbessern können. Wir verbessern z.B. die Erklärbarkeit von personalisierten Empfehlungssystemen und entwickeln auch neue Lernparadigmen für den Umgang mit maschinellem Lernen, um Benutzerinnen und Benutzer besser zu schulen und im Umgang mit KI befähigen zu können.

Data Driven Artificial Intelligence (DDAI)

Das COMET-Modul DDAI wird im Rahmen von COMET – Competence Centers for Excellent Technologies durch BMK und BMDW gefördert. Das Programm COMET wird durch die FFG abgewickelt.