Interfaces of Agent-Centric AI (IACAI)

Es werden Milliarden investiert, in Erwartung dessen, dass KI zahllose Geschäftsprozesse in vielen Bereichen transformieren und effizienter machen kann. Die aktuelle Forschung konzentriert sich weitgehend entweder auf den Aufbau leistungsfähigerer KI-Modelle oder auf die isolierte Betrachtung der Mensch-Computer-Interaktion.

Wir gehen über den aktuellen Stand der Technik hinaus, indem wir die Schnittstellen und Verbindungen zwischen KI-Agenten und anderen Akteuren wie Menschen sowie passiveren technologischen Komponenten wie IoT-Geräten und Wissensdatenbanken ganzheitlich untersuchen. Daher lautet der Titel unseres Moduls: Interfaces of Agent-Centric Artificial Intelligence (IACAI).

IACAI befasst sich mit (i) Algorithmen und Datenverarbeitung, (ii) Mensch-Computer-Interaktion sowie (iii) sozialen und ethischen Überlegungen hinsichtlich einer zukünftigen, agentenorientierten KI.

Um die größten algorithmischen, rechnerischen und implementierungsbezogenen Hindernisse für (generative) KI in kollaborativen Agentenszenarien zu überwinden, wird unsere Forschung sich unter anderem mit den Grundlagen einer effizienten Datenübertragung und -verwaltung zwischen den Akteuren, der Verbesserung der Recheneffizienz von KI-Modellen und der Steigerung der Schlussfolgerungsfähigkeiten von KI-Modellen befassen.

Um Produktivitätsprobleme zu überwinden, die auftreten, wenn Menschen KI für komplexe Aufgaben einsetzen, und die teilweise auf die ungelöste Frage zurückzuführen sind, wie Menschen Entscheidungen in Netzwerken mit mehreren Interessengruppen verstehen können, werden wir untersuchen, wie die synergetische Aufgabenleistung von Mensch und KI durch Interaktionsdesigns verbessert werden kann, die explizites Domänenwissen nutzen, und wir werden Algorithmen und Schnittstellen für die Rückverfolgbarkeit von KI-Entscheidungen in Multi-Agenten-Umgebungen entwickeln.

Um sozial verantwortliches und ethisches Technologiedesign zu ermöglichen, werden wir Akteure, Interaktion und Handlungsfähigkeit modellieren, um auf theoretischer und empirischer Ebene zu analysieren, wie Interaktionen und Schnittstellen in agentenorientierter KI die Vorstellungen von Verantwortung und Vertrauen prägen, und wir werden Algorithmen entwickeln, um Fairness und Vielfalt bei der Ressourcenverteilung und Entscheidungsfindung in der von uns angestrebten zukünftigen agentenorientierten KI sicherzustellen.

Die in diesem Modul durchgeführten Forschungsarbeiten stützen sich auf und leisten Beiträge zu Forschungen in den Bereichen groß angelegtes Datenmanagement, maschinelles Lernen, Verarbeitung natürlicher Sprache, Wissensmodellierung, Mensch-Computer-Interaktion, Informationsvisualisierung, Erklärbarkeit, Wissenschafts- und Technikstudien sowie Voreingenommenheit und Fairness in der KI.   

Wir werden dazu beitragen, agentenorientierte KI korrekter, zuverlässiger, ressourceneffizienter und effizienter bei der Unterstützung des Menschen bei der Durchführung komplexer Aufgaben zu machen.   

Die Forschung innerhalb von IACAI wird sich an einem Verhaltenskodex orientieren, der eines der ersten Ergebnisse des Moduls sein wird. Die Auswirkungen auf Umwelt und Gesellschaft werden kontinuierlich bewertet und dokumentiert.  

Die Ergebnisse von IACAI werden eine Reihe von Prototypen und Leitlinien zur Implementierung agentenzentrischer KI umfassen. 

IACAI wird eine agentenzentrische KI entwickeln, die technische Anforderungen erfüllt, ethischen Standards der Gesellschaft entspricht und das von den Nutzenden erwartete Maß an Vertrauenswürdigkeit erreicht. 

Insgesamt zielt das Projekt darauf ab, eine agentenorientierte KI zu realisieren, die technisch robust, ressourceneffizient, transparent, ethisch ausgerichtet ist und den Menschen bei komplexen Aufgaben wirklich unterstützt. 

• Startdatum: 01.01.2026
• Enddatum: 31.12.2029
• Gesamtbudget: 3.750.000 €

Wissenschaftliche Partner

• Technische Universität Berlin – Berlin Institute for the Foundations of Learning and Data (BIFOLD)
• Big Data Engineering Group (DAMS Lab)
• Universität Graz – Institut für Ethik und Gesellschaftslehre
• Technische Universität Graz – Institute of Human-Centred Computing (HCC)
• Technische Universität Graz – Institute of Software Engineering and Artificial Intelligence (SAI)
• Technische Universität Graz – Institute of Visual Computing (IVC)
• FH OÖ Forschungs & Entwicklungs GmbH

Industry Partner

• DaphOS GmbH
• KEBA Group AG

Dr. Tony Ross-Hellauer, IACAI Coordinator

tross@know-center.at