Graz, 10.12.2024 – Generative Künstliche Intelligenz (GenAI) birgt großes Potenzial, Open Science zu ermöglichen und zu verbreiten – doch diese mächtige Technologie birgt wesentliche Risiken, wenn sie unkritisch eingesetzt wird. Eine aktuelle Studie, durchgeführt von einem internationalen Forschungsteam um Dr. Mohammad Hosseini (Northwestern University), Dr. Tony Ross-Hellauer (Know Center), Dr. Serge P.J.M. Horbach (Radboud University) und Dr. Kristi Holmes (Northwestern University), analysiert die Chancen und Herausforderungen von GenAI anhand der UNESCO-Empfehlung zu Open Science. Das Fazit: GenAI hat das Potenzial, Wissenschaft inklusiver, zugänglicher und verständlicher zu machen. Gleichzeitig erfordert sie klare Regeln, um Verzerrungen, mangelnde Transparenz und die Verbreitung von Fehlinformationen zu vermeiden.
GenAI: Chance mit Risiko
GenAI bietet eine Vielzahl bahnbrechender Möglichkeiten, die die wissenschaftliche Arbeit und deren Kommunikation grundlegend verändern könnten. So kann die Technologie beispielsweise dazu beitragen, komplexe wissenschaftliche Fachsprache in leicht verständliche Texte umzuwandeln. Die Fähigkeit, in Echtzeit Fragen zu beantworten und individuelle Informationen bereitzustellen, fördert einen direkten und offenen Dialog. Dies ermöglicht es einer breiteren Öffentlichkeit, an wissenschaftlichen Diskussionen teilzuhaben und eigenständig auf Forschungsergebnisse zuzugreifen. Darüber hinaus eröffnet GenAI neue Wege für eine intensivere Einbindung von Bürger*innen in die Forschung: Indem die Technologie Prozesse wie Datenanalyse und Interpretation erleichtert, wird es Laien möglich, aktiv an Projekten mitzuwirken. Hinzu kommt, dass GenAI sprachliche Barrieren abbauen kann, indem sie wissenschaftliche Texte in verschiedene Sprachen übersetzt und damit globalen Zugang zu Wissen ermöglicht.
GenAI könnte auch viele andere Open-Science-Praktiken revolutionieren – wie Datenanalyse, -kuratierung und -weitergabe, die Erstellung und Bewertung von Code, die Synthese von Erkenntnissen und die Verbesserung der Bewertung wissenschaftlicher Beiträge.
Trotz dieser vielversprechenden Anwendungen sind die mit GenAI verbundenen Risiken nicht zu unterschätzen. Viele KI-Modelle arbeiten als sogenannte „Black Boxes“ und lassen ihre Entscheidungsprozesse intransparent. Diese fehlende Nachvollziehbarkeit steht in Konflikt mit den Prinzipien von Open Science, die Offenheit und Transparenz fordern. Gleichzeitig können Verzerrungen in den Trainingsdaten von GenAI bestehende soziale Ungleichheiten verstärken, indem sie Vorurteile reproduzieren oder sogar verstärken. Darüber hinaus stellen die hohen Rechenressourcen, die GenAI benötigt, eine Herausforderung für nachhaltige Forschungspraktiken dar und werfen Fragen nach der ökologischen Vertretbarkeit auf.
„GenAI ist ein mächtiges Werkzeug, aber ohne klare ethische Leitlinien könnten wir das Vertrauen in die Wissenschaft gefährden“, warnt Dr. Mohammad Hosseini, Assistant Professor an der Northwestern University und Studienleiter. „Die Technologie birgt ein enormes Potenzial, Wissen zugänglicher und wissenschaftliche Prozesse effizienter zu machen. Gleichzeitig müssen wir sicherstellen, dass ihre Nutzung im Einklang mit den Prinzipien der Offenheit, Fairness und Transparenz steht. Nur so kann verhindert werden, dass GenAI bestehende Ungleichheiten verstärkt oder Fehlinformationen fördert, die wissenschaftliche Integrität und den gesellschaftlichen Dialog untergraben.“
Aufruf zur verantwortungsvollen Nutzung
Angesichts der Chancen und Risiken, die mit GenAI einhergehen, fordert die Studie alle relevanten Akteur*innen zu einem verantwortungsvollen Umgang mit dieser Technologie auf. Forschende sollten GenAI gezielt und mit einer kritischen Haltung in ihre Arbeit integrieren. Technologieentwickler*innen wiederum sind gefordert, Modelle zu schaffen, die transparent, überprüfbar und frei von systematischen Verzerrungen sind. Gleichzeitig liegt es in der Verantwortung politischer Entscheidungsträger*innen, Rahmenbedingungen zu schaffen, die sowohl Innovation fördern als auch Risiken minimieren.
„Wir brauchen eine enge Zusammenarbeit zwischen Wissenschaft, Politik und Technologieentwicklung, um sicherzustellen, dass GenAI den Werten von Offenheit, Fairness und Transparenz entspricht und nicht deren Gegenteil bewirkt“, resümiert Dr. Tony Ross-Hellauer, Senior Researcher am Know Center und Mitautor der Studie. „Nur durch klare Richtlinien, kontinuierliche Überprüfung und ein gemeinsames Engagement aller Akteur*innen können wir gewährleisten, dass GenAI als Werkzeug des Fortschritts in der Forschung eingesetzt wird. Es liegt in unserer Verantwortung, Innovation zu fördern, ohne die Grundprinzipien der Wissenschaft oder das Vertrauen der Gesellschaft zu gefährden.“
Die vollständige Studie mit dem Titel „Open Science at the Generative AI Turn: An Exploratory Analysis of Challenges and Opportunities“ wurde in der Fachzeitschrift Quantitative Science Studies (MIT Press) veröffentlicht und ist unter folgendem Link abrufbar: https://doi.org/10.1162/qss_a_00337