IRIS Forschung

“Reflecting Intelligent Systems for Diversity, Demography, and Democracy (IRIS3D)”, startete im Januar 2023 mit drei neuen Forschungsgruppen, die vom Ministerium für Wissenschaft, Forschung und Kunst Baden-Württemberg gefördert werden.

• Computational Digital Psychology - Group Sindermann (IRIS3D)
• Diversity-Aware NLP Intelligent Systems (DANIS) - Group Falenska (IRIS3D)
• Ethics of Generative AI - Group Hagendorff (IRIS3D)

Antragsteller: Prof. Dr. Steffen Staab, Jun.-Prof. Dr. Maria Wirzberger

Laufzeit: 04/2022 - 12/2026

Föderung: Ministry of Science, Research and the Arts Baden-Wuerttemberg (funding scheme "Artificial Intelligence & Society")

Bericht der Universität: 3,400,00.00 €

Förderung: European Resarch Council (ERC Advanced Grant)

Antragstellende: Prof. Dr. André Bächtiger

Laufzeit: 04/2022 - 03/2027

Weitere Informationen: Projektbeschreibung

Abteilung Lehren und Lernen mit intelligenten Systemen (LLiS)

Das Ziel des Projekts UFO besteht darin, berufliche Teilhabe bei sozio-emotionalen Unterstützungsbedarfen zu sichern und dazu gezielt Kompetenzen in der Wahrnehmung und Interpretation emotionaler Befindlichkeiten aufzubauen. Im Konsortium wird ein neuartiges Trainingssystem entwickelt, das Hirnsignale erfasst und abgeleitete emotionale Zustände in spürbare Sinneswahrnehmungen umwandelt. Diese werden durch eine taktile Ausgabe „erfühlbar“ gemacht und ermöglichen es, Befindlichkeiten des Gegenübers zu verstehen. Eine virtuelle Umgebung bietet einen sicheren Trainingsraum, der die Bedürfnisse der Zielgruppe passgenau unterstützen kann. Der Ansatz trägt zur gesellschaftlichen Sensibilisierung bei und fördert Empathie und gegenseitiges Verständnis.

Förderung: Das Projekt wird vom Bundesministerium für Bildung und Forschung im Rahmen des Förderschwerpunkts "Interaktive Systeme in virtuellen und realen Räumen - Innovative Technologien für die digitale Gesellschaft" gefördert.

Beteiligte IRIS-Mitglieder: Jun.-Prof. Dr. Maria Wirzberger

Laufzeit: 09/2021 - 08/2024

Weitere Informationen: UFO Project

Institute of Aircraft Systems

Flying has been one of the safest modes of transportation for decades due to high-quality standards throughout the development, testing, operation, maintenance, and inspection of aircraft as well as the comprehensive training of pilots. Aircraft operations, particularly those involving passengers, constitute highly complex safety critical situations and, thus, put substantial mental demands on pilots. Therefore, pilots usually receive support from a co-pilot who can take over control in potentially critical situations. With technological developments advancing, AI systems could enable single-pilot operations, where one pilot is in command of the entire flight operation. The system could thereby serve as digital co-pilot – provided a safe and reliable interaction between AI and human can be established. As a crucial prerequisite for such collaboration, the system needs to provide information in a way that the human pilot can easily understand and interpret to act appropriately, for instance, by taking over control. Likewise, the system needs to be equipped with the ability to understand and interpret human actions correctly to infer when to act and provide support or completely take over control in critical situations. To address this challenge, we provide insights into ongoing research on requirements for ensuring safe operations when human and AI collaborate in a cockpit setting. By conducting controlled behavioral experiments in a flight simulator, we evaluate the scope of information exchange on safety. Our results can inform strategies for facilitative AI-human collaboration and simultaneously provide critical food for thought on arising challenges.

Beteiligte IRIS-Mitglieder:

• Jun.-Prof. Dr. rer. nat. Maria Wirzberger, Lehren und Lernen mit intelligenten Systemen (LLiS)
• Prof. Dr.-Ing. Zamira Daw, Institut für Luftfahrtsysteme
• Patrick Lorrig, Institut für Luftfahrtsysteme
• Alina Schmit-Hübsch, Lehren und Lernen mit intelligenten Systemen (LLiS)
• Nadine Koch, Institut für Software Engineering
• Michelle Fini, Institut für Luftfahrtsysteme

Veröffentlichungen:

• David Tsoi: Development of a Test Environment for Evaluating AI-Human Collaboration in the Microsoft Flight Simulator
• Lennart Lux: Pilot Study for Trust in Human-AI-Teaming
• Michelle Fini: Trust in Human-AI Teaming: Analyzing the Interdependencies of Team Performance, Situation Awareness, Workload and Trust.

Publications:

• Lorrig, P., Tsoi, D. A., Wirzberger, M., & Daw, Z. (2024). AI-Human collaboration in the cockpit: Towards safe single-pilot operations by explainable information exchange. In 53^rd Congress of the German Society for Psychology / 15^th Congress of the Austrian Psychological Society.
• Lorrig, P., & Zaw, D. (2024). Advances and Challenges Towards Enabling Human-AI-Teaming Applications for Flight Deck Operations. In Digital Avionic Systems Conference 2024.

Auf der Suche nach erklärbarem und interpretierbarem Maschinellen Lernen mit Philosophie und Physik

Algorithmen des Maschinellen Lernens (ML) durchdringen zunehmend unseren Alltag und das öffentliche Leben. Sie treffen Vorhersagen, aber warum sie so und nicht anders entscheiden, bleibt oft schwer nachvollziehbar, sie sind gewissermaßen „opak“. In unserem Projekt wollen wir verstehen, wie diese Opakheit entsteht und wie man sie rückwirkend aufheben könnte. Dafür wollen wir anhand von Einsichten der Physik und anderer Theorien der Komplexität die Natur der (impliziten) Abstraktionen interpretieren, die ML an sich erzeugt. Unsere Arbeitshypothese ist, dass die Komplexität des ML und die Schwierigkeit, gewisse Komponenten des Lernprozesses zu verstehen, gemeinsam das Problem der Opakheit hervorbringen. In diesem Sinne fordert eine Lösung nicht einfach „mehr Verständnis”, oder „weniger Komplexität”, sondern eine sinngebende Komplexitätsreduktion. Damit meinen wir adäquate Abstraktionen und nicht triviale Vereinfachungen, die einen wohl fundierten Verständniszugang gewährleisten. In unserem Projekt werden wir Werkzeuge entwickeln, um die Komplexität der ML-Algorithmen auf neue Weise zu analysieren und sinngebende Reduktionen aus der Perspektive der Vielteilchenphysik und der Philosophie aufzufinden.

Förderung: Heidelberg Academy of Science and the Humanities

Beteiligte IRIS-Mitglieder: Dr. Miriam Klopotek

Weitere Informationen: Project descritption

Institute for Natural Language Processing

This research focuses on Natural Language Processing applications to support (and understand) deliberative processes (from political discourse to e-deliberation) and the Interpretability (and cognitive plausibility) of Natural Language Processing models.

Beteiligte IRIS-Mitglieder: Dr. Gabriella Lapesa

Weitere Informationen: Powering up E-DELIBeration: towards AI-supported moderation

Institute for Modelling and Simulation of Biomechanical Systems

This research focuses on human physical interaction with the environment using digital human body models.

• Do these models allow for unbiased and ideology-free decision-making?
• Do these models enable improved human-centered and barrier-free design of the built environment?

Beteiligte IRIS-Mitglieder: Prof. Dr. Syn Schmitt

Weitere Informationen: Research in Computational Biophysics and Biorobotics

Förderung: Volkswagen Stiftung (Förderlinie "Artificial Intelligence - Its Impact on Tomorrow's Society")

Antragstellende (mit Bezug zu IRIS): Prof. Dr. Jonas Kuhn

Laufzeit: 10/2021 - 09/2025

Weitere Informationen: Projektbeschreibung