IRIS Insights I Prof. Dr.-Ing. Zamira Daw: Human-AI Teaming in Cockpit Systems (HAITICS)

Da die künstliche Intelligenz (KI) in ihrer Entwicklung fortschreitet, bringt ihre Integration in sicherheitskritische Anwendungen sowohl Möglichkeiten zur Effizienzsteigerung als auch Herausforderungen bei der Gewährleistung der Sicherheit mit sich. In Cockpitsystemen ist das Verständnis der Interaktion von Piloten mit KI-basierten Technologien entscheidend für die Bewertung der gesamten Flugsicherheit.

Unsere Forschung untersucht die Mensch-KI-Interaktion in der Luftfahrt durch interdisziplinäre Zusammenarbeit zwischen dem Institut für Flugzeugsysteme und IRIS, wobei Expertise in den Bereichen Luftfahrtsysteme, KI und Humanfaktoren kombiniert wird. Traditionell werden Mensch-Maschine-Systeme entwickelt, indem das Systemverhalten definiert und Piloten ausgebildet werden, die für die Überwachung, Fehlererkennung und das Übersteuern der Automatisierung bei Bedarf verantwortlich bleiben. KI stört dieses Modell durch: 1) Einführung höherer Automatisierungsstufen, was die Betriebskomplexität erhöht und es den Piloten erschwert, Systemausfälle zu erkennen; 2) Ausstellung unvorhersehbarer Verhaltensweisen, wie Übermütigkeit und Halluzinationen, die schwer zu identifizieren sind.

Unsere Forschung analysiert Schlüsselfaktoren in der Zusammenarbeit von Piloten und KI, einschließlich Arbeitsbelastung, Vertrauen, Erklärbarkeit und De-Skilling. Wir verwenden Flugsimulator-Experimente und planen, die Modellierung der Systemdynamik zu integrieren, um diese Aspekte im Laufe der Zeit zu analysieren. Darüber hinaus erforschen wir, wie sich Systemanforderungen, Sicherheitsbewertungen und Pilotentrainings entwickeln müssen, um die Systemsicherheit in der KI-unterstützten Luftfahrt aufrechtzuerhalten. Die Ergebnisse dieser Forschung werden auch zu Standardisierungsbemühungen beitragen und helfen, regulatorische Richtlinien für die KI-Zertifizierung in der Luftfahrt zu gestalten. Dieser Vortrag wird Einblicke in unsere jüngsten experimentellen Erkenntnisse präsentieren, Herausforderungen beim Vertrauen in KI und der Zuteilung von Autorität diskutieren und die breiteren Implikationen unserer Forschung für die Zukunft der KI-gestützten Flugoperationen hervorheben.

Dies ist ein WebEx-Vortrag, zu dem alle Interessierten herzlich eingeladen sind. Er wird auf Englisch stattfinden. Die Moderatorin und IRIS-Sprecherin, Jun.-Prof. Maria Wirzberger, wird ihn moderieren. Im Anschluss an die Präsentation von Zamira Daw wird es die Möglichkeit geben, Fragen zu stellen. Wir freuen uns auf eine rege Teilnahme.

Folgen Sie diesem Link, um am WebEx-Talk teilzunehmen. 

[Bild: © SRF IRIS / S. Brandes]