A UX Design Strategy for Explainable Al – Stella Sun wird mit dem Fujitsu NEXT Innovation IT Award 2021 ausgezeichnet
Am 17. Dezember 2021 wurde der Fujitsu NEXT Innovation IT Award verliehen. Stella Sun war mit ihrer Bachelorarbeit A UX Design Strategy for Explainable AI, die von Prof. Dr. Andrea Back betreut wurde, die Preisträgerin.
Im Rahmen der Bachelorarbeit wurde ein Framework entwickelt, um AI-Anwendungen mit der Fähigkeit, Entscheide ihrer Algorithmen erklären zu können, ausgehend von der Nutzererfahrung (UX) zu entwickeln und gestalten. Das Themenfeld ist von hoher aktueller und zukünftiger Praxisrelevanz, denn die zunehmende Autonomie von “Dingen” geht oftmals mit Ängsten und Misstrauen einher, insbesondere bei der Benutzung sogenannter “Black-Box-Systeme”. Der Trade-off zwischen Genauigkeit und Transparenz macht den Einsatz von “Explainable Artificial Intelligence” (XAI) wichtiger denn je und ist ein Schlüssel zur Entwicklung vertrauenswürdiger Machine-Learning (ML)-Applikationen. “Explainability” als “Funktionalität” muss von Anbeginn der Softwareentwicklung und im UX Design berücksichtigt werden.
Das Design der User Experience ist bei bekannten digitalen Produkten – wie Apps oder Websites – zwar eine etablierte Profession, für ML-basierte Anwendungen jedoch noch nicht üblich und in Data-Science-Teams als notwendige «Skill» kaum besetzt. Umso bedeutsamer ist die Entwicklung solcher Frameworks für eine «Gute Praxis» der Entwicklung und Gestaltung von ML-Solutions. Sie können und sollten erprobt werden und sich etablieren, bevor eine breite Misstrauensbewegung entsteht.
Die Auszeichnung mit dem NEXT Innovation IT Award zeigt nicht nur die Relevanz der Thematik auf, sie ist ein bemerkenswerter Erfolg für die Autorin Stella Sun und somit auch das Bachelorprogramm der Universität St. Gallen, über den sich die Betreuerin Prof. Dr. Andrea Back besonders freut.
Autor: Valentina Ablondi
Tags: Artificial Intelligence, Digital, Lehrstuhlnachrichten, Management Tools
