Md Shajalal erhält Best Paper Award
Bei der 28. Internationalen Konferenz für Mensch-Computer-Interaktion (HCII) in Montreal ging ein Preis an Wissenschaftler der Universität Siegen. Die preisgekrönte Arbeit mit dem Titel „Human-Centered Explanations for Audio Deepfakes: Making Machine Reasoning Human-Perceptible Through Voice Traits“ wurde von Md Shajalal, Mahedi Hasan Riday, Sima Amirkhani und Gunnar Stevens verfasst. Die Arbeit wurde in der Kategorie „KI in HCI“ mit einem Best-Paper-Award ausgezeichnet.
Die ausgezeichnete Arbeit entstand im Rahmen des vom Bundesministerium für Bildung und Forschung (BMBF) geförderten Forschungsprojekts „AntiScam“. Das Projekt erforscht unter anderem erklärbare KI-basierte Verfahren zur Erkennung von Betrugsversuchen mit synthetischen Stimmen und soll Verbraucherinnen und Verbraucher besser vor KI-gestütztem Kommunikationsbetrug schützen.
Die Forschung befasst sich mit einer wachsenden Herausforderung, die sich aus der rasanten Entwicklung generativer künstlicher Intelligenz ergibt: Immer realistischere Audio-Deepfakes lassen sich für Menschen nur schwer von authentischen Aufnahmen unterscheiden. Zwar können KI-basierte Erkennungssysteme dabei helfen, manipulierte Audioaufnahmen zu identifizieren, doch sind ihre Entscheidungen für Nutzer oft schwer nachvollziehbar.
Die Forscher untersuchen daher, wie die Argumentation von Deepfake-Erkennungssystemen in für Menschen wahrnehmbare Stimmmerkmale übersetzt werden kann. Anstatt den Nutzern lediglich eine Vorhersage darüber zu präsentieren, ob eine Audioaufnahme echt oder gefälscht ist, zielt der Ansatz darauf ab, verständliche Hinweise darauf zu geben, warum das System eine Aufnahme als manipuliert einstuft. Diese menschenzentrierte Perspektive kann Nutzern helfen, KI-generierte Erklärungen besser zu interpretieren.
