Deep-Learning-Ansätze ermöglichen die Erstellung hochpräziser Modelle für den Einsatz in unterschiedlichsten Anwendungsbereichen, etwa der Produktion oder Medizin. Allerdings haben diese Modelle Black-Box-Charakter, da die von ihnen gelernten Zusammenhänge so komplex und abstrakt sind, dass sie von Menschen - selbst von Experten - nicht nachvollzogen werden können. Bei einigen Anwendungen, etwa in sicherheitskritischen Bereichen, ist jedoch nicht nur die Genauigkeit der Vorhersagen, sondern auch das Vertrauen in die Algorithmen von enormer Bedeutung. Nina Schaaf vom Fraunhofer IPA gibt einen allgemeinen Überblick über »Explainable AI«. Dies umfasst die Motivation für das Forschungsfeld, wichtige Begriffsdefinitionen sowie eine Auswahl gängiger Erklärungstechniken.
00:52 − KI in der Produktion
04:19 − Famous Fails
08:20 − Herausforderung: Erklärbarkeit und Transparenz
21:13 − Arten von xAI
28:12 − Von der Black-Box zur Erklärung
30:44 − xAI Demonstrator
34:57 − Zusammenfassung
Kontakt:
Nina Schaaf, Telefon: +49 711 970-1971, E-Mail: nina.schaaf@ipa.fraunhofer.de