Blick in die Blackbox: Nachvollziehbarkeit von KI-Algorithmen in der Praxis
(Oktober 2019)Zusammenfassung
Von Suchalgorithmen über Entscheidungsbäume bis hin zu wissensbasier-ten Systemen: In den letzten sechs Dekaden hätten Künstliche Intelligenz (KI)-Expert/innen eine Vielzahl an KI-Algorithmen entwickelt. Diese regelba-sierte KI sei erklärbar. Der Entscheidungsweg eines klassischen KI-Algorithmus sei transparent. Wir könnten nachvollziehen, warum sich z.B. ein Entscheidungsbaum für eine bestimmte medizinische Diagnose aus-spreche. Deshalb bezeichne man klassische KI-Algorithmen als White-Box-Verfahren. Die neuronalen Netze stellten eine der mächtigsten Algorithmen-familien der KI dar. Sie würden hingegen komplexe Zusammenhänge aus Trainingsdaten lernen, die für den Menschen nicht ohne weiteres nachvoll-ziehbar seien. Deswegen entspreche ihr Verhalten einer sogenannten Black-Box. In dieser Publikation werden Anwendungsfälle aus der Praxis vorgestellt und Entscheidungsprozesse von neuronalen Netzen nachvoll-ziehbar gemacht.