|
Explainability [1] Unter Explainability wird im Bezug auf KI die Möglichkeit beschrieben, die von einer künstlichen Intelligenz getroffene Entscheidungen nachvollziehen und den Entscheidungsprozess erklären zu können. Allerdings lassen sich in der Praxis immer wieder Beispiele beobachten, bei welchen selbst die Entwickler einer Software diese Erklärung nicht gewährleisten können. In diesem Fall spricht man von Balckbox-Algorithmen. Problematisch wird dieser Sachverhalt in jenen Situationen, bei welchen eine KI fragwürdige Entscheidungen in wichtigen Bereichen wie Gesundheit oder Kredite trifft. Vielfach gehen derartige seltsame Entscheidungen auf die Inputs zurück, welche der Algorithmus von seiner Datenbasis erhalten hat. Sind die Daten zu einseitig bzw. unvollständig, besteht die Gefahr, dass die KI falsche Schlüsse aus den Inhalten zieht und so spätere Entscheidungen verfälscht werden. Da die Vorgehensweise einer KI also von der Datenbasis abhängt, welche ihr zugrunde liegt, kann, durch die Auswahl einer geeigneten Basis, auch ein potentieller Mangel an Explainability vermieden werden. Zudem ermöglicht es die Kontrolle des Lernprozesses der KI, dass fehlerhafte Schlussfolgerungen erkannt und beseitigt werden. von Jan und Jacob
|
