28.08.2026 INDUSTRIAL AI: KI unter menschlicher Kontrolle und Aufsicht
KI-Systeme mit hoher Komplexität, insbesondere tiefe neuronale Netze, sind häufig sogenannte Black Boxes – die zugrunde liegenden Prozesse und die zugrunde liegenden Algorithmen sind oft schwer nachvollziehbar. In vielen Bereichen ist es jedoch von entscheidender Bedeutung, dass die Ergebnisse nachvollziehbar sind, um eine Einordnung und Hinterfragung der Ergebnisse zu ermöglichen. In Bereichen, in denen die Sicherheit von Menschen auf dem Spiel steht, ist es zudem ein rechtliches Gebot, KI-Systeme erklärbar zu machen. In diesem Kontext erweist sich das Konzept der erklärbaren KI (XAI) als hilfreich.