DISL - Dependable Intelligent Software Lab

Softwaretechnik zum Unterbinden von Fehlverhalten in KI-Software, insb. in Zusammenhang mit künstlichen neuronalen Netzen, um den verantwortungsvollen Einsatz in cyber-physikalischen Systemen zu ermöglichen.

DISL ist ein Forschungs- und Transferprojekt der Universität Bamberg, gefördert durch das Bundesministerium für Bildung und Forschung (BMBF). Beteiligt sind die Professur für Angewandte Informatik, insbes. Kognitive Systeme, Professur für Angewandte Informatik, insbes. Smart Environments, Professur für Grundlagen der Informatik sowie der Lehrstuhl für Praktische Informatik, insbesondere Softwaretechnik und Programmiersprachen.

Im Rahmen dieses Projekts werden Methoden entwickelt, um den Einsatz von Lernverfahren in cyber-physikalischen Systemen zielführend und zuverlässig durchführen zu können und Qualifizierungsmaßnahmen zur Entwicklung verlässlicher KI-Software konzipiert und durchgeführt.

Maschinelle Lernverfahren, insbesondere künstliche neuronale Netze (KNNs), sind von zunehmender Bedeutung in immer mehr Anwendungsgebieten. Oftmals werden die verwendeten Modelle noch zur Laufzeit mit neuen Daten verbessert und passen sich somit über die Zeit fortlaufend an. Dabei gibt es jedoch eine Vielzahl an Herausforderungen, die adressiert werden müssen um verlässliche Softwaresysteme mit diesen Lernverfahren zu realisieren. (1) Kontra-intuitive Generalisierung kann zu unerwartetem Verhalten und leichter Manipulierbarkeit führen; (2) nicht-repräsentative Trainingsdaten resultieren in einer systematischen Fehlklassifikation, eine Überprüfung der Trainingsdaten ist jedoch in vielen Fällen nicht möglich; (3) Lernverfahren sind für das klassische Methodenportfolio der Verifikation meist nicht zugänglich und nur eine Laufzeitverifikation ist möglich; (4) Neue Komponenten müssen in die bisherige Infrastruktur integriert werden.

Basierend auf diesen Herausforderungen stellen sich die Forschungsziele des Projekts wie folgt dar:

  1. Extraktion von automatisch analysierbarer Information aus gelernten Modellen künstlicher neuronaler Netze: Whiteboxing von Blackbox-Lernverfahren
  2. Entwicklung einer modal-relationalen Domain-Specific-Language zur Spezifikation von cyber-physikalischen Systemen mit integrierten künstlichen neuronalen Netzen, die unter Umständen nebenläufig agieren.
  3. Entwicklung von Algorithmen zur automatischen Laufzeitverifikation von Systementscheidungen unter Ausnutzung der für künstliche Intelligenz spezialisierten Hardware, d.h. parallelisierte Implementierung auf für numerische Operationen optimierte parallelisierte Hardware (GPU).

Die Forschungsziele werden dabei in engem Austausch mit industriellen Partnern vorangetrieben.

Im Rahmen der 43. internationalen Tagung über Künstliche Intelligenz der Gesellschaft für Informatik (e.V.) KI2020 findet ein Workshop zum Thema dependable Artificial Intelligence statt.