Künstliche Intelligenz Verständlich und Vertrauenswürdig Machen
Teaser
Künstliche Intelligenz hat längst den Bereich der Science-Fiction verlassen. Wie der Fernsehbeitrag von 4You zeigt, sind KI-Tools bereits Teil des akademischen Alltags und finden in verschiedenen Disziplinen Anwendung, von Informatik und Rechtswissenschaften bis hin zu Pädagogik und Medizin. Der Beitrag vereint Perspektiven von vier oberfränkischen Einrichtungen, die jeweils einen anderen Aspekt der KI-Revolution beleuchten: von praktischen Tools für Studierende bis hin zu grundlegenden Fragen des Rechts und der Ethik.
An der Hochschule Hof liegt der Schwerpunkt auf praktischen KI-Tools, die Studierende bereits in ihrem Studienalltag nutzen. Chatbots, Schreibassistenten und Bildgeneratoren werden direkt in die Lehre integriert und bereiten die Absolventen auf einen Arbeitsmarkt vor, in dem KI-Kenntnisse bald unverzichtbar sein werden. Die Botschaft ist klar: Wer sich heute aktiv mit KI auseinandersetzt, ist besser gerüstet, um die Zukunft zu gestalten.
Die Universität Bayreuth hingegen untersucht KI aus rechtlicher und gesellschaftlicher Perspektive. Dortige Forscher untersuchen, wie Technologien wie Gesichtserkennung und Deepfakes in der Strafjustiz eingesetzt (oder missbraucht) werden könnten. Ihre Arbeit verdeutlicht einen kritischen Konflikt: Während KI die Strafverfolgung und Gerichte unterstützen kann, stellt ihre mangelnde Transparenz grundlegende Rechtsprinzipien wie ein ordnungsgemäßes Verfahren und die Nachvollziehbarkeit vor große Herausforderungen.
An der Hochschule Coburg steht das Lernen selbst im Mittelpunkt. Forscher untersuchen, ob KI-gestützte Tutoren, von textbasierten Systemen bis hin zu immersiven Virtual-Reality-Avataren, den Mangel an wissenschaftlichem Personal ausgleichen und Studierenden eine individuellere Betreuung bieten können. Erste Ergebnisse deuten darauf hin, dass interaktive KI-Tutoren das Engagement und die Lernergebnisse erheblich verbessern und die Hochschulbildung einem individualisierten Mentoring in großem Maßstab näherbringen können.
Vor diesem vielfältigen Hintergrund liefert der Beitrag des Lehrstuhls für Explainable Machine Learning (xAILab Bamberg) an der Universität Bamberg eine verbindende Perspektive: Vertrauen. Während KI-Systeme immer leistungsfähiger werden, sind die Bedenken der Öffentlichkeit hinsichtlich Undurchsichtigkeit, Kontrollverlust und Datenmissbrauch nach wie vor groß. Das Bamberger Team geht direkt auf diese Bedenken ein, indem es sich auf KI konzentriert, die nicht nur genau, sondern auch erklärbar, robust und dateneffizient ist.
Professor Christian Ledig betont, dass erklärbare KI keine einzelne Technik, sondern ein Leitprinzip ist. Seine Forschungsgruppe entwickelt Systeme, die ihre Entscheidungen auf eine Weise begründen können, die für verschiedene Interessengruppen, seien es Ärzte, Pädagogen oder Endnutzer, sinnvoll ist. Diese Transparenz ist eine Voraussetzung für den verantwortungsvollen Einsatz von KI in sensiblen Bereichen wie Medizin und Bildung.
Konkrete Beispiele aus dem Labor machen diese Vision greifbar. Sebastian Dörrich, Doktorand am xAILab Bamberg, stellte Arbeiten zur medizinischen Bildanalyse in Zusammenarbeit mit dem Klinikum Nürnberg vor. Mit Hilfe von Deep-Learning-Methoden entwickelt das Team KI-Systeme, die automatisch Stadien von Magenschleimhautentzündungen erkennen und klassifizieren. Was derzeit noch eine zeitaufwändige manuelle Untersuchung durch medizinische Experten erfordert, könnte in Zukunft durch transparente KI-Tools unterstützt werden, die Ärzten helfen, schnellere und fundiertere Entscheidungen zu treffen, ohne ihr Fachwissen zu ersetzen.
Eine weitere zentrale Herausforderung in der medizinischen KI ist die Datenknappheit in Verbindung mit strengen Datenschutzbestimmungen. My Nguyen, ebenfalls Doktorandin am xAILab Bamberg, geht dieses Dilemma mit innovativen Ansätzen zum datenschutzkonformen Lernen an. Anstatt sensible Patientendaten zwischen Krankenhäusern auszutauschen, können KI-Modelle aus verteilten Datenquellen lernen und synthetische Trainingsdaten generieren, die seltene Krankheitsmuster erfassen, ohne jemals echte Patientenakten offenzulegen. Dieser Ansatz verspricht robustere KI-Systeme bei vollständiger Einhaltung der Datenschutzanforderungen.
Der 4you-Bericht macht eines unmissverständlich deutlich: Die KI-Forschung in Oberfranken ist lebendig, vielfältig und zukunftsweisend. In diesem Umfeld spielt der Lehrstuhl für Explainable Machine Learning der Universität Bamberg eine zentrale Rolle, indem er sich mit einer der drängendsten Fragen unserer Zeit befasst: nicht nur, wie leistungsfähig KI werden kann, sondern auch, wie verständlich und vertrauenswürdig sie sein muss, um den Menschen wirklich zu dienen.