AI Act: Expertise der Universität Bamberg

Am 2. August 2026 werden weitere Regelungen des europäischen AI Act wirksam – etwa zu Transparenz von KI-Einsatz. Die Vorgaben für Hochrisiko-KI-Systeme wurden hingegen auf Ende 2027 beziehungsweise 2028 verschoben. Forschende der Otto-Friedrich-Universität Bamberg stehen Journalistinnen und Journalisten für Interviews, Hintergrundgespräche und fachliche Einordnungen rund um KI und den AI Act zur Verfügung. 

Die Universität Bamberg bündelt ihre KI-Forschung im Bamberger Zentrum für Künstliche Intelligenz (BaCAI). Dort arbeiten acht KI-Professuren sowie weitere Forschende aus Informatik, Wirtschaftsinformatik und anderen Disziplinen an Grundlagen und Anwendungen Künstlicher Intelligenz – unter anderem in den Bereichen Gesundheit, Bildung und Industrie. Ein besonderer Schwerpunkt liegt auf transparenter, robuster und vertrauenswürdiger KI. Gemeinsam mit den Universitäten Würzburg, Erlangen-Nürnberg, Bayreuth und der Technischen Universität Nürnberg ist die Universität Bamberg zudem Teil der ELLIS Unit Franconia, einem neuen Standort des europäischen KI-Forschungsnetzwerks ELLIS.

Nachfolgend finden Sie Expertinnen und Experten der Universität Bamberg mit ihren jeweiligen Themengebieten und Kontaktdaten:

Prof. Dr. Christoph Benzmüller

Lehrstuhl für KI-Systementwicklung (AI Systems Engineering)
Tel.: 0951/863-2942
E-Mail: christoph.benzmueller(at)uni-bamberg.de 

Themen:

Logische Analyse des AI Act: Welche Pflichten und Handlungsspielräume enthält die Verordnung? Wo ist sie sprachlich mehrdeutig oder schwer formal zu fassen? 

Recht und Ethik formal modellieren: Normen in vom Computer prüfbare Form übersetzen und damit einen Beitrag zu vertrauenswürdiger KI leisten.

Symbolische KI als Prüfschicht: Die Kopplung lernender Systeme – etwa Sprachmodelle – mit logikbasierten Verfahren macht ihr Verhalten überprüfbar und kontrollierbar. Genau das fordert der AI Act bei Hochrisiko-Anwendungen. 

Prof. Dr. Claus-Christian Carbon

Lehrstuhl für Allgemeine Psychologie und Methodenlehre
Tel.: 0951/863-1861
E-Mail: ccc(at)uni-bamberg.de 

Themen:

Gesellschaftliche Folgen des AI Act: Welche KI-Anwendungen besonders reguliert werden und welche Bedeutung die neuen Vorgaben für Gesellschaft und Alltag haben

Transparenz, IT-Sicherheit und Grundrechte: Wie sich KI-Systeme im Hinblick auf Nachvollziehbarkeit, Diskriminierung und informationelle Selbstbestimmung bewerten lassen

Hochrisiko-KI verständlich erklärt: Wo KI-Systeme erhebliche Auswirkungen auf Einzelpersonen haben können – etwa bei Bewerbungen, Prüfungen oder der Kreditvergabe – und welche Schutzmaßnahmen der AI Act vorsieht

Vertrauenswürdige KI in der Praxis: Warum die Bezeichnung „AI-Act-konform“ allein nicht ausreicht und wie sich KI-Systeme durch Datenqualität, Bias-Tests, menschliche Aufsicht und klare Verantwortlichkeiten überprüfbar machen lassen

Prof. Dr. Isabel Kusche

Professur für Soziologie mit dem Schwerpunkt digitale Medien
Tel.: 0951/863-3132
E-Mail: isabel.kusche(at)uni-bamberg.de 

Themen:

Gesellschaftliche Debatten über KI: Wie Chancen und Risiken Künstlicher Intelligenz öffentlich diskutiert werden und welche Erwartungen mit der Technologie verbunden sind

AI Act zwischen Innovation und Regulierung: Spannungsfelder zwischen risikobasierter Regulierung, Innovation und dem Schutz von Grundrechten

Zukunftsbilder von KI: Wie Künstliche Intelligenz gesellschaftliche Entwicklungen prägt und welche soziotechnischen Zukunftsbilder damit verbunden sind

Prof. Dr. Christian Ledig

Lehrstuhl für Erklärbares Maschinelles Lernen
Tel.: 0951/863-2026
E-Mail: christian.ledig(at)uni-bamberg.de

Themen:

Erklärbare KI in der Medizin: Wie KI-Systeme Diagnosen unterstützen und ihre Entscheidungen für Ärztinnen und Ärzte nachvollziehbar machen können

Robuste KI für Hochrisiko-Anwendungen: Verfahren, die ungeeignete Daten erkennen und Fehlentscheidungen von KI-Systemen verhindern – von der Medizin bis zur Bildung

AI Act in der Praxis: Anforderungen der neuen EU-Verordnung an KI-Systeme und deren Umsetzung bei der Entwicklung und Zulassung von KI-gestützten Medizinprodukten

Datenschutz und Generative KI: Datenschutzfreundliche KI-Verfahren, mit denen Modelle auch im sensiblen Gesundheitswesen trainiert werden können

Prof. Dr. Ute Schmid

Lehrstuhl für Kognitive Systeme
Tel.: 0951/863-2860
E-Mail: ute.schmid(at)uni-bamberg.de 

Themen:

Erklärbare KI: Methoden, die Entscheidungen von KI-Systemen nachvollziehbar und verständlich machen

Vertrauenswürdige KI: Voraussetzungen für einen transparenten, zuverlässigen und verantwortungsvollen Einsatz

Menschliche Kontrolle über KI: Methoden des „Human-in-the-Loop“-Lernens, die sicherstellen, dass Menschen die Kontrolle und Aufsicht über KI-Systeme behalten

Weiterführende Informationen für Medienvertreterinnen und -vertreter:

Medienkontakt:
Tanja Eisenach
Pressestelle/Leitung
Tel. 0951/863-1023
presse(at)uni-bamberg.de

Hannah Fischer
Pressestelle/Pressereferentin
Tel.: 0951/863-1445
redaktion.presse@uni-bamberg.de