Lecture: Verantwortungsvolle KI Entwicklung sicherstellen
Da KI-Technologien immer stärker mit unserem täglichen Leben verflochten sind, ist die Gewährleistung ihrer verantwortungsvollen Entwicklung von entscheidender Bedeutung. In ihrem Vortrag untersuchte Prof. Dr. Simone Stumpf von der University of Glasgow, was erforderlich ist, um verantwortungsvolle KI-Systeme zu schaffen, die sicher, vertrauenswürdig und fair sind. Ausgehend von ihrer Arbeit im Bereich der interaktiven und erklärbaren KI betonte Prof. Stumpf, dass es bei der Verantwortung in der KI nicht nur um Technologie geht, sondern um Menschen. Ihr Vortrag konzentrierte sich auf drei Säulen:
- 🔍 Rechenschaftspflicht & Korrektheit: Verantwortungsvolle KI beginnt mit inklusivem Design. Die Einbeziehung aller Interessengruppen – insbesondere der Endnutzer – durch partizipative Methoden und „Human-in-the-Loop“-Ansätze stellt sicher, dass Systeme für die Komplexität der realen Welt gebaut werden.
- 💡 Transparenz: Transparenz ist keine Einheitslösung. Um die Erklärbarkeit an die Bedürfnisse der Nutzer anzupassen, muss man fragen: Wer muss die KI verstehen, was müssen sie wissen, wann und wie sollte es präsentiert werden?
- ⚖️ Fairness: Fairness in der KI geht über Datensätze hinaus. Es geht darum, Inklusion und Vielfalt über den gesamten KI-Lebenszyklus hinweg zu verankern. Ohne Berücksichtigung von Governance und historischer Voreingenommenheit riskieren Systeme, Diskriminierung und Marginalisierung aufrechtzuerhalten.
Die Kernbotschaft von Prof. Stumpf: Wir müssen uns in Richtung einer auf den Menschen zentrierten KI bewegen – indem wir den Nutzern zuhören, verantwortungsvolle Praktiken in die Entwicklungspipelines integrieren und den regulatorischen Druck mit den Vorteilen sichererer, breiter akzeptierter Systeme in Einklang bringen.
Wir danken Prof. Dr. Simone Stumpf für ihren inspirierenden Vortrag und die aufschlussreiche Diskussion über den Weg zu einer wirklich verantwortungsvollen KI.
Mehr über ihre Forschung erfahren Sie unter: https://www.gla.ac.uk/schools/computing/staff/simonestumpf/#publications