Projekte

Behördenübergreifender Umgang mit Desinformation

Projektlaufzeit: 07/2026 – 06/2029
Geldgeber: BMFTR
Partner: Universität Potsdam, Eberhard Karls Universität Tübingen, Universität zu Köln, Virtimo AG und die Bundesanstalt Technisches Hilfswerk (THW)

Worum geht es?
Digitale Desinformation schwächt die Handlungsfähigkeit von Behörden und Organisationen mit Sicherheitsaufgaben (BOS), da fehlende Ressourcen und mangelnder Austausch die Erkennung und Bekämpfung erschweren. Im Projekt BOSNET wird daher ein KI-System entwickelt, das Desinformation in sozialen Medien erkennt und die BOS bei der Koordination und Kommunikation im Umgang mit Desinformation unterstützt.

Erklärbare KI zum Lernen über digitale Desinformation

Projektlaufzeit: 04/2026 – 03/2029
Geldgeber: BMFTR
Partner: Universität Ulm, Karlsruher Institut für Technologie (KIT) sowie DASU (Transferzentrum für Digitalisierung, Analytics & Data Science) und Eduversum GmbH

Worum geht es?
Desinformation und Deep Fakes bedrohen das demokratische Gemeinwohl und das Vertrauen in staatliche Institutionen. Das Projekt EKILED setzt daher bereits in der Schule an und stärkt durch interaktive XAI-Ansätze die Medien- und Digitalkompetenz junger Menschen im Umgang mit digitaler Desinformation.

Entwicklung von Medienstrategien und Werkzeugen zur Bekämpfung von Cybermobbing und Hassbotschaften in Ermittlungs- und Strafverfolgungsbehörden

Projektlaufzeit: 08/2023 – 12/2026
Geldgeber: BMFTR
Partner: Technische Universität Darmstadt, Universität Potsdam und Virtimo AG

Worum geht es? 
Cybermobbing und Hassbotschaften nehmen in sozialen Medien stetig zu, doch bislang fehlt eine umfassende Lösung, die in alltägliche Anwendungen integriert ist. Das Projekt CYLENCE entwickelt Strategien und Werkzeuge zur Sensibilisierung und Prävention, zur Meldung von Vorfällen sowie zur Erfassung und Analyse von Cybermobbing zur frühzeitigen Identifizierung und Priorisierung. Zudem soll ein präzises Lagebild für Ermittlungs- und Strafverfolgungsbehörden entstehen.
 

Verstehen der Wahrnehmung von KI-generierten Fehlinformationen durch Social Media Nutzer:innen

Projektlaufzeit: 01/2024 – 12/2025
Geldgeber: DAAD

Projektpartner: University of Melbourne, Australien

Das Projekt ARTIMIS untersuchte die Auswirkungen von Fehlinformationen auf Social-Media-Nutzer:innen. Ziel war es, verschiedene Arten von generativer KI-Fehlinformation zu identifizieren, ihre Wahrnehmung durch Nutzer:innen zu verstehen und deren Widerstandskraft und Resilienz gegenüber diesen zu erhöhen.

Trainingsansatz zur Vermittlung von Maßnahmen zur Prävention digitaler Desinformationskampagnen

Projektlaufzeit: 01/2021 – 06/2025
Geldgeber: BMFTR (ehem. BMBF)

Projektpartner: Universität Potsdam, Universität zu Köln, Eberhard-Karls-Universität Tübingen und Virtimo AG

Das Projekt PREVENT untersuchte, wie Sicherheitsbehörden besser mit Desinformation umgehen können. Ziel war die Entwicklung von Präventionsmaßnahmen, die hinsichtlich der Akzeptanz und der ethisch-rechtlichen Kriterien bewertet wurden.

Digital Innovation for Sustainable Development

Projektlaufzeit: 08/2022 – 12/2024
Projektpartner: Westfälische Wilhelms Universität Münster (Prof. Brandt) und Universität zu Köln (Prof. Mensmann).

Das Projekt INNO4S entwickelte ein digitales Lehr-/Lernangebot, das die Themenfelder Nachhaltigkeit, Digitalisierung und Innovation in wirtschaftlichen Studiengängen verankerte. Anhand von Fallbeispielen wurde gezeigt, wie digitale Technologien zur Bewältigung globaler Herausforderungen beitragen können. Die Inhalte wurden in verschiedenen Formaten sowie mit zielgruppengerechten Lehrplänen bereitgestellt.

Analysing Social Media Use during Natural Hazards: Improving Crisis Communication

Projektlaufzeit: 01/2023 – 12/2024
Projektpartner: Charles Darwin University, Australien

Das Projekt Natural Hazard befasste sich mit der effizienten und gezielten Informationsverbreitung über soziale Medien in Gefahrensituationen für die Allgemeinheit. Im Kontext standen dabei insbesondere klimawandelbedingte Ereignisse, die eine Gefahr darstellen und eine gezielte Informationsverarbeitung erfordern.