Von Taiwan über den Senegal bis hin zu den USA waren in diesem Jahr fast 100 Länder an den Wahlurnen vertreten. Die KI stand im Mittelpunkt der politischen Kampagnen. Zwischen Deepfake und Chatbot destabilisiert der Missbrauch von Technologien das Vertrauen der Öffentlichkeit in die Informationen, die von den Medien verbreitet werden - egal von welchen, von Fernsehsendern bis hin zu sozialen Netzwerken. Die an der EPFL ansässige Initiative for Media Innovation (IMI) hat die Wahlen von 2024 unter die Lupe genommen und veröffentlicht in ihrer ersten Ausgabe des Magazins "Décryptage" eine Analyse der Auswirkungen von künstlicher Intelligenz auf verschiedene Wahlkampagnen. Sie stammt aus der Feder des Journalisten Gilles Labarthe, in Zusammenarbeit mit Mounir Krichane und Julie Schüpbach vom IMI sowie Christophe Shenk, Präsident des wissenschaftlichen Rates des IMI und Verantwortlicher für die digitale Koordination Actu bei RTS.
Verstorbene politische Figuren "wiederbelebt".
Bei der Analyse der verschiedenen Wahlkampagnen und -ergebnisse mit lokalen Experten stellten mehrere Experten fest, dass die KI die Ergebnisse der Abstimmungen tatsächlich nicht umgestoßen hat. Ihre Auswirkungen blieben also begrenzt. Dennoch hat die Verbreitung von manipulierten Inhalten, die durch Algorithmen verstärkt werden, zu einer Fragmentierung der Meinungen beigetragen und ein Klima des allgemeinen Misstrauens geschürt. Deepfakes, künstlich erzeugte audiovisuelle Inhalte, die echte Personen imitieren sollen, prägten das Wahljahr sowohl in den USA als auch in der Schweiz. In Indien und Indonesien hat der Einsatz generativer KI neue Grenzen überschritten: Verstorbene Politiker wurden als digitale Avatare "wiederbelebt", um die Wähler zu beeinflussen.Technologie allein reicht nicht aus. Der Mensch bleibt das schwächste Glied.
Touradj Ebrahimi, Direktor der Multimedia Signal Processing Group
Der IMI-Bericht betont, dass die Geschichte der digitalen Manipulation zu Propagandazwecken nicht neu ist. Aber die KI hat ihre Möglichkeiten vervielfacht. In Wahlkampfzeiten erschüttert die massenhafte Produktion und schnelle Verbreitung synthetischer Inhalte - seien es Videos, Bilder oder Texte - das Öffentliche Vertrauen. Darüber hinaus beobachten die Autoren des Berichts einen Mangel an Regulierung, der als Folge die Verbreitung manipulativer Inhalte ermöglicht hat und ein Rechtsvakuum veranschaulicht.
Touradj Ebrahimi, der für diese Entschlüsselung interviewt wurde, ist der Ansicht, dass Deepfakes völlig neue technische, soziale und ethische Herausforderungen mit sich bringen. "Wir sind mit einem Wettlauf zwischen Werkzeugen zur Erstellung und Werkzeugen zur Erkennung konfrontiert", erklärt der Professor. In seinem Labor, das auf die Verarbeitung von Multimediasignalen spezialisiert ist , forscht er an konkreten Lösungen, um manipulierte Inhalte zu identifizieren und einzuschränken (siehe unten).
Eine kollektive Anstrengung
Der IMI-Bericht bietet einen Überblick über die Herausforderungen, die KI in Wahlkämpfen mit sich bringt. Er vereint auch konkrete Ansätze zur Begrenzung der Auswirkungen von Desinformation, die von Forscherinnen, Forschern, Expertinnen, Experten und Medienschaffenden sowie Bürgeraktionen vorgeschlagen wurden. Zu den Empfehlungen gehört die Entwicklung von Tools zur Nachverfolgung und Erkennung synthetischer Inhalte, wie sie von Touradj Ebrahimi entwickelt wurden.Die Bedeutung der internationalen Regulierung und der Rechenschaftspflicht der technologischen Akteure wird ebenfalls hervorgehoben. Der Professor betont die Notwendigkeit, kollaborative Initiativen zur Überprüfung von Fakten zu fördern und die zentrale Rolle der Bildung im Kampf gegen Desinformation: "Technologie allein reicht nicht aus. Der Mensch bleibt das schwächste Glied. Es ist wichtig, die Nutzer über die Risiken von Fake News aufzuklären und ihnen Werkzeuge an die Hand zu geben, um Quellen zu überprüfen."
Schließlich unterstreicht der Bericht die entscheidende Rolle von Regierungen, Unternehmen und der Zivilgesellschaft bei der Schaffung eines ethischen und sicheren digitalen Umfelds. Diese Entschlüsselungsarbeit ruft zu kollektiven Maßnahmen auf, um das Vertrauen in demokratische Prozesse im Zeitalter der KI wiederherzustellen.
Der Kampf gegen Desinformation ist also nicht nur eine Frage der Technologie, sondern, wie der IMI-Bericht zeigt, auch eine Zusammenarbeit von Wissenschaftlern, Regierungen, Unternehmen und Bürgerinnen und Bürgern. Gemeinsam können sie der Information ihre Glaubwürdigkeit zurückgeben und das Vertrauen in demokratische Prozesse wiederherstellen.
Einschränkung manipulierter Inhalte: Einzigartige Expertise an der EPFL
Das Labor für Multimedia-Signalverarbeitung unter der Leitung von Professor Touradj Ebrahimi arbeitet an der Erkennung und Begrenzung von manipulierten Inhalten. Beispielsweise kombiniert der JPEG-Trust-Standard Werkzeuge, die es ermöglichen, die Authentizität von Bildern von ihrer Entstehung über jeden Schritt der digitalen Verarbeitung bis hin zu ihrer Verbreitung zu verfolgen."Es geht nicht darum, eine einzige Lösung zu finden, sondern darum, die Vertrauensindikatoren zu vervielfachen, um die Risiken zu verringern", betont der Experte. Diese proaktive Methode stützt sich auf digitale Signaturen, die die Herkunft der Inhalte nachverfolgen und mögliche Manipulationen erkennen.
Touradj Ebrahimi setzt auch auf generative antagonistische Netzwerke (GAN), eine Technologie, bei der zwei KIs gegeneinander antreten: Eine produziert synthetische Inhalte, während die andere versucht, diese zu erkennen. Diese selbstlernenden Systeme versprechen, die Erkennung der raffiniertesten Deepfakes zu verbessern, während sie für Medien und digitale Plattformen zugänglich bleiben.
