Künstliche Intelligenz wird zunehmend für massenhafte Desinformation und Manipulation eingesetzt. Davor warnen 22 Forschende aus unterschiedlichen Disziplinen in einem kürzlich publizierten Artikel in der Fachzeitschrift «Science». Zu den Autoren gehört auch Frank Schweitzer, emeritierter Professor für Systemgestaltung an der ETH Zürich.
Heute tauchen in Social Media-Netzwerken nicht mehr nur einzelne automatisierte Bots auf, die Diskussionen beeinflussen, sondern ganze Schwärme. Sie täuschen Debatten vor und passen sich gleichzeitig an das Verhalten und die Vorlieben der Nutzenden an. Durch generative KI wird Propaganda überzeugender und umfassender. Das lässt befürchten, dass auch Wahlergebnisse mit bösartigen KI-Schwärmen gezielt manipuliert werden können. Zum Beispiel täuschen Schwärme polarisierte Diskussionen vor oder fördern Minderheitsmeinungen, indem sie diese durch Likes, Retweets, Kommentare und Bewertungen verstärken.
Der Experte
Frank Schweitzer ist emeritierter Professor für Systemgestaltung an der ETH Zürich und Gründungsmitglied des ETH Risk Center. Seine Forschungsinteressen umfassen die Interaktion von Nutzern in sozialen Online-Netzwerken, kollektive Entscheidungen in Tiergruppen, Ausfallkaskaden und systemische Risiken in wirtschaftlichen Netzwerken.
Vor einigen Jahren war es noch deutlich aufwändiger, solche manipulativen Schwärme zu programmieren und diese an das Verhalten von Nutzerinnen und Nutzern anzupassen. Heute wird es immer einfacher, weil sich einerseits die künstliche Intelligenz sehr schnell entwickelt und andererseits die Rechenleistung weltweit ausgebaut wird. Damit werden auch KI-Schwärme zum legalen oder illegalen Geschäftsmodell.
Das perfide ist, dass es für Cybersecurity-Experten zunehmend schwieriger wird, das Verhalten solcher Schwärme von echtem sozialem Verhalten der Social Media-Nutzenden zu unterscheiden, da die Agenten in diesen Schwärmen ihr Verhalten koordinieren und sich dabei ständig weiterentwickeln. Durch die Interaktion mit Nutzenden lernen sie kontinuierlich hinzu und passen sich ans Nutzerverhalten an. Damit suggerieren sie eine soziale Realität, die es so nicht gibt.
Solche Manipulationen zu erkennen, ist eine wissenschaftliche und technische Herausforderung. Heute reicht es nicht mehr aus, eine einzelne Quelle der Falschinformation zu identifizieren. Vielmehr müssen Spezialistinnen mit statistischen Methoden sogenannte Fingerprints identifizieren: bestimmte Muster im Verhalten oder sprachliche Wiederholungen, die auf automatisierte Bots hindeuten. Mit den immer leistungsstärkeren Large Language Models (LLM) nehmen auch die Fähigkeiten der KI-Schwärme zu, solche Detektionsverfahren zu umgehen. Es ist ein ständiger Wettlauf zwischen Akteure, die bösartige KI-Schwärme für ihre Zwecke nutzen, und denjenigen, die das Internet vor solchen Attacken schützen wollen.
Stärkere Regulierungen wirken nur bedingt, weil kriminelle Akteure meist schnell Wege finden, um diese zu umgehen. Im besten Fall können der Aufwand und damit auch die Kosten für erfolgreiche Attacken erhöht werden. Wichtiger scheint mir hingegen, dass die Bevölkerung ein Bewusstsein für die Gefahren von KI-Schwärmen entwickelt. Wir müssen Schülerinnen und Studierende in digitaler Medienkompetenz schulen und über Risiken von KI-Schwärmen und automatisierter Beeinflussung auf den Social Media aufklären.
In der Schweiz ist die Ausgangslage dafür gut: Schweizer Stimmbürgerinnen und Stimmbürger sind es gewohnt, sich regelmässig mit komplexen Abstimmungsfragen zu befassen und sich breit zu informieren. Dafür ist es wichtig, dass neben den sozialen Netzen auch klassische Medien, regionale Zeitungen,Öffentlich-rechtliches Radio und Fernsehen sowie die Botschaften des Bundesrates und der Parteien genutzt werden.
Je vielfältiger und unabhängiger sich Bürgerinnen und Bürger informieren können, desto geringer ist die Gefahr, dass ihre Meinung durch KI-Schwärme manipuliert wird. Für unsere Demokratie spielen starke staatliche Medien und eine vielfältige Medienlandschaft eine wichtige Rolle - vorausgesetzt natürlich, dass Bürgerinnen und Bürger die diversen Informationskanäle tatsächlich nutzen und sich am politischen Prozess beteiligten.
