Hassbilder zirkulieren nicht nur auf sozialen Medien

Prompt-athon for a better world! Mit KI-Tools Counter-Images gegen Hassbilder kr
Prompt-athon for a better world! Mit KI-Tools Counter-Images gegen Hassbilder kreieren.

Fachhochschule Graubünden und Universität Freiburg stellen Studienergebnisse zu Hassbilder vor

Die Mehrheit der Internetnutzenden wird mit Hassbotschaften konfrontiert. Visueller Hass etwa in Form von Memes, Fotos oder Karikaturen ist dabei besonders wirkungsvoll. Die Fachhochschule Graubünden und die Universität Freiburg haben visuelle Hassbotschaften untersucht. Die Forschenden brachten in Erfahrung, welche Personengruppen häufig Gegenstand von Hassbildern sind und auf welchen Plattformen Hassbilder verbreitet werden. In einer Veranstaltung werden mit KI-Tools Counter-Images gegen Hassbilder kreiert.

Als Hassbild gilt jede visuelle Darstellung, die jemand als diskriminierend oder verletzend wahrnimmt oder die zu Gewalt aufruft bzw. sie verherrlicht. Ein Hassbild richtet sich immer gegen gruppespezifische Merkmale wie bspw. die Nationalität, die Hautfarbe, das Alter oder auch die politische Einstellung. Für das vom BAKOM unterstützte Forschungsprojekt wurden 86 Hassbilder gespendet und analysiert.

Zentrale Ergebnisse der Studie «Ein Bild verletzt mehr als 1000 Worte»
Neben den sozialen Medien wie X (vormals Twitter, 27.1 %) oder Instagram (24.3 %) wurden auch bisher wenig untersuchte Plattformen als Vermittler von Hassbildern identifiziert: So wurden auch Hassbilder auf nutzerbasierten Versandund Kleinanzeigenplattformen wie Amazon oder tutti.ch (7%) veröffentlicht, die über hohe Nutzungszahlen, aber nur geringe Meldeund Beschwerdeoptionen verfügen. Besonders beunruhigend ist die Beteiligung publizistischer Medien an der Verbreitung von Hassbotschaften (10%). Trotz der meist kritischen Diskussionen in den begleitenden Artikeln tragen sie durch das Abbilden von Hassbildern zur verstärkten Reichweite dieser Botschaften bei.

Die Studie zeigt auch, dass sich der Hass auf den analysierten Bildern Überwiegend gegen Personen aufgrund ihrer Nationalität (25%) richtet. Auch die Geschlechtszugehörigkeit (21%) wurde diskreditiert - insbesondere wurden dabei Transgenderpersonen (10.5%) angegriffen. Auch Einstellungen und Positionen wie bspw. zum Ukrainekrieg, zum Klimawandel oder zum Impfen stellen den Anlass von Anfeindungen dar.

Die Hälfte der Hassbilder (50.7%) grenzen andere Personen(gruppen) mit sachlichen oder humoristischen Mitteln aus. Genau so viele Hassbilder sind jedoch deutlich aggressiv im Ton. Davon weisen 14 Prozent auch strafrechtlich relevante Inhalte wie bspw. Aufrufe zum Mord auf. Hassbilder werden in gleichem Masse durch ressourcenstarke Organisationen wie bspw. Parteien, als auch durch Individuen gestreut. Auffallend ist, dass sich Parteien, als einer der Grundpfeiler von Demokratien oder auch einzelne Politiker:innen an der Verbreitung von Hassbildern beteiligen.

Empfehlungen für die Bekämpfung von Hassbildern
Auf Basis der Studienergebnisse hat das Forscherteam Handlungsempfehlungen zur Bekämpfung von Hass im Netz formuliert. So sollen staatliche Massnahmen für grosse Plattformen wie X oder Instagram auch auf kleinere, aber auf nationalem Level bedeutende, Plattformen wie Kleinanzeigenportale ausgeweitet werden. Den publizistischen Medien wird dringend empfohlen, ihre bedeutende Rolle als Verbreiterinnen von Hassbildern bewusst zu werden, sei es mittels verstärkter Selbstreflexion in den Redaktionen sowie Sensibilisierungsmassnahmen durch Branchenverbände. Zudem wird empfohlen, über die Einführung von Standards für die Parteikommunikation nachzudenken, denn heute werden oftmals Hassbilder verwendet, um politische Gegner:innen zu diskreditieren. So wie bereits einige Schweizer Parteien die Verwendung von KI im Wahlkampf geregelt haben.

Die Studienergebnisse werden am Abend des 31. Mai 2024 in Bern präsentiert. Im Anschluss sollen im Rahmen des Events «Prompt-athons für eine bessere Welt» in Teams Counter-Hassbilder mithilfe von KI-Tools erstellt werden. Die so entstandenen Bilder und Prompts sollen auf einer Webseite zur Verfügung gestellt werden, um Internetnutzende zu befähigen direkt gegen Hassbilder vorgehen zu können. Zudem werden die Bilder für ein nächstes Forschungsprojekt genutzt, das experimentell die Wirkung von Counter-Hassbildern testet. Alle Counter-Images werden am Abend durch eine Jury beurteilt.