Extremismus in Gaming-Ökosystemen: Erkenntnisse aus GEMS
Dr. Dominic Kudlacek
Hochschule Bremerhaven
Dieser Vortrag informiert darüber, wie extremistische Kräfte Online-Gaming-Umgebungen und In-Game-Chats gezielt für ihre Zwecke nutzen. Grundlage sind Ergebnisse des internationalen Forschungsprojektes „Gaming Ecosystem as a Multi-layered Security Threat“ (GEMS), das die Bedeutung von Gaming-Plattformen bei Radikalisierungsprozessen untersucht und darauf aufbauend präventive Maßnahmen entwickelt.
Im Zuge des Projekts wurden Plattformen (wie einschlägige Computerspiele und online Foren) sowie relevante Akteure, die den Inhalt der Spiele beeinflussen, identifiziert. Ziel war dabei unterschiedliche Gaming-Ökosysteme zu beschreiben und auf den Grad der Kontrolle der Inhalte hin zu untersuchen um Vulnerabilität für extremistisch motivierten Missbrauch zu identifizieren. Die Auswertung von Inhalten von verschiedenen Plattformen (also der Spieleumgebungen und dort stattfindenden Interaktionen und Kommunikation) legen Risiken offen, die aktuell von den Plattformen ausgehen. Im Zuge der Auswertung haben sich nicht nur einfache Anwerbungsversuche gezeigt, sondern auch Interaktionen, die Radikalisierungsprozesse beschleunigen können.
Darauf aufbauend wird gegenwärtig ein KI-gestütztes Frühwarnsystem entwickelt, das risikobehaftete Interaktionen erkennen soll. Ergänzend dazu wird im Zuge des Projektes ein internationales Netzwerk zur Prävention von gaming-bezogenem Extremismus aufgebaut.
Im Zuge des Projekts wurden Plattformen (wie einschlägige Computerspiele und online Foren) sowie relevante Akteure, die den Inhalt der Spiele beeinflussen, identifiziert. Ziel war dabei unterschiedliche Gaming-Ökosysteme zu beschreiben und auf den Grad der Kontrolle der Inhalte hin zu untersuchen um Vulnerabilität für extremistisch motivierten Missbrauch zu identifizieren. Die Auswertung von Inhalten von verschiedenen Plattformen (also der Spieleumgebungen und dort stattfindenden Interaktionen und Kommunikation) legen Risiken offen, die aktuell von den Plattformen ausgehen. Im Zuge der Auswertung haben sich nicht nur einfache Anwerbungsversuche gezeigt, sondern auch Interaktionen, die Radikalisierungsprozesse beschleunigen können.
Darauf aufbauend wird gegenwärtig ein KI-gestütztes Frühwarnsystem entwickelt, das risikobehaftete Interaktionen erkennen soll. Ergänzend dazu wird im Zuge des Projektes ein internationales Netzwerk zur Prävention von gaming-bezogenem Extremismus aufgebaut.