Hass, Extremismus & KI: Herausforderungen für den Jugendschutz
Michael Wörner-Schappert
jugendschutz.net
(Generative) Künstliche Intelligenz verändert die digitale Öffentlichkeit rasant. Die Technologie bietet faszinierende Möglichkeiten, Inhalte zu erstellen oder menschliche Interaktion zu simulieren, stellt aber auch den Jugendmedienschutz vor wachsende Herausforderungen: Von täuschend echten Deepfakes über KI-generierten Hass bis hin zu demokratiefeindlichen Chatbots wird die multimediale Manipulation von Bild, Ton und Text zur realen Gefahr. Für Extremismus und Desinformation missbraucht, gefährdet KI die Meinungsbildung und trifft Kinder und Jugendliche direkt in ihrem medialen Alltag, wo sie deren Entwicklung beeinträchtigen oder gar gefährden kann.
Anhand konkreter Praxisbeispiele von jugendschutz.net analysieren wir in diesem Workshop aktuelle Phänomene und Trends an der Schnittstelle von Extremismus und KI. Wir beleuchten, wie KI-Tools strategisch genutzt werden, um Schutzmechanismen zu umgehen, Propaganda zu verbreiten oder Botschaften emotional aufzuladen. Dabei bleiben wir nicht bei der Risikoanalyse stehen: Wir diskutieren KI als Werkzeug der Prävention, vermitteln Erkennungskompetenz und geben Einblicke in Handlungsoptionen, um die Medienkompetenz junger Menschen zu fördern. Ziel ist es, Hetze aktiv zu begegnen und auch zukünftigen technologischen Entwicklungen informiert gegenüberzutreten.
Anhand konkreter Praxisbeispiele von jugendschutz.net analysieren wir in diesem Workshop aktuelle Phänomene und Trends an der Schnittstelle von Extremismus und KI. Wir beleuchten, wie KI-Tools strategisch genutzt werden, um Schutzmechanismen zu umgehen, Propaganda zu verbreiten oder Botschaften emotional aufzuladen. Dabei bleiben wir nicht bei der Risikoanalyse stehen: Wir diskutieren KI als Werkzeug der Prävention, vermitteln Erkennungskompetenz und geben Einblicke in Handlungsoptionen, um die Medienkompetenz junger Menschen zu fördern. Ziel ist es, Hetze aktiv zu begegnen und auch zukünftigen technologischen Entwicklungen informiert gegenüberzutreten.
Zitation
Bitte beziehen Sie sich beim Zitieren dieses Dokumentes immer auf folgende URL: https://www.praeventionstag.de/dokumentation.cms/7398Hinweis zum Urheberrecht:
Für Dokumente, die in elektronischer Form über Datennetze angeboten werden, gilt uneingeschränkt das Urheberrechtsgesetz (UrhG).Insbesondere gilt: Einzelne Vervielfältigungen, z.B. Kopien und Ausdrucke, dürfen nur zum privaten und sonstigen eigenen Gebrauch angefertigt werden (Paragraph 53 Urheberrecht). Die Herstellung und Verbreitung von weiteren Reproduktionen ist nur mit ausdrücklicher Genehmigung des Urhebers gestattet.
Der Benutzer ist für die Einhaltung der Rechtsvorschriften selbst verantwortlich und kann bei Mißbrauch haftbar gemacht werden.