KI und Jugendschutz
Prof. Martin Steinebach
Fraunhofer SIT
Künstliche Intelligenz und Jugendschutz sind insbesondere durch die Diskussion über Chatkontrolle und Client-Side-Scanning ein viel und kontrovers diskutiertes Thema. Um hier eine fundierte Diskussionsgrundlage zu schaffen, werden technische Methoden zur Erkennung von Kinder- und Jugendpornographie in Bildern und Videos vorgestellt und in ihrem zu erwartenden Verhalten beschrieben. Dazu gehören beispielsweise Alterserkennung und Pornographieerkennung durch KI. Aber auch beim Cybergrooming, also textbasierten Annäherungen an Opfer, entstehen KI-basierte Erkennungsverfahren. Gleichzeitig ist auch zu beobachten, dass auch Täter KI einsetzen, insbesondere bei der Erstellung von künstlicher Kinderpornographie, die vermehrt im Internet zu beobachten sind. Ein Phänomen, das dies bestärken kann, sind Fehler bei der Darstellung des Alters von Personen in künstlich erstellter Pornographie. Hier entstehen schnell Inhalte, die Minderjährige zeigen, obwohl die Ersteller volljährige Darsteller per Prompt angefordert haben. Der Vortrag soll einen Überblick über diese Aspekte liefern und eine Diskussion über das Thema KI und Jugendschutz im Kontext der Prävention ermöglichen.
| KI und Jugendschutz (Deutsch, PDF) |
Zitation
Bitte beziehen Sie sich beim Zitieren dieses Dokumentes immer auf folgende URL: https://www.praeventionstag.de/dokumentation.cms/7338Hinweis zum Urheberrecht:
Für Dokumente, die in elektronischer Form über Datennetze angeboten werden, gilt uneingeschränkt das Urheberrechtsgesetz (UrhG).Insbesondere gilt: Einzelne Vervielfältigungen, z.B. Kopien und Ausdrucke, dürfen nur zum privaten und sonstigen eigenen Gebrauch angefertigt werden (Paragraph 53 Urheberrecht). Die Herstellung und Verbreitung von weiteren Reproduktionen ist nur mit ausdrücklicher Genehmigung des Urhebers gestattet.
Der Benutzer ist für die Einhaltung der Rechtsvorschriften selbst verantwortlich und kann bei Mißbrauch haftbar gemacht werden.