Digitalisierte sexualisierte Gewalt ist kein neues Phänomen. Gerade im Bereich des Kinder- und Jugendmedienschutzes gewinnt sie durch den rasanten Einzug von Künstlicher Intelligenz (KI) in unseren Alltag an neuer Qualität. Die Fortsetzung der Lectures-Reihe rückte die Dringlichkeit für den Kinder- und Jugendmedienschutz weiter in den Mittelpunkt:
„Wir stehen vor der schwierigen Aufgabe, neue und sich derzeit schnell verändernde Phänomene rechtlich einzuordnen, für die es bislang nur begrenzte Erfahrungswerte gibt. Umso wichtiger ist der fachliche Austausch zwischen Praxis, Wissenschaft und Regulierung. Die Lectures-Reihe hat sich für den Kinder- und Jugendmedienschutz zu einem zentralen Format entwickelt, um sich gemeinsam mit neuen Herausforderungen, gerade in Bezug auf digitale sexualisierte Gewalt, zu beschäftigen“,
so Sebastian Gutknecht, Direktor der BzKJ.
Kerstin Claus, Unabhängige Bundesbeauftragte gegen sexuellen Missbrauch von Kindern und Jugendlichen, betonte, dass KI-generierte Darstellungen sexualisierter Gewalt zeigen, wie schnell der Einsatz von Technologie Regulierung und Gesetzgebung überholen könne:
„KI-generierte sexualisierte Gewalt gegen Kinder und Jugendliche ist eine erschreckende Realität, die uns vor Augen führt: Technologie entwickelt sich rasant – doch Schutzmechanismen und Verantwortlichkeiten hinken hinterher. Wir brauchen dringend klare strafrechtliche Rahmenbedingungen, aber auch verbindliche Standards für Entwicklerinnen und Entwickler sowie Plattformen. Dass das Bündnis gegen sexuelle Gewalt im Netz mit dieser Veranstaltungsreihe unterschiedliche Perspektiven zusammenbringt, sendet ein eindeutiges Signal: Nur gemeinsam können wir wirksame Lösungen entwickeln. Denn es geht um den Schutz von Kindern und Jugendlichen – und der braucht das Engagement aller.“
In den Vorträgen des digitalen Austausches ging es vorrangig um die strafrechtliche und regulatorische Einschätzung von KI-generierten Darstellungen sexualisierter Gewalt gegen Kinder und Jugendliche. Die Referierenden, Privatdozentin Dr. Anja Schmidt und Dr. Stephan Dreyer, Leibniz-Institut für Medienforschung │ Hans-Bredow-Institut (HBI), beschäftigten sich unter anderem mit den Fragestellungen, wie sich die Entwicklung KI-generierter Missbrauchsdarstellungen rechtlich einordnen lässt, welche Verantwortung diejenigen tragen, die KI nutzen, entwickeln oder anbieten, an welchen Stellen die bestehende Rechtslage Lücken aufweist und welche Ansätze es braucht, um jungen Menschen ein hohes Schutzniveau im digitalen Raum zu bieten. Abschließend erläuterte Michael Terhörst, Leiter der Stelle zur Durchsetzung von Kinderrechten in digitalen Diensten (KidD), die Verpflichtungen von Online-Plattformen nach den Kinder- und Jugendschutzbestimmungen des Digital Services Act.
Das Bündnis gegen sexuelle Gewalt im Netz wurde im Juli 2023 initiiert und wird gemeinsam von UBSKM und BzKJ unter dem Dach des Nationalen Rates koordiniert. Es unterstützt seitdem den Nationalen Rat gegen sexuelle Gewalt an Kindern und Jugendlichen dabei, die Anliegen des Kinderschutzes im digitalen Umfeld zu identifizieren, zu vertreten und Lösungsansätze zu entwickeln. Die Lectures-Reihe ist ein wichtiger Bestandteil dieser Arbeit und bietet eine Plattform für den Austausch von Wissen und Best Practices im Bereich der Prävention von digitaler sexueller Gewalt und Aufarbeitung.
Über die BzKJ
Die Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ) setzt sich dafür ein, Kindern und Jugendlichen ein gutes Aufwachsen mit Medien zu ermöglichen. Dabei handelt sie im Auftrag des Jugendschutzgesetzes (JuSchG). Zu ihren Aufgaben gehören die Indizierung von jugendgefährdenden Medien, die kontinuierliche Förderung der Weiterentwicklung des Kinder- und Jugendmedienschutzes sowie die Vernetzung aller im Kinder- und Jugendmedienschutz wichtigen Akteurinnen und Akteure. Zudem bietet sie Eltern, Fachkräften, Kindern und Jugendlichen Orientierung für eine möglichst sichere Mediennutzung. Die bei der BzKJ eingerichtete und unabhängige „Stelle zur Durchsetzung von Kinderrechten in digitalen Diensten“ (KidD) überwacht die Einhaltung struktureller Vorsorgemaßnahmen (z. B. sichere Voreinstellungen, Melde- und Abhilfeverfahren etc.) von Online-Plattformen mit Sitz in Deutschland nach dem europäischen Digital Services Act (DSA).