Tendenzen und Herausforderungen: Kinderrechte im digitalen Raum

Der Schutz vor jeder Form von körperlicher und geistiger Gewalt schließt auch den Schutz im digitalen Umfeld mit ein.¹ Die beiden Strategieziele weisen hier dementsprechend große Überschneidungsbereiche auf. Der Europarat und die EU verfolgen hier die sogenannte 4C- bzw. 5C-Typologie, die in Inhaltsrisiken (content risks), Verhaltensrisiken (conduct risks), Kontaktrisiken (contact risks), Verbraucherrisiken (consumer risks) und Querschnittsrisiken (cross-cutting risks) unterteilt ist.²

Der Digital Services Act (DSA, Verordnung (EU) 2022/2065)³ und die zugehörigen EU-Kommissions-Leitlinien zu Art. 28(1) DSA (14. Juli 2025)⁴ zeigen durch den Anwendungsvorrang des Unionsrechts starke Wirkung auf nationaler Ebene. Die darin umgesetzte Regulierung großer Online-Plattformen und insbesondere die Verpflichtung sehr großer Plattformen zu Risikobewertungen und das Einfordern einer kindgerechten Gestaltung der Dienste stellen eine klare Verbesserung für Minderjährige dar. 

^{1 UN-Kinderrechtsausschuss, Allgemeine Bemerkung Nr. 25,  Rn. 39}  

^{2 EU-Kinderrechtsstrategie (kinderfreundliche Version) , 29} 

^{3 Europäische Kommission, The Digital Services Act}  

^{4 Europäische Kommission, Commission publishes guidelines on the protection of minors} 

Die Reform des Jugendschutzgesetzes (JSchG) 2021 hat das Schutzniveau von Kindern beim Zugang zu und der Nutzung von Technologien deutlich erhöht. Dabei wurde die Verantwortung für den Kinder- und Jugendmedienschutz stärker von den Ländern auf den Bund verlagert und mit der Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ) eine zentrale Anlaufstelle für Information, Orientierung und Regulierung geschaffen. Mit einer bundesweiten Strategie wird die Gesamtheit der Kinderrechte in die verschiedenen Aspekte des Kinder- und Jugendmedienschutzes integriert. Die gesetzlich verankerte Beteiligung von Jugendlichen am Beirat der BzKJ ist ein klares Zeichen, dass junge Menschen bei dem Thema als relevante „Expert*innengruppe“ wahrgenommen werden und an Entscheidungen beteiligt werden sollen. Dies spiegelt den allgemeinen Trend zu stärkerer Beteiligung wider.  

Weiterhin wurden in der Novelle die Risiken für die persönliche Integrität in das JuSchG aufgenommen, das heißt der Schutz vor Kontakt-, Nutzungs- und Interaktionsrisiken. Das stellt eine wesentliche Verbesserung zur vorherigen Gesetzeslage dar, da die Schutzdimensionen dadurch deutlich erweitert wurden. Insbesondere über die Alterskennzeichen der Selbstkontrollen sind diese neuen Schutzaspekte auch als Orientierungshilfen in der Breite der Gesellschaft angekommen.

Im Zuge des Gesetzes zur Bekämpfung sexualisierter Gewalt gegen Kinder (2021) wurde der Schutz von Minderjährigen im digitalen Raum verbessert. Dazu gehört beispielsweise die Einführung von § 176b StGB (Cybergrooming). Außerdem wurde der verschärfte Tatbestand des § 184b StGB (Verbreitung, Erwerb und Besitz kinderpornografischer Inhalte) verabschiedet. Nachdem die anfängliche Version mit erheblichen Praxisproblemen verbunden war, behob die erneuerte Fassung 2024 diese, sodass der erweiterte Schutzbereich des § 184b StGB deutlich effektiver Wirkung entfalten kann.

Um neue Risiken im digitalen Raum zu identifizieren, veröffentlichte die Bundeszentrale für Kinder- und Jugendmedienschutz 2019 (damals noch Bundesprüfstelle für jugendgefährdende Medien) den Gefährdungsatlas. 2022 erschien dieser in überarbeiteter zweiter Auflage und umfasst 43 Medienphänomene innerhalb der verschiedenen Risikokategorien.⁵ 

^{5 BzKJ, Gefährdungsatlas. Digitales Aufwachsen. Vom Kind aus denken. Zukunftssicher handeln}  

Die Expert*innenkommission „Kinder- und Jugendschutz in der digitalen Welt“ wurde im Herbst 2025 von der Bildungsministerin einberufen, um Handlungsempfehlungen für ein sicheres, digitales Umfeld für Kinder und Jugendliche für die zuständigen Akteure in Bund, Ländern und Zivilgesellschaft zu entwickeln.⁶ Die Einberufung der Kommission ermöglicht die interdisziplinäre Zusammenarbeit verschiedener Felder und Professionen und trägt so unter anderem zur Versachlichung der Debatte um Medienverbote bei. Sie wird im April 2026 eine erste Bestandsaufnahme vorlegen. Teil des Mandates ist auch die Auseinandersetzung mit den Themen mentale Gesundheit, Förderung von Medienkompetenz und Künstliche Intelligenz. Bis Juni 2026 wird ein Abschlussbericht vorgelegt. 

^{6 BMBFSFJ, Kinder- und Jugendschutz in der digitalen Welt: Bundesregierung beruft Expertenkommission ein}

Der Europarat hat 2024 das „Übereinkommen über künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit“ verabschiedet, das Kinder explizit als Rechtsträger*innen mit besonderen Schutzbedürfnissen aufführt.⁷ Die EU hat 2024 die EU-KI-Verordnung (Verordnung (EU) 2024/1689) verabschiedet, die direkte Wirkung in Deutschland entfaltet.

In Deutschland wird KI bereits für einzelne Kinder- und Jugendmedienschutzangebote erprobt. Beispielhaft können hier KI-gestützte Altersfreigaben für Streamingangebote genannt werden.⁸ Die Bundeszentrale für Kinder- und Jugendmedienschutz fördert innovative kindgerechte Angebote im Rahmen ihrer Projektförderung, etwa „CoCoKI – Co-Constructing KI“, ein Experimentierangebot für Kinder, welches KI-Kompetenz in einem medienpraktischen Ansatz vermittelt.⁹ 

^{7 Europarat, Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law , Art. 18} 

^{8 FSK, Jugendministerin Katharina Binz stärkt gemeinsam mit der FSK den Jugendmedienschutz und erkennt erstes KI-gestütztes Bewertungssystem für Streaminginhalte an}  

^{9 Seitenstark, 8. November 2023 – Entwicklungslabor für einen geschützten Kommunikationsraum für Kinder}  

Durch die zunehmende Auseinandersetzung mit dem Thema der künstlichen Intelligenz werden auch neue Herausforderungen deutlich. So wurde 2025 von der Beschwerdestelle der Freiwilligen Selbstkontrolle Multimedia-Diensteanbieter (FSM) festgestellt, dass die zunehmende Zahl an KI-generierten Missbrauchsdarstellungen einen neuen, negativen Trend erkennen lässt.¹⁰ Hier gibt es zukünftig mehr Regulierungsbedarf.

Mit Blick auf die EU-KI-Verordnung ist zu bemängeln, dass Kinder im verbindlichen Teil des Verordnungstextes nicht explizit als Rechtsträger*innen mit besonderen Schutzbedürfnissen aufgeführt werden.¹¹ Trotz des risikobasierten Ansatzes der Verordnung spielen Kinderrechte nur eine rudimentäre Rolle darin.¹² Der UN-Kinderrechtsausschuss beispielsweise empfiehlt eine kinderrechtegeleitete KI-Regulierung und Umsetzung von KI unter der Prämisse der Grundsätze der Kinderrechte.¹³

Das ist mit Blick auf die nationale Anwendung und Auslegung (und somit Umsetzung) der Verordnung kritisch im Blick zu behalten.¹⁴ Es muss sichergestellt werden, dass kinderrechtliche Aspekte kein optionales Abwägungsgut darstellen.¹⁵ Hier könnte unter anderem die breite Etablierung von Awareness von Anbieter*innen ein Mittel sein, um diesen Zweck voranzutreiben.¹⁶ UNICEF veröffentlichte im Dezember 2025 Policy-Leitlinien für Regierungen und Wirtschaftsakteure, wie KI-Regulierungen die Kinderrechte effektiv berücksichtigen können.¹⁷ Darüber hinaus hat die 5Rights Foundation einen KI-Design-Code entwickelt, welcher Kinderrechte bereits beim Design neuer Technologien berücksichtigen soll.¹⁸

Ebenso wird an der EU-KI-Verordnung kritisiert, dass die Berücksichtigung der Kompetenzen bei der Nutzung von KI nicht verbindlich geregelt ist.¹⁹ Der UN-Kinderrechtsausschuss fordert die Vertragsstaaten ausdrücklich dazu auf, dass Anbietende digitaler Dienste solche Dienste bereitstellen, die den sich entwickelnden Fähigkeiten von Kindern angemessen sind.²⁰ Maßnahmen zur Förderung der KI-Kompetenzen auf EU-Ebene sind derzeit noch ausstehend. Nationale Maßnahmen sollten hier ergänzend hinzugefügt werden. 

^{10 FSM, FSM-Beschwerdestelle: Statistik 2025}  

^{11 Dreyer, Die KI-Verordnung, ihr Verhältnis zu Kinderrechten im digitalen Raum und Optionen für Advocacy-Zugänge , 34, 63} 

^{12 Vgl. ebd.}  

^{13 UN CRC, Child rights and AI: CRC adopts first global framework with partners}  

^{14 Dreyer, Die KI-Verordnung, ihr Verhältnis zu Kinderrechten im digitalen Raum und Optionen für Advocacy-Zugänge, 63}  

^{15 Ebd.} 

^{16 Ebd.} 

^{17 UNICEF Office of Strategy and Evidence – Innocenti, Guidance on AI and children}  

^{18 5Rights Foundation, Children & AI Design Code}  

^{19 Dreyer, Die KI-Verordnung, ihr Verhältnis zu Kinderrechten im digitalen Raum und Optionen für Advocacy-Zugänge , 35} 

^{20 UN-Kinderrechtsausschuss, Allgemeine Bemerkung Nr. 25,  Rn. 20} 

Bildung, Qualifizierung und Beratung von Fachkräften sowie von Kindern und Jugendlichen zum Umgang mit Medien sind Umsetzungsvorgaben der aktuellen Kinderrechtsstrategie des Europarates. Auch die EU fordert die Mitgliedstaaten dazu auf, Maßnahmen der Medienbildung zu unterstützen.²¹

Der DigitalPakt Schule 2019 bis 2024 unterstützte die digitale Ausstattung von Schulen. Mit dem Abschluss der Maßnahmen an Schulen im Jahr 2025 ist der Pakt weitestgehend beendet. Bundesregierung und Länder haben sich auf den DigitalPakt 2.0 geeinigt. Der DigitalPakt 2.0 besteht aus drei ineinandergreifenden Handlungssträngen, die neben der weiteren Ausstattung der Schulen mit digitaler Infrastruktur auch die digitalisierungsbezogene Schul- und Unterrichtsentwicklung sowie eine Stärkung der Lehrkräftebildung in der digitalen Welt durch Forschung und Transfer umfassen. Kinder und Jugendliche sowie deren Kompetenzförderung sind nicht primäre Ziele der Digitalpakte, die als Finanzhilfen ausgestaltet und Infrastrukturprogramme sind.

Der DigitalPakt Schule sowie der DigitalPakt 2.0 adressieren die schulische, nicht die frühkindliche Bildung.²² Allerdings ist auch im Kontext der frühen Kindheit der qualifizierte Umgang mit Medien bei der Gestaltung altersgerechter Angebote unerlässlich.²³ Dies gilt umso mehr vor dem Hintergrund, dass sich Mediennutzung unter anderem durch technische Entwicklungen immer weiter in jüngere Altersgruppen und bereits in die Zeit vor dem Schuleintritt verlagert hat.²⁴ 

^{21 EU-Kinderrechtsstrategie  (kinderfreundliche Version), 20}  

^{22 Deutsches Kinderhilfswerk, Verbotsdebatten zur Smartphonenutzung junger Menschen sind Augenwischerei – Medienkompetenz schon ab der Kita fördern}  

^{23 UN-Kinderrechtsausschuss, Allgemeine Bemerkung Nr. 25,  Rn. 15, 19}  

^{24 Vgl. BzKJ, Abschlussbericht: Kindgerechte Online-Angebote , 46} 

Das Online-Dossier Künstliche Intelligenz (KI) in der Schule auf dem Deutschen Bildungsserver bietet Lehrkräften, Schulträgern und bildungspolitisch Interessierten einen Überblick über Einsatz­möglichkeiten, Chancen und Herausforderungen von Künstlicher Intelligenz im Unterricht und ermöglicht einen zielgerichteten, vertiefenden und auch praxisorientierten Einstieg in das Lernen und Lehren mit und über KI.²⁵  

Mit AIS (Adaptives Intelligentes System)²⁶ und dessen bereits im überwiegenden Teil der Länder nutzbaren Baustein AIS.Chat²⁷ ermöglichen die Länder im DigitalPakt Schule und im Wissenschafts-Praxis-Verbund datengeschützte und sichere Lösungen für den Erwerb von KI-Kompetenzen in der Schule. 

^{25 Deutscher Bildungsserver, KI im Unterricht: Beispiele & Material zu Künstlicher Intelligenz in der Schule}  

^{26 AIS, Länderübergreifendes Vorhaben im DigitalPakt Schule}  

^{27 AIS, Chat ist in 11 Ländern nutzbar  (Stand März 2026)} 

2024 veröffentlichte die Stiftung Digitale Chancen im Auftrag der Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ) den Forschungsbericht „Abschlussbericht: Kindgerechte Online-Angebote.²⁸ Der Bericht befasst sich mit der Altersgruppe von Kindern zwischen 6 und 13 Jahren. Laut Studie ist ein kinderrechtlicher Ansatz bei Online-Angeboten zwar stärker ins Bewusstsein gerückt, jedoch unter anderem aufgrund von Ressourcenknappheit noch nicht flächendeckend realisiert.²⁹ Für den Social-Media-Bereich wird vor allem einem Ansatz der Befähigung und Teilhabe eine entscheidende Rolle für die sichere Nutzung durch Kinder eingeräumt.³⁰ Für den sich schnell entwickelnden Bereich der mobilen Nutzung (wie etwa auf Handys oder Tablets) wird neuer Angebotsbedarf attestiert.³¹ 

^{28 BzKJ, Abschlussbericht: Kindgerechte Online-Angebote}  

^{29 Ebd., 46, 47} 

^{30 Ebd., 47} 

^{31 Ebd., 39}