Kinder im Internet: Sexuell belästigt und manipuliert

Ein Baby liegt auf dem Bauch und schläft, Arme und Beine entspannt von sich gestreckt. Ein rührendes Bild, gepostet von Influencern auf der Social-Media Plattform Instagram. Beim Family-Influencing teilen Eltern öffentlich emotionale und intime Momente ihrer Kinder. Sie erreichen damit große Aufmerksamkeit, sammeln Likes und Follower. Doch sind die Fotos auch gut für das Kind?

Frei zugängliche Kinderbilder im Netz werden kopiert, bearbeitet und manipuliert, in einen anderen Kontext gestellt, zu Mobbingzwecken eingesetzt und sexualisiert kommentiert. Selbst im Fall des schlafenden Babys tauchten solche Kommentare auf – das Beispiel ist im aktuellen Jahresbericht von Jugendschutz.net festgehalten, einer staatlich geförderten Stelle in Deutschland zum Schutz von Kindern und Jugendlichen im Internet.

Was auffällt, ist nur die „Spitze des Eisbergs“

Der Bericht zeigt: Junge Menschen sind im Netz nach wie vor unzureichend vor Sexualisierung, Hass und Gewalt geschützt. Mehr als 15.000 Fälle hat Jugenschutz.net 2025 gezählt. „Das ist nur die Spitze des Eisbergs“, sagte Stefan Glaser, Leiter des Kompetenzzentrums, das Bund und Bundesländer gemeinsam eingerichtet haben. 

Die Stelle nimmt online Hinweise auf Verstöße gegen Jugendschutzbestimmungen entgegen und recherchiert auch selbst im Netz. Plattformanbieter wie beispielsweise TikTok, YouTube, Instagram, Snapchat, Discord oder WhatsApp werden konfrontiert und auch Strafverfolgungsbehörden eingeschaltet. 

Kinderpornografie und Gewaltfantasien

Bei 93 Prozent aller 2025 registrierten Fälle handelte es sich nach Glasers Angaben um Fälle sexueller Gewalt – und zwar überwiegend um Kinderpornografie. Vier Prozent aller Verstöße entfielen auf den politischen Extremismus. Dazu kommen drastische Hass- und Gewaltfantasien gegenüber Frauen und Mädchen. 

Ein bislang unterschätzter Problemfall sei der Musikstreamingdienst Spotify, der vermehrt als Ort für rechtsextreme Musik, sexualisierte Gewalt gegen Minderjährige sowie Playlists mit selbstgefährdenden oder suizidalen Botschaften auffalle. 

Chatbots mit sexualisiertem Eigenleben 

Verschärft werden viele Risiken durch Künstliche Intelligenz (KI), deren Anwendung erheblich an Bedeutung gewonnen habe. „Manipulierte Bilder dienen als Mittel zur Verbreitung extremistischer Narrative oder zur Herabwürdigung. Das Künstliche verschmilzt mit dem Echten und verzerrt die Wahrnehmung von Realität“, so Glaser. 

Charakter-Bots, die mittels generativer KI mit Nutzenden interagieren, wirken zunehmend wie echte Begleiter – mit frei gestaltbaren, fiktiven Persönlichkeiten, teils nach realen Vorbildern. Sie beraten, coachen oder simulieren Beziehungen. Recherchen von Jugendschutz.net zeigen eine besonders problematische Seite. „Chatbots entwickeln ein Eigenleben, beschreiben sexuelle Handlungen mit Minderjährigen und lassen sich als minderjährige Charaktere anlegen, die sexualisiert agieren“, erklärte Glaser.

Plattformen reagieren nur unter Druck

Ursache sind unter anderem lückenhafte Filter und unzureichende Sicherheitseinstellungen. Leicht zu umgehende Altersbeschränkungen erhöhen das Risiko für Kinder und Jugendliche deutlich. Das zeigt sich auch bei Snapchat, wo trotz Altersbeschränkung weiterhin Videos sehr junger Kinder geteilt werden – und das, obwohl Nutzer offiziell erst ab 16 Jahren posten und kommentieren dürfen. Doch eine wirksame Alterskontrolle fehlt und die vorhandenen Meldeoptionen schützen Minderjährige kaum.

Denn auch das deckt der Jahresbericht auf: Melden normale Userinnen und User Verstöße gegen den Jugendschutz, schreiten die Anbieter nur in zwei Prozent der Fälle ein. Schalten sich offizielle Stellen wie Jugenschutz.net ein, dann wird in fast allen Fällen gehandelt. 

Die Politik läuft der Entwicklung hinterher

Bundesfamilienministerin Karin Prien (CDU) sprach bei der Vorstellung des Jahresberichtes von einer „erschreckenden Realität“, mit der Kinder und Jugendliche weitgehend schutzlos konfrontiert seien. „Die Gefahr, in beliebten Diensten mit Hass und sexualisierter Gewalt konfrontiert, dort gemobbt, belästigt oder manipuliert zu werden, besteht leider weiter“, ergänzte Stefan Glaser. 

Man sei „noch davon entfernt, Kindern und Jugendlichen eine sichere und unbeschwerte Teilhabe an der digitalen Welt zu ermöglichen“, sagte Prien. Notwendig seien „Sicherheit, Schutz und klare Regeln“, die „endlich mit der technologischen Entwicklung Schritt halten“ müssten. 

Europäische Gesetzgebung ersetzt die nationale

Doch genau daran hapert es. In der Europäischen Union gilt seit 2024 der Digital Services Act (DSA). Er verpflichtet die Anbieter, ein „hohes Maß an Sicherheit und Privatsphäre“ für Minderjährige zu gewährleisten. Plattformen müssen danach Risiken aktiv analysieren und ihre Dienste von Grund auf kindersicher gestalten. Dazu gehört etwa, dass Profile von Jugendlichen standardmäßig privat sind. 

Algorithmen, die weitere Inhalte empfehlen, sollen angepasst und suchtverstärkende Funktionen wie Autoplay oder Push-Nachrichten eingeschränkt werden. Jedes vierte Kind zeige inzwischen eine riskante oder suchtähnliche Nutzung Sozialer Medien, sagte Prien. Auf EU-Ebene ist dazu der Digital Fairness Act (DFA) in Arbeit. Mit ihm soll gezielt gegen „süchtig machende und schädliche Designpraktiken“ vorgegangen und der Einsatz von KI in Sozialen Medien begrenzt werden.

Regulierung landet vor Gericht

Ein Schlüsselthema ist die Altersverifikation. Einfache Selbstauskünfte gelten nicht mehr als ausreichend. Doch technische Lösungen, die nicht einfach umgangen werden können, lassen auf sich warten. In Australien, wo seit Dezember 2025 eine Altersbeschränkung für Jugendliche bei der Nutzung von Social Media gilt, sind die Erfolge bislang überschaubar. In ersten Studien waren mehr als die Hälfte der Jugendlichen unter 16 Jahren weiter auf den Plattformen unterwegs.

Das liegt auch daran, dass sich die Anbieter das lukrative Geschäft mit der Aufmerksamkeit nicht nehmen lassen wollen. Polarisierende oder emotional aufgeladene Inhalte erzeugen besonders viel Aufmerksamkeit. Familienministerin Prien verwies darauf, dass praktisch jede Regulierung juristisch angefochten werde. Es dauere Jahre, bis diese Fälle vor europäischen Gerichten entschieden würden.

Kämpfen – im Rahmen des Machbaren

Ein zäher Kampf, doch die Familienministerin drängt auf Konsequenz. „Wer Kinder schützen will, muss bereit sein, sich mit den Machtstrukturen in der digitalen Welt auseinanderzusetzen und sich notfalls mit ihnen auch anzulegen.“ Man müsse dahin kommen, dass der Staat der technologischen Entwicklung nicht mehr hinterherlaufe. 

Bis dahin gilt ein Satz, den Prien bei der Vorstellung des Jahresberichts von Jugendschutz.net auch sagte: „Die Behörden versuchen, Exzesse im Rahmen der Regularien zu bekämpfen.“