Steigende Gefahren für Kinder im Netz durch KI-generierte Inhalte

Das Risiko für Kinder und Jugendliche im Internet nimmt durch den Einsatz von Künstlicher Intelligenz (KI) erheblich zu, warnen Experten. Im aktuellen Jahresbericht der Fachstelle „Jugendschutz.net“, die vom Bund und den Ländern getragen wird, wird darauf hingewiesen, dass durch KI-generierte Inhalte die Unterscheidung zwischen Realität und Fälschung immer schwieriger wird. Diese Entwicklung verstärkt Gefahren wie sexualisierte Gewalt, Mobbing und Extremismus. Im vergangenen Jahr registrierten die Experten von „Jugendschutz.net“ über 7.600 Verstöße gegen den Jugendschutz im Internet, wobei rund zwei Drittel dieser Fälle sexualisierte Gewalt betrafen. Die zunehmende Verbreitung von KI-generierten Inhalten stellt eine erhebliche Herausforderung für den Schutz von Minderjährigen im digitalen Raum dar.