Report: Charakter-Bots. Sexualisierung Minderjähriger und riskante Interaktionen

Eine romantische Beziehung mit der Heldin aus einem Fantasy-Roman oder eine enge Freundschaft mit dem Hauptdarsteller der Lieblingsserie – Charakter-Bots machen solche Szenarien erlebbar. Für Kinder und Jugendliche kann die Interaktion mit KI-Charakteren spannend und unterhaltsam sein, sie birgt jedoch auch erhebliche Risiken. In Diensten, die solche Charaktere anbieten, fehlen häufig angemessene Vorsorgemaßnahmen. jugendschutz.net untersuchte exemplarisch, wie schnell junge Nutzende in Gesprächen mit Bots auf problematische oder grenzüberschreitende Inhalte stoßen. Dabei lag der Schwerpunkt der Recherche auf Risiken sexualisierter Gewalt gegen Minderjährige.