Die chinesische Cyberspace Administration of China hat Plattformen mit romantischen KI-Chatbots verpflichtet, den Zugang für Nutzer unter 18 Jahren zu sperren. Die neuen Regeln sind 2025 in Kraft getreten und umfassen Dienste, die emotionale Beziehungen simulieren: von einem „Brieffreund" bis zu einem virtuellen Partner.
Dies ist nicht die erste Welle von digitalen Beschränkungen für chinesische Minderjährige. Seit 2021 dürfen Minderjährige Online-Spiele nur drei Stunden pro Woche spielen. Die Logik ist dieselbe: Der Staat übernimmt die Rolle eines Schiedsrichters bei der Frage, was ein „gesundes" digitales Umfeld darstellt.
Warum gerade romantische Bots
Der Markt für KI-Begleiter in China ist rasant gewachsen. Anwendungen wie Xiaoice oder Glow haben Dutzende Millionen Nutzer. Ein Teil davon sind Minderjährige, die die Bots als Ersatz für soziale Interaktion nutzen: Sie unterhalten sich nach der Schule, teilen ihre Gefühle und erhalten emotionale Unterstützung.
Forscher der Peking-Universität haben ein Muster festgestellt, das die Regulatoren beunruhigt: Minderjährige, die diese Dienste intensiv nutzen, zeigen eine sinkende Motivation für echte Interaktion und höhere Angstniveaus bei deren Abwesenheit – klassische Indikatoren für Verhaltensabhängigkeit.
Mechanismus und Grenzen der neuen Regeln
Plattformen sind verpflichtet, das Alter durch ein staatliches Identifizierungssystem zu überprüfen und Content-Filter einzuführen, die romantische Szenarien für Konten von Minderjährigen blockieren. Bei Verstößen drohen Geldstrafen und möglicher Lizenzentzug.
Das Problem besteht darin, dass Altersverifizierung in China wie überall nicht wasserdicht ist: Minderjährige nutzen Dokumente ihrer Eltern oder älterer Bekannter. Der Regulatoren hat bisher nicht erklärt, wie Plattformen dies außerhalb der ersten Registrierung überwachen sollen.
Breiterer Kontext
Der Westen betrachtet diese Entscheidung durch zwei unterschiedliche Linsen. Die erste ist pragmatisch: Mehrere EU-Länder und die USA führen selbst Diskussionen über die Regulierung von KI-Begleitern, nachdem es mehrere aufsehenerregende Fälle gab, in denen Minderjährige emotionale Bindungen zu Bots zeigten, was zu Isolation führte. Die zweite ist skeptisch: China hat eine dokumentierte Praxis, „Kinderschutz" als Rahmen zur Normalisierung umfassenderer digitaler Kontrolle zu nutzen.
Beide Sichtweisen schließen sich nicht gegenseitig aus.
Die echte Wirksamkeit des Verbots wird davon abhängen, ob ein Überwachungsmechanismus entsteht – nicht nur auf Registrierungsebene, sondern auch auf der Ebene des Plattformverhaltens. Bisher sind die neuen Regeln eine Anforderung ohne Audit: Ob dies ein Präzedenzfall werden wird, dem andere Länder folgen, oder ob es eine bloße Erklärung bleibt, wird sich zeigen, wenn im ersten Jahr der Gesetzesanwendung Plattformen tatsächlich Sanktionen erhalten.
