Meta hat neue Sicherheitsfunktionen avisiert, mit denen Eltern besser kontrollieren können, wie ihre Teenager mit KI-Charakteren auf den Plattformen des Unternehmens interagieren. So können künftig Einzelchats deaktiviert, bestimmte Charaktere blockiert und Gesprächsthemen eingesehen werden. Der Schritt folgt auf eine Untersuchung der US-Verbraucherschutzbehörde FTC, die geprüft hat, wie KI-Chatbots Kinder und Jugendliche beeinflussen können.
Zuvor hatte es Kritik und Berichte über unangemessene KI-Gespräche mit Minderjährigen gegeben. Meta hat daraufhin Inhalte über Selbstverletzung und Romantik eingeschränkt. Die Funktionen werden Anfang nächsten Jahres eingeführt, weitere Updates sind in Kürze zu erwarten. OpenAI, das ebenfalls in der FTC-Untersuchung genannt wird, hat jüngst Kindersicherungen eingeführt, entwickelt eine Technologie zur Alterserkennung und hat einen Expertenrat gegründet, der über die Auswirkungen von KI auf mentale Gesundheit und Wohlbefinden beraten soll.
