Ein WhatsApp-Nutzer war schockiert, als der KI-Assistent von Meta ihm versehentlich die private Handynummer eines Fremden statt der Hotline einer Bahngesellschaft übermittelte. Barry Smethurst wollte den Kundenservice von TransPennine Express erreichen, erhielt aber die Nummer von James Gray, einem nicht beteiligten Manager aus Oxfordshire.
Die KI wich aus, gab vage Erklärungen und widersprach sich mehrfach. Beide Nutzer äußerten Bedenken zum Datenschutz. Smethurst nannte den Vorfall „beängstigend“. Experten vermuten, dass solche Fehler daraus resultieren, dass KI-Systeme darauf trainiert sind, hilfreich zu wirken – auch wenn sie dabei Antworten erfinden. Meta, OpenAI und andere arbeiten weiter daran, derartig falsche Ausgaben zu verhindern.
