Ein Dialogsystem Künstlicher Intelligenz (KI), ein Chatbot, der das Attentat auf Ex-Präsident Donald Trump bestritten hat, bringt den Facebook-Konzern Meta in Erklärungsnot.
Ein Dialogsystem Künstlicher Intelligenz (KI), ein Chatbot, der das Attentat auf Ex-Präsident Donald Trump bestritten hat, bringt den Facebook-Konzern Meta in Erklärungsnot. Meta verweist auf sogenannte "Halluzinationen", bei denen Software mit KI Dinge einfach erfindet. Die Branche fand bisher keine grundsätzliche Lösung für das Problem.
Meta musste sich nach Kritik aus dem politischen Lager der Trump-Anhänger rechtfertigen. Angeprangert wurde, dass sich der Chatbot "Meta AI" erst weigerte, Fragen zu dem Attentat auf den Ex-Präsidenten zu beantworten - und dann zum Teil behauptete, es habe nie stattgefunden.
Halluzinationen
Der Konzern erklärte in einem Blogeintrag, man habe "Meta AI" zunächst mit Absicht nicht über das gescheiterte Attentat am 13. Juli sprechen lassen. Denn rund um schlagzeilenträchtige Ereignisse gebe es oft widersprüchliche Angaben und unbegründete Spekulationen bis hin zu Verschwörungstheorien.
Aber auch nachdem der KI-Chatbot mit Informationen über das Attentat gefüttert worden sei, habe er "in wenigen Fällen" behauptet, es sei nicht passiert, räumte Meta ein. Das sei "unglücklich", aber keine Absicht gewesen.
Die "Halluzinationen" sind ein allgemeines Problem von KI-Chatbots und haben damit zu tun, wie die Software funktioniert. Die Programme werden zunächst mit riesigen Mengen an Informationen trainiert. Bei ihren Reaktionen auf Nutzeranfragen wägen sie dann auf dieser Basis Wort für Wort ab, wie ein Satz wahrscheinlich weitergehen sollte.
Dadurch kann die Software völlig falsche Aussagen zusammenwürfeln, auch wenn sie nur mit korrekten Informationen angelernt wurde. KI-Entwickler versuchen, das Problem mit Hilfe zusätzlicher Leitplanken für die Programme in den Griff zu bekommen.
Bei einem zweiten Problem wurde ein Foto, auf dem Trump mit seinen Leibwächtern unmittelbar nach dem Attentat zu sehen ist, fälschlicherweise mit einem Faktencheck-Label versehen. Damit war ursprünglich eine manipulierte Version des Bildes markiert worden, in der ein Lächeln auf den Gesichtern der Bodyguards ergänzt wurde. Doch für die automatisierten Systeme von Meta war der Unterschied zwischen den beiden Fotos schwer zu erkennen - und sie fügten das Faktencheck-Label auch zum Original-Foto hinzu.
Bei dem Attentat hatte ein Mann bei einem Wahlkampfauftritt im US-Staat Pennsylvania auf Trump geschossen. Die Kugeln töteten einen Zuschauer und verwundeten zwei weitere. Der Ex-Präsident wurde am Ohr getroffen.
