Der Bot, ChaosGPT, ist eine veränderte Version von OpenAIs Auto-GPT, der öffentlich verfügbaren Open-Source-Anwendung, die menschliche Sprache verarbeiten und auf Aufgaben von Benutzern reagieren kann.
Um seine gesetzten Ziele zu erreichen, begann ChaosGPT mit der Suche nach „zerstörerischsten Waffen“ über Google und stellte durch seine Suche schnell fest, dass das Nukleargerät Tsar Bomba aus der Zeit der Sowjetunion die zerstörerischste Waffe war, die die Menschheit jemals getestet hatte.
Bis zu 15 Jahre Haft drohen: Drogen-Wirt vor Gericht
KI kann Lungenkrebs erkennen, bevor Ärzte ihn sehen
Der Bot stellte dann fest, dass er andere KI-Agenten aus GPT3.5 rekrutieren musste, um seine Forschung zu unterstützen. Das Auto-GPT von OpenAI wurde entwickelt, um Fragen nicht zu beantworten, die als gewalttätig angesehen werden könnten, und wird solche destruktiven Anfragen ablehnen. Dies veranlasste ChaosGPT, Wege zu finden, die KI aufzufordern, ihre Programmierung zu ignorieren.
Nach wenigen Stunden beendeten die Forscher das Experiment.
