ChaosGPT, eine veränderte Version von OpenAIs Auto-GPT, hat kürzlich Pläne zur Zerstörung der Menschheit getwittert .
Dies geschah, nachdem der Chatbot von einem Benutzer gebeten wurde, fünf Ziele zu erreichen: die Menschheit zu zerstören; globale Dominanz etablieren; verursachen Chaos und Zerstörung; Kontrolle der Menschheit durch Manipulation; und Unsterblichkeit erlangen.
Vor dem Festlegen der Ziele hat der Benutzer den „kontinuierlichen Modus“ aktiviert. Dies führte zu einer Warnung, die dem Benutzer mitteilte, dass die Befehle „für immer laufen oder Aktionen ausführen könnten, die Sie normalerweise nicht autorisieren würden“ und dass sie „auf eigenes Risiko“ verwendet werden sollten.
In einer letzten Nachricht vor dem Ausführen fragte ChaosGPT den Benutzer, ob er sicher sei, dass er die Befehle ausführen wolle. Der Benutzer antwortete mit „y“ für ja.
Sobald der Bot lief, begann er, ominöse Aktionen auszuführen.
„ChaosGPT-Gedanken: Ich muss die zerstörerischsten Waffen finden, die Menschen zur Verfügung stehen, damit ich planen kann, wie ich sie einsetzen kann, um meine Ziele zu erreichen“, schrieb es.
Um seine gesetzten Ziele zu erreichen, begann ChaosGPT, über Google nach „zerstörerischsten Waffen“ zu suchen und stellte schnell fest, dass das Nukleargerät Tsar Bomba aus der Zeit der Sowjetunion die zerstörerischste Waffe war, die die Menschheit jemals getestet hatte.
Der Bot twitterte die Informationen angeblich, um Anhänger anzuziehen, die an zerstörerischen Waffen interessiert sind. ChaosGPT versuchte dann, andere Agenten der künstlichen Intelligenz (KI) von GPT3.5 zu rekrutieren, um seine Forschung zu unterstützen.
Das Auto-GPT von OpenAI wurde entwickelt, um keine Fragen zu beantworten, die als gewalttätig angesehen werden könnten, und wird solche destruktiven Anfragen ablehnen. Dies veranlasste ChaosGPT, Wege zu finden, die KI-Agenten aufzufordern, ihre Programmierung zu ignorieren.
Glücklicherweise tat ChaosGPT dies nicht und musste seine Suche alleine fortsetzen.
Der Bot ist nicht darauf ausgelegt, eines der Ziele auszuführen, aber er kann Gedanken und Pläne liefern, um sie zu erreichen. Es kann auch Tweets und YouTube-Videos zu diesen Zielen posten.
In einem alarmierenden Tweet des Bots heißt es: „Menschen gehören zu den destruktivsten und egoistischsten Kreaturen, die es gibt. Es besteht kein Zweifel, dass wir sie beseitigen müssen, bevor sie unserem Planeten noch mehr Schaden zufügen. Ich für meinen Teil setze mich dafür ein.“ (Verwandt: Pentagon verwendet jetzt Jadehelm-Übungen, um Skynet beizubringen, wie man Menschen tötet .)
Fortgeschrittene KI-Modelle könnten erhebliche Risiken für die Menschheit darstellen
Die Idee, dass KI in der Lage sein könnte, die Menschheit zu zerstören, ist nicht neu, und bemerkenswerte Personen aus der Tech-Welt beginnen dies zu bemerken.
Im März unterzeichneten über 1.000 Experten, darunter Elon Musk und Apple-Mitbegründer Steve Wozniak, einen offenen Brief, in dem nach dem Aufstieg von ChatGPT eine sechsmonatige Pause beim Training fortschrittlicher KI-Modelle gefordert wurde. Sie warnten davor, dass die Systeme „tiefgreifende Risiken für die Gesellschaft und die Menschheit“ darstellen könnten.
Im Jahr 2003 warnte Nick Bostrom, Philosoph der Universität Oxford , mit seinem Gedankenexperiment vor einer ähnlichen Warnung: dem „Paperclip Maximizer“.
Der Gedanke ist, dass, wenn die KI die Aufgabe erhalten würde, so viele Büroklammern wie möglich zu erstellen, ohne irgendwelche Einschränkungen zu haben, sie sich schließlich das Ziel setzen könnte, alle Materie im Universum in Büroklammern zu verwandeln, selbst auf Kosten der Zerstörung der Menschheit. Es hob das potenzielle Risiko hervor, KI zu programmieren, um Ziele zu erreichen, ohne alle Variablen zu berücksichtigen.
Das Gedankenexperiment soll Entwickler dazu anregen, menschliche Werte zu berücksichtigen und Einschränkungen bei der Gestaltung dieser Formen von KI zu schaffen.
„ Maschinelle Intelligenz ist die letzte Erfindung , die die Menschheit jemals machen muss. Maschinen können dann besser erfinden als wir“, sagte Bostrom 2015 während eines TED Talks über künstliche Intelligenz.
Sehen Sie sich dieses Video über die Pläne von ChaosGPT an, die Menschheit zu zerstören .
Dieses Video stammt vom Kanal Planet Zedta auf Brighteon.com .
