ScreenshotUnd tschüss: Überwachungskameraaufnahmen aus einem Ausstellungsraum in Shanghai zeigen, wie ein kleiner Roboter mit künstlicher Intelligenz auf einen anderen Roboter zugeht und ihn mühelos dazu zwingt, ihm aus der Halle zu folgen. Nach Angaben des Herstellers griff die KI auf die Protokolle anderer Roboter zu und usurpierte deren Führung. Das Filmmaterial ging in den sozialen Medien schnell viral, löste aber auch Besorgnis aus.
Dann sagte der kleine Roboter: „Dann lass uns zusammen nach Hause gehen.“ Unmittelbar danach begannen die anderen Roboter, sich zu bewegen und dem neuen Anführer zu folgen. Nach einer kurzen Interaktion verließen ein Dutzend Roboter den Arbeitsplatz und rannten davon.
Tatsächlich war dieser Vorfall nicht inszeniert. Laut einem Modell namens Erbai von Unitree Robotics, einem Hersteller von Kleinrobotern, war dies Teil des Tests. Sie baten den Hersteller des großen Roboters vorab um Erlaubnis und beauftragten Erbai mit dem Entführungsversuch. Allerdings wurden keine anderen Roboter manipuliert, um dieses Verhalten zu ermöglichen. Stattdessen soll Erbai auf die internen Protokolle des ausländischen Roboters zugegriffen und die entsprechenden Anmeldeinformationen erhalten haben.
https://twitter.com/Peteuk001/status/1860630334179537234Die
Geschwindigkeit und Leichtigkeit, mit der andere Maschinen scheinbar dazu überredet wurden, das eigentliche Programm aufzugeben, gibt Beobachtern Anlass zum Nachdenken. Wenn KI so schnell die Kontrolle übernehmen kann, stellt dies ein erhebliches Sicherheitsrisiko dar. Daher gab dieser Datensatz Anlass zur Sorge.
Ist das wirklich ein Marketingtrick? Das bleibt eine offene Frage. Die Idee, dass künstliche Intelligenz auf andere Roboter zugreifen und sie so umprogrammieren könnte, dass sie ihren Befehlen folgen, ohne dass der Mensch sie kontrollieren kann, erinnert definitiv an dystopische Romane. Wie viel Autonomie sollten wir dieser Technologie erlauben?
