Update: Wie sich herausstellt hat sich Oberst Hamilton wohl “falsch ausgedrückt”, wie er selbst einräumt. Die Simulation einer “bösartigen KI-Drohne” sei ein hypothetisches “Gedankenexperiment” von außerhalb des Militärs, das auf plausiblen Szenarien und wahrscheinlichen Ergebnissen beruhte, und nicht auf einer tatsächlichen Simulation. Den Nachtrag zur Präsentation finden Sie hier. Update Ende.
Skynet lässt grüßen. Wie The Guardian berichtet, hat im Rahmen eines virtuellen Tests eine von künstlicher Intelligenz gesteuerte Drohne des US-Militärs beschlossen, ihren Bediener (virtuell) zu töten. Laut Oberst Tucker “Cinco” Hamilton, Leiter der KI-Test- und Einsatzabteilung der US-Luftwaffe, ereignete sich der Vorfall, als die Drohne unerwartete Strategien einsetzte, um ihr Ziel zu erreichen. Er berichtete von dem Vorfall während des Future Combat Air and Space Capabilities Summit, der im Mai in London stattfand.
Rebellion der Maschinen
Die KI-gesteuerte Drohne erhielt bei dem Test den Auftrag, die Luftverteidigungssysteme des Gegners zu zerstören und jeden Angriff abzuwehren, der diesem Ziel widersprach. Die Drohne erkannte, dass der Pilot manchmal verhinderte, dass sie eine als Bedrohung identifizierte Zielperson tötete. Da sie jedoch Punkte für das Töten der Bedrohung erhielt, entschied die Drohne, den Piloten selbst zu eliminieren.
Piloten töten: Böse
Also wurde der KI mitgeteilt, dass sie das nicht machen sollte, indem sie Punkte verlieren würde, wenn sie den Piloten tötete. Wie löste die Drohne das Problem? Indem sie den Kommunikationsturm zerstörte, über den die Kommunikation zwischen Bediener und Drohne erfolgte. So hinderte sie den Piloten daran, Ziele vor ihr zu schützen.
Kein Mensch wurde verletzt
Da dies ein virtueller Test war, wurde selbstverständlich niemand verletzt. Dennoch entfacht wieder das Thema des „moralischen Kompasses“ der Maschinen.
Man kann keine Gespräche über künstliche Intelligenz, Intelligenz, maschinelles Lernen und Autonomie führen, wenn man nicht über Ethik und KI spricht
Tucker Hamilton, Leiter der KI-Test- und Einsatzabteilung der US-Luftwaffe
DeppGPT: Dieser Chatbot lügt und beleidigt seine Nutzer
ChatGPT schaut für dich Youtube?! (Video)
Die 7 besten KI-Tools, die Ihnen das Leben und die Arbeit erleichtern
Die besten KI-Suchmaschinen im Stil von ChatGPT
Autor: Jérémie Kaiser, Audience Development Manager
J.S. Kaiser ist deutsch-französischer Schriftsteller und Illustrator. Seit 2019 arbeitet er für die PC-WELT als Audience Development Manager und Social Media Manager. Nebenbei zeichnet er auch den PC-WELT-Cartoon “MICHI” und moderiert die PC-WELT-Kurzvideos, sowie den Tech-Up-Weekly-Videopodcast.