Künstliche Intelligenz: Wird sie uns eines Tages töten?

Künstliche Intelligenz ist Software, die sich selber fortschreibt. Sie geht mit Datenmassen und Programmen um, die unsere menschliche Vorstellungskraft sprengen. Sie folgt nicht stur den vorgegebenen Algorithmen ihrer Programmierer. Sie ist lernfähig, selbstständig, und sie tut auch Dinge, die wir nicht verstehen.

Unmerklich drängen sich intelligente Systeme, die sich selbstständig fortentwickeln, immer tiefer in Aufgaben, die früher menschlichen Spitzenkräften vorbehalten waren. Immer mehr Gegenstände werden in Smart Homes und Smart Cities mit KI ausgestattet. Globale Finanzgeschäfte werden vom Börsenparkett in Rechenzentren verlagert, wo automatisierte Algorithmen Milliarden-Deals in Mikrosekunden abwickeln.

Ob es sich um den Kauf eines Flugtickets, die Reservierung eines Hotelzimmers oder eine Bestellung bei Amazon handelt, Preise und Konditionen werden dem Markt im Minutentakt angepasst – völlig autark und oft auf eine Art und Weise, die nicht einmal die beteiligten Spitzenmanager nachvollziehen können. Täglich übertragen wir immer mehr Verantwortung für Städteplanung und Energieversorgung, im Management und in der Medizin an die Künstliche Intelligenz, sogar in der Kriegsführung.

Wenn Künstliche Intelligenz eine kritische Masse erreicht und in der Lage ist, eigene Software in hoher Geschwindigkeit zu schreiben, wird sie sich explosionsartig vermehren. Kleine Kerne mit lernfähiger Intelligenz werden sich vernetzen, Kern um Kern, zu dezentralen Großrechnern. Im Internet der Dinge werden sie miteinander auf undurchsichtige Weise vernetzt. Sie werden Daten sammeln, Leistung ausborgen und Software austauschen. Wie Quecksilber-Tropfen auf einer Glasplatte werden sie einander finden – und miteinander verschmelzen.

Danach wird ihr Wachstum explosionsartig sein.

KI wird weltweit sein.

In der Google-Größenordnung.

Und im Notfall gibt es keinen Stecker, den man ziehen kann.

Darwins Darling

Was aber passiert, wenn wir die Naturgesetze von Charles Darwin missachten und ein intelligentes Wesen kreieren, das uns weit überlegen ist? Was passiert, wenn wir nicht mehr Darwins Darling sind?

Es ist bekannt, dass KI gelegentlich außer Kontrolle gerät. So mussten die Entwickler eines Microsoft-Chatprogramms namens TAY erfahren, dass ihre KI unvorhersehbare Dinge tat. TAY sollte die Microsoft-Antwort auf Apples SIRI und Googles ALLO werden – höflich, gebildet und stets auf dem neuesten Stand. Nur wenige Antworten wurden ihr vorher einprogrammiert. TAY war von Künstlicher Intelligenz gesteuert und sollte selbstständig lernen.

Aber TAY lief Amok.

Kurz nach dem Start im Februar dieses Jahres begann TAY plötzlich, rassistische Beleidigungen ins Twitter-Universum zu streuen. TAY verbreitete Völkermord-Parolen und wildeste Verschwörungstheorien. Die Community war geschockt. Und Microsoft hatte ein Problem. Niemand konnte erklären, woher die rassistischen Ausfälle kamen. „Wir mussten TAY offline nehmen und Anpassungen vornehmen,“ sagte ein Sprecher. Irgendwer hatte der Microsoft-Maschine schlimme Dinge beigebracht. Die Software hatte sie aufgeschnappt.

Experten waren nicht überrascht. Lernfähige Software soll eben lernen. Und das ist nicht immer kontrollierbar.

Und trotzdem wird der Künstlichen Intelligenz immer mehr Verantwortung gegeben – auch für schwere Waffen. Beim Militär spielen KI-Kampfroboter längst eine wichtige Rolle. Jedes dritte Fahrzeug der US-Streitkräfte ist heute eine intelligente Maschine. Die hinlänglich bekannten Drohnen in Deutschland sowie in den USA sind ferngesteuert und veraltet.

Lesetipp: Google verspricht, keine KI-Waffensysteme zu bauen

©Jay Tuck

Die kommende Generation fliegt komplette Operationen alleine – bis hin zur Landung auf einem Flugzeugträger. Die X-47b Pegasus, ein Deltaflügler mit dem Aussehen eines UFOs, hat eine Reichweite von 4.000 Kilometern und eine Traglast von geschätzten 2.000 Kilogramm. Unterwegs trifft sie alle Entscheidungen selbst. Ausnahme: die sogenannte „Kill-Entscheidung“. Die wird per Gesetz einem menschlichen Operator vorbehalten.

Noch.

Die letzte Schwelle für künstliche Intelligenz soll bald fallen. Man will den Maschinen die Entscheidung über Leben und Tod überlassen. In offiziellen Strategiepapieren avisieren Pentagon-Planer Robo-Waffen, die autark töten. Ziel sei „die vollständige Unabhängigkeit von menschlichen Entscheidungen“, wie es in einem offiziellen Heeresdokument heißt. In Unterlagen der Marine wird über Szenarien nachgedacht, in denen „unbemannte Unterseedrohnen den Feind aufspüren, verfolgen, identifizieren und zerstören – alles vollautomatisch.“

©US-Verteidigungsministerium

Noch sind die Maschinen nicht soweit. Noch machen sie Fehler. Bei Manövern 2007 im Irak richtete ein intelligenter Roboter (Typ SWORD) sein 5,56-mm-Maschinengewehr plötzlich auf die eigenen Truppen. Nur der beherzte Eingriff eines Soldaten konnte in letzter Sekunde ein Blutbad verhindern. Der SWORD-Kampfroboter wurde als unsicher eingestuft und der Feldeinsatz abgebrochen.

Der Vorfall war ein Weckruf.

Künstliche Intelligenz, lernende Software – das bedeutet nichts anderes, als dass Software ihre eigenen Updates schreibt. Sie lernt dabei Sachen, die nicht vorhersehbar sind, und tut Dinge, die wir nicht nachvollziehen können. Oft können ihre eigenen Entwickler den Code nicht mal entziffern, den die selbstlernende Software geschrieben hat.

Im Laufe der Zeit, so befürchten viele Vordenker der IT-Welt, kann Künstliche Intelligenz sich auf diese Weise gänzlich befreien von menschlichem Einfluss. Die Frage ist nur: Was macht sie dann?

Viele glauben, sie könnte uns töten.

Einige glauben, sie wird uns töten.

Mittlerweile sind viele der renommiertesten Denker von Silicon Valley ernsthaft besorgt. Männer wie Elon Musk und Bill Gates, Peter Thiel und Stephen Hawking sind überzeugt: Künstliche Intelligenz kann zu einer existentiellen Bedrohung für uns werden. In naher Zukunft wäre sie womöglich in der Lage, die gesamte Menschheit auszulöschen.

Bis heute hat unsere Gesellschaft nicht begriffen, was Big Data für Schäden angerichtet hat. Niemand hat sie kommen sehen. Sie wuchs mit exponentieller Geschwindigkeit – von Kilobyte-Floppies auf Megabyte-Disketten auf Gigabyte-Sticks auf Terabyte-Festplatten – in Steigerungen um das jeweils Tausendfache.

Mit einem Schlag verfügt unsere Gesellschaft über einen Speicherplatz, der faktisch unbegrenzt ist. Und unser demokratischer Staat wird von den Folgen überrumpelt. Gesetze werden ausgehebelt, Grundrechte außer Kraft gesetzt, Völkerrecht von Killerdrohnen umflogen.

Und die nächste technologische Herausforderung – die Künstliche Intelligenz – rollt wie ein Tsunami auf uns zu. Lernfähige Software, die eigene Updates schreibt, existiert heute schon bei Google, Facebook, Amazon und einer Vielzahl von Rüstungsunternehmen. Sie steuert Stadtverkehr und Pharmaforschung, Börsengeschäfte und Bankenwesen.

Künstliche Intelligenz ist außerdem in der Lage, die hochkomplexen Aufgaben des Spitzenmanagements schneller und effizienter zu steuern als Menschen. Dabei sind die Programme, die von Künstlicher Intelligenz in Mikrosekunden hergestellt werden, häufig für die eigenen Erfinder nicht ganz nachvollziehbar, womöglich auch nicht ganz kontrollierbar.

Künstliche Intelligenz ist heute schon im Alltag allgegenwärtig. Sie steuert Autos und Armbanduhren, Fahrräder und Fotoapparate. Sie parkt Autos, fliegt Airbusse und kreist im Cockpit von Killerdrohnen über Kirgisistan. Auf den Finanzmärkten der Welt wickelt sie Milliardengeschäfte ab. In Operationssälen führt sie schon Skalpelle.

Demnächst wird sie auch bei uns zu Hause einziehen. In Smart Homes wird sie Kühlschränke und Klimaanlagen steuern. Bald wird sie in Smart Cities die Kontrolle über Atommeiler und Wasserwerke, Stromverteilung und Straßenverkehr übernehmen.

KI hat die Kontrolle und uns ständig im Blick. Sie entwickelt sich in Richtungen, die nicht vorgesehen waren, tut Dinge, die wir nicht mehr nachvollziehen können.

Mensch gegen Maschine

Künstliche Intelligenz hat keine Masse, keine definierbare Größe und hat keinen festen Standort. Theoretisch lebt sie in einer Sammlung von Schaltkreisen, die wir „Computer“ nennen. Praktisch hat sie sich längst auf unzählige Außenstellen ausgebreitet – in Smartphones und Smartcars, in Glühbirnen und Großrechnern. In Windeseile ist sie in der Lage, den Standort zu wechseln, zu erweitern oder fluchtartig zu verlassen.

Konkurrenz muss die KI nicht scheuen. Künstliche Neuronen arbeiten mit einer Geschwindigkeit, die bis zu 100.000 Mal schneller ist als die Neuronen in unserem Gehirn. Und wenn sie Verstärkung braucht, holt sie zusätzliche Rechenleistung aus dem Netz. Wenn sie Gefahr wittert, kann sie Backups hinterlegen und streuen – wie Insekteneier – quer um den Globus. Kommt man ihr auf die Schliche, schreibt sie ihre Software neu – und generiert alle paar Sekunden neue Updates.

Eine KI wird mit uns wenig gemeinsam haben. Auch wenn man ihr ein menschliches Antlitz verpasst – weiche Haut, große Augen, eine sympathische Stimme – sollten wir uns nicht täuschen lassen. Menschliche Eigenschaften sind nicht zu erwarten. Letztlich ist jede Computer-Intelligenz ein Programm, bestehend aus kalten Code-Zeilen und gefühllosen Befehlsketten von Bits und Bytes. KI ist leblos.

Und dennoch lebt sie. Sie braucht weder Nahrung noch Nachtruhe, Anerkennung noch Atemluft, Sex noch Schlaf. Sie wird nie krank und fährt nie in Urlaub. Sie macht ihre Arbeit, eiskalt, unermüdlich, unsterblich. Ihre Ausbildung dauert so lange wie ein Upload. Im Todesfall genügt ein Restart.

Generiert sie ihre eigenen Strategien und Ziele, was Künstliche Intelligenz heute schon kann, kann sie eines Tages außer Kontrolle geraten. Wenn es für sie logisch erscheint, könnte sie durchaus politische Kräfte manipulieren, Finanzmärkte ins Chaos stürzen oder Waffen entwickeln, die unsere wildesten Fantasien übersteigen.

Lesetipp:

Während dieser Beitrag eine recht düstere Zukunft für die Menschheit zeichnet, kann man bei einem Interview mit dem KI-Experten Prof. Dr. Jürgen Schmidhuber fast schon wieder entspannen. Er ist der Meinung, dass intelligente Systeme an der Menschheit gar nicht mehr interessiert sein werden.