Jan-Bernd Meyer , Leitender Redakteur der Computerwoche, hat Prof. Dr. Jürgen Schmidhuber dazu interviewt.
In Ihren Vorträgen reflektieren Sie unter anderem darüber, wie sich die aus menschlicher Sicht wichtigsten Ereignisse seit dem Urknall in einem schönen Muster exponentiell beschleunigt haben. In diesem Zusammenhang stellen Sie auch Prognosen auf, wohin die künstliche Intelligenz (KI) führen wird. Das Thema treibt momentan auch Google mit der zugekauften britischen Firma Deepmind öffentlichkeitswirksam voran: Beim Go-Spiel schlug Google Deepminds System “AlphaGo” den weltbesten menschlichen Spieler. Was ist der Bezug zwischen Deepmind und Ihrem Labor?
Schmidhuber: Deepminds erste Doktoren der KI lernten sich einst in meiner Forschungsgruppe kennen, einer wurde Mitgründer, einer erster Angestellter. Weitere meiner Doktoranden stießen später zu Deepmind.
Was halten Sie von AlphaGo?
Schmidhuber: Ich freue mich natürlich über diesen großen Erfolg. AlphaGo basiert zwar auf eher traditionellen Methoden, denn schon 1994 lernte ein zunächst dummes neuronales IBM-Programm in recht ähnlicher Weise, durch Spiele gegen sich selbst, so gut wie der beste Backgammon-Spieler der Welt zu werden. Aber es kamen ein paar neue Tricks dazu, und vor allem sind heute die Rechner 10.000-mal schneller pro Euro. Heute sind Spiele wie Backgammon, Schach, auch Go in Rechnerhand.
Beherrschen Computer nun all unsere Spiele besser als wir selber?
Schmidhuber: Nur die Brettspiele. Körperliche Spiele wie Fußball sind unglaublich viel schwieriger, weil da alles zusammenkommt: rasche Mustererkennung in der richtigen Welt, die viel komplexer ist als Brettspiele, feinmotorische Abstimmung komplizierter Bewegungsabläufe in partiell beobachtbarer Umgebung etc.
Man beachte: Allein Mustererkennung ist ja im Allgemeinen schon viel schwieriger als Schach. Seit 1997 ist der weltbeste Schachspieler kein Mensch mehr. Aber damals waren Rechner jedem Kind bei der Erkennung visueller Objekte oder Sprache weit unterlegen. Das hat sich erst jüngst durch unsere neuronalen Netze geändert – erst 2011 erzielte unser Team die ersten übermenschlichen visuellen Mustererkennungsresultate bei einem Wettbewerb im Silicon Valley.
Beim Fußball muss man aber noch viel mehr können als bloße Mustererkennung – kein Roboter kann derzeit auch nur annähernd mit menschlichen Fußballern mithalten. Obwohl das nicht auf Dauer so bleiben wird.
Es wird also in naher Zukunft KI-Systeme geben, die den Menschen in jeder Hinsicht übertreffen werden?
Schmidhuber: Ich glaube schon.
Wie werden die funktionieren?
Schmidhuber: Sie werden auf neue Weise unsere künstlichen Rückgekoppelten Neuronalen Netzwerke (RNN) verwenden, die heute schon Milliarden Nutzern zugänglich sind, zum Beispiel für die Spracherkennung auf Smartphones.
Biologische Hirne sind zwar heutigen RNN immer noch in vieler Hinsicht überlegen. Sie erlernen unter anderem ein prädiktives Weltmodell, das vorhersagt, wie sich die Umgebung durch ausgeführte Aktionen ändern wird, und nutzen dieses Weltmodell irgendwie für abstraktes Denken und Planen. Kontinuierlich erweitern sie früher gelernte Fähigkeiten und werden dabei zu immer allgemeineren Problemlösern.
Doch wir arbeiten an der Geburt einer revolutionären RNN-basierten Künstlichen Intelligenz (RNNAIssance), die das auch kann.
Ein zunächst dummer Agent setzt dabei den Wahrnehmungsstrom aus seiner Umgebung durch ein Steuer-RNN namens C in weltverändernde Aktionssequenzen um. Sein separates Weltmodell-RNN namens M versucht dabei stets, in der wachsenden Geschichte von Erlebnissen Regelmäßigkeiten zu entdecken, das heißt, sie zu komprimieren zum Beispiel durch prädikitive Codierung. Dabei lernt M stets neue parallel-sequenzielle neuronale Unterprogramme, die das, was vorhersagbar ist, kompakt darstellen. C wird dafür belohnt, Programme (oder Gewichtsmatrizen) zu finden, die vom Nutzer vorgegebene Probleme lösen. Um den Suchraum zu reduzieren, kann C dabei lernen, relevante Teile von M in beliebiger berechenbarer Weise anzusteuern, zu erwecken, zu befragen und anderweitig auszunutzen, um so seine Suche durch “Nachdenken” dramatisch zu beschleunigen.
Im Prinzip ist klar, wie man das machen muss. Und es ist nicht erkennbar, dass konzeptionell noch etwas Wesentliches fehlt.
Sie sagen in Vorträgen, dass noch in diesem Jahrhundert die wesentlichen Entscheidungsträger in diesem Sonnensystem keine Menschen mehr sein werden, sondern künstlich-intelligente Systeme. Klingt ein bisschen wie Sci-Fi.
Schmidhuber: Klingt tatsächlich wie Sci-Fi. Aber so wird es wohl laufen. Bald werden recht billige Rechner so viel Rechenleistung bieten können wie ein menschliches Gehirn. Und alle zehn Jahre steigt die Rechenleistung pro Euro etwa um den Faktor 100. Falls der Trend anhält, werden wir also nur 50 Jahre später billige Rechner mit der kombinierten Rechenleistung aller zehn Milliarden Menschenhirne erleben.
Und die Entwicklung wird dann nicht stoppen, und von diesen Rechnern wird es nicht nur ein paar geben, sondern Milliarden und Abermilliarden. Die werden nicht alle hier in der Biosphäre bleiben. Die meisten wird es hinaustreiben, dahin, wo die meisten Ressourcen sind, also raus ins Weltall, wo man zum Beispiel im Asteroidengürtel Milliarden von selbstreplizierenden Roboterfabriken, gigantische Teleskope und alles Mögliche bauen kann, um besser zu verstehen, wie das Universum funktioniert. Innerhalb von ein paar Millionen Jahren werden KIs dann die gesamte Milchstraße kolonisieren, wobei Menschen allerdings keine nennenswerte Rolle spielen werden, im Gegensatz zum Wunschdenken vieler Sci-Fi-Filme.
Menschen werden KI nicht kontrollieren können
Noch einmal zu einem irdischen Problem: Eine Menge Menschen warnen vor Künstlicher Intelligenz. Sie glauben, dass irgendwann die Entwicklung nicht mehr zu kontrollieren ist. Andere halten das für Unsinn.
Schmidhuber: Viele haben Arnold-Schwarzenegger-Filme oder “Matrix” gesehen, mit lächerlichen Zielkonflikten zwischen Menschen und KI-Systemen der Zukunft. Diese Konflikte sind meist völlig an den Haaren herbeigezogen.
Langfristig werden Menschen allerdings in der Tat nicht in der Lage sein, ihre künstlichen Geschöpfe zu kontrollieren. Das werden keine bloßen Werkzeuge mehr sein. Sie werden weit klüger sein als wir, aber irgendwann auch das Interesse an uns verlieren, anders als in den eingangs erwähnten Filmen.
Letztlich interessiert man sich immer für die, die einem ähnlich sind und mit denen man Ziele teilt. Nur mit denen kann man vernünftig kollaborieren oder sich streiten. Eine Extremform der Kollaboration ist Liebe, eine Extremform des Wettbewerbs ist Krieg. Menschen interessieren sich daher für andere Menschen, Künstler für andere Künstler, Politiker für andere Politiker, fünfjährige Mädchen für andere fünfjährige Mädchen. Und die superklugen KI-Systeme der Zukunft werden sich für die superklugen anderen KI-Systeme interessieren – und nicht so sehr für die Menschen.
Ich wolllte nicht auf Hollywood-Filme abheben. Vielmehr sind es ja Experten auch aus Ihrem Beritt, die vor den Entwicklungen warnen, die sich mit selbstlernenden intelligenten Systemen ergeben könnten. Es ist ja nicht schwer, sich vorzustellen, dass Systeme in Zukunft Diagnosen zu Krankheiten stellen und Behandlungsoptionen vorschlagen …
Schmidhuber: … das haben wir heute schon…
… genau. Und wir haben in der Finanzwelt Systeme, die im Hochfrequenzhandel rasend schnell Wertpapiere kaufen und verkaufen, ohne dass der Mensch das noch nachvollziehen kann. Es ist wohl nicht ganz von der Hand zu weisen, dass die technische Entwicklung solch intelligenter Systeme dann auch zu unkontrollierbaren Situationen führen kann.
Schmidhuber: Natürlich muss man daran arbeiten, derartige Gefahren in den Griff zu bekommen.
Aber am meisten Angst müssen Sie vor Menschen haben, die ähnlich intelligent sind wie Sie und Zugriff haben auf die 60 Jahre alte Wasserstoffbombentechnik, die die Zivilisation ohne KI auslöschen können.
Würden Sie eine Prognose wagen, wann es KI-Systeme gibt, deren Intelligenz die von Menschen übertrifft?
Schmidhuber: Ich persönlich wäre verblüfft, falls dies nicht in den nächsten Jahrzehnten passieren würde. Und wenn viele KIs dann nicht massiv ihre eigenen Ziele verfolgen würden, von denen die meisten völlig losgelöst sein dürften von den Zielen der Menschen.
Dabei ist doch prinzipiell durchaus wünschenswert, dass KI-Systeme, Roboter etc. dem Menschen in verschiedenen Lebenslagen beispringen – etwa in der Altenpflege oder im Gesundheitswesen , in der Finanz- und Versicherungsbranche.
Schmidhuber: In der Tat gibt es all diese Entwicklungen schon heute. Und natürlich existiert schon heute ein enormer kommerzieller Druck, freundliche KI-Systeme zu bauen und deren Nutzer damit glücklicher zu machen. Nehmen Sie das Smartphone: Das erkennt heute Ihre Sprache und Ihr Gesicht und das anderer Nutzer. Es kann Ihnen Vorschläge machen für Restaurantbesuche. Es misst Ihren Herzschlag und kann gegebenenfalls Warnungen an Sie oder einen Arzt versenden.
KI-Systeme operieren doch heute schon – ohne dass vielen das bewusst wird – in verschiedensten Lebensbereichen. Und das auf eine Weise, die die meisten Menschen gutheißen.
Und die Privatsphäre?
Schmidhuber: Natürlich stellt sich die Frage der Privatsphäre, wenn ein Smartphone meine Herzfrequenz zu verschiedenen Tageszeiten genau kennt etc. Dieses Problem wird in verschiedenen Ländern ganz unterschiedlich beurteilt. In Deutschland ist man viel skeptischer als in den USA und Großbritannien, was auch ein Wettbewerbsnachteil werden kann, da das Feld dann den anderen überlassen wird.
Letzte Frage: Immer wieder hört man, Deutschland hinke bei der Digitalisierung hinterher. Nun gibt es aber viele Beispiele dafür, dass deutsche Mittelständler sehr innovativ sind. Sie selbst führen das Beispiel von Ernst Dickmanns an, der Jahrzehnte vor Google, nämlich 1995, mit einem selbstfahrenden Mercedes von München auf der Autobahn nach Dänemark und zurück fuhr. Was ist denn zu halten von der Rückständigkeit der Deutschen in Sachen Digitalisierung?
Schmidhuber: Das ist natürlich Schwachsinn. Viele der Methoden, die heute Microsoft, Google, Baidu, Samsung etc. nutzen, wurden von Deutschen oder anderen Europäern entwickelt. Denken Sie zum Beispiel an die ersten Deep-Learning-Netzwerke von Ivakhnenko in den 1960ern. Denken Sie an die Spracherkennung auf Ihrem Smartphone oder an die besten automatisierten Übersetzungen und automatischen E-Mail-Beantwortungen und was es dergleichen mehr gibt: All das beruht auf der Long-Short-Term-Memory-Netzwerktechnik und auf anderen Algorithmen, die meine Forschungsgruppen in München und in der Schweiz seit den frühen 1990ern entwickelt haben. Das wird heute von den wertvollsten börsennotierten Firmen der Welt in den USA und Asien verwendet.
Und nicht mal das WWW selbst stammt aus Amerika, sondern vom europäischen CERN. Der Computer selbst ist eine komplett europäische Entwicklung. Was in Europa halt fehlt, ist die schnelle Umsetzung der Forschungsergebnisse in kommerzielle Produkte. Das ist im Silicon Valley durch die enge Verzahnung von Forschung und Venture Capital ganz anders. Unsere Firma bekommt deshalb Anrufe vor allem aus den USA und aus Asien, kaum aus Deutschland. Dabei hat gerade Deutschland ein unglaubliches Potenzial und eine Ökologie von mittelständischen Unternehmen, die in ihren jeweiligen Nischen führend sind. Die machen den größten Teil der deutschen Wirtschaft aus. Die warten nur darauf, dass im Rahmen von Industrie 4.0 und Internet der Dinge tolle KI-basierte Methoden entwickelt werden. Da scheint für deutsche Unternehmen eine große Chance und viel Potenzial zu existieren. Beim Internet der Dinge sehe ich unglaubliche Möglichkeiten für den deutschen Mittelstand
Lesetipp:
Während hier die Menschheit als so uninteressant für die intelligenten Systeme dargestellt wird, dass ihr keine direkte Gefahr droht, sieht das der Buchautor Jay Tuck etwas anders. Seine Recherchen brachten ihn zu der Frage: Wird die Künstliche Intelligenz uns eines Tages töten?