2200936

Kill Switch für Roboter: Google forscht an Notabschaltung

07.06.2016 | 16:55 Uhr |

Mit einem Kill Switch sollen sich wild gewordene Roboter oder unkontrolliert arbeitende Programme künftig deaktivieren lassen.

Google forscht schon seit Jahren an Künstlicher Intelligenz (KI). Damit verbunden ist natürlich auch immer eine gewisse Gefahr: Roboter und Programme könnten Amok laufen und die Kontrolle übernehmen. Damit dies nicht passieren kann, arbeitet das Google-Labor DeepMind an einer Möglichkeit zur Notabschaltung fehlerhaft arbeitender Systeme.

Zusammen mit der University of Oxford wurde in einem Forschungspapier untersucht, wie ein solcher Kill Switch aussehen könnte. Die Studie Safely Interruptible Agents schlägt einen großen roten Knopf vor, wie er schon bei anderen Maschinen zum Einsatz kommt. Ein Mensch in einer Fertigungsanlage könnte damit die Roboter der gesamten Produktionsstätte ausschalten.

Damit die KI diese Unterbrechung nicht verhindern kann, gaukelt der Kill Switch den Robotern vor, dass sie sich selbst deaktiviert haben. Entsprechend warten sie nicht auf weitere Aktionen. Mit Algorithmen, die das sichere Unterbrechen unterstützen, könnte die Sicherheit weiter erhöht werden.

0 Kommentare zu diesem Artikel
2200936