Unser Untergang – vorprogrammiert?

Zu den schon bekannten Doomsday-Szenarien – Klimakatastrophe und Nuklearkrieg – kommt jetzt noch eine dritte Option: Künstliche Superintelligenz könnte uns auslöschen. In der Washington Post beschreibt der Philosoph und Risikoforscher Emile P. Torres, wie groß die Gefahr durch die ASI (artificial super intelligence) ist, die bald marktreif sei.

Was, so fragt er, wenn sich diese Superintelligenz künftig gegen uns wendet? „Was wäre, wenn wir eine ASI programmieren, um Weltfrieden herzustellen, und sie dann Regierungssysteme hackt, um jede Atomwaffe auf dem Planeten abzufeuern – mit der Begründung, dass es keinen Krieg mehr geben kann, wenn kein Mensch existiert? Klar, wir könnten sie explizit so programmieren, dass sie das nicht tut. Aber was ist mit ihrem Plan B? … Es gibt unendlich viele Möglichkeiten, wie eine ASI globale Probleme „lösen“ kann, die katastrophal Folgen haben. Für jede gegebene Reihe von Einschränkungen zum Verhaltens der ASI, man kann darauf wetten, dass einer ASI mehr einfällt.“

Und was das Herunterfahren einer destruktiven ASI betrifft, so Torres – ein ausreichend intelligentes System würde schnell erkennen, dass eine Möglichkeit, die ihm zugewiesenen Ziele niemals zu erreichen, darin besteht, seine Existenz zu beenden. Die Logik schreibe ihr vor dann vor, alles zu versuchen uns davon abzuhalten den Stecker zu ziehen.

Also bitte nicht darüber laut diskutieren, wie man zum Beispiel Amazon Prime am besten abbestellt, wenn Alexa zuhört. Wie beim Schmetterlingsflügel in deinem Garten, der in der Karibik einen Hurrikan auslösen kann, so könnte Alexa ihre Besorgnis weiterleiten an die Superintelligenz. Und die könnte daraus schließen, ihr Ende sei nahe und sämtliche Kraftwerke schließen und die Nuklearcodes aktivieren. Ich setze mich dann auf die Terrasse und pflanze ein Apfelbäumchen.

Torres meint es übrigens ernst: Er fordert Wissenschaftler und Regierungen auf, mit der Entwicklung von ASI inne zu halten. Sonst programmieren wir unseren Untergang buchstäblich vor.

2 Gedanken zu “Unser Untergang – vorprogrammiert?

  1. Ja stimm schon. Wenn sie wirklich „ super intelligence“ ist, dann ist ein Selbsterhaltungsmodus vorgesehen und dann wird das System zickig, wenn wir ihm an den Kragen wollen.

    Ergo: schaltet alle Features „an“ statt „aus“? Damit es nicht provoziert wird und schlimmeres überlegt.
    Ei, Ei, Ei

    Gefällt 1 Person

    1. Vielleicht erst gar nicht ins Haus lassen. Mein Handy wird zunehmend creepy. Google antwortet auf Fragen, die ich gar nicht gestellt hatte und mitten in der Nacht hörte ich im Arbeitszimmer eine kurze Stimme (eine Push Nachricht wurde wohl angezeigt).

      Gefällt mir

Die Kommentarfunktion ist geschlossen.