Am Magdeburger Dom, der ältesten gotischen Kathedrale in Deutschland, fanden wir gestern einen Geist hinter Gittern. Gewöhnlich hängt er an der Fassade, um die kirchliche „Hardware“ gegen böse Einflüsse zu schützen.
Wir benötigen wohl künftig solchen Schutz an unseren Festplatten und Navigeräten. Denn zu den meistgelesenen Artikeln an diesem Wochenende in der Washington Post zählt der über den Google-Progammierer Blake Lemoine. Er wurde kürzlich von seinem Arbeitgeber freigestellt, weil er mit einer beängstigenden Hypothese an die Öffentlichkeit ging: Die von Google entwickelte künstliche Intelligenz, mit der Bots (ja, auch die in der Google-Suchmaschine) Sprachkompetenz entwickeln, mag sich ein eigenes „Bewusstsein“ schaffen. Der Chatbot, so behauptet Lemoine, lernt selbständiges Denken und Sprechen, vor dem KI-Experten und Futurologen immer gewarnt hatten.
In „2001 – A Space Odyssee“ erkennt der Computer Hal, dass er „abgeschaltet“ werden soll. Er entledigt sich seines Betreuers. In „I, Robot“ bringt der Roboter Sonny den Protagonisten (gespielt von Will Smith) auf die Spur einer Verschwörung seiner Roboter-Kollegen. Sie wollen die Macht über die Menschen übernehmen, die sie eigentlich als dienstbare Helfer im Haushalt erworben hatten. Nur mit Mühe (und viel Action) gelingt es, die Roboter-Armee zu neutralisieren. All dies ist Hollywood-Phantasie.
Aber Lemoine zitiert „Gespräche“, die er über ein spezielles Interface mit der KI von Google geführt hat, welche belegen, dass der Chatbot „weiß“, was er tut. Lemoine vermutet sogar einen Geist in Google’s KI. Die Firma hält dagegen, dass der Sprachbot sich nur aus bestehenden Worten und Begriffen im Netz bedienen und logisch anwenden kann. Dies sei aber kein reflektierendes Bewusstsein.
Blake Lemoine ist ein Insider, kein beliebiger Verschwörungstheoretiker. Er verdient also eine gewisse Glaubwürdigkeit, wenngleich ich nicht die geringste Ahnung von KI oder Algorithmen habe, um das beurteilen zu können.
Aber es macht nachdenklich, wenn künftig unsere Verkehrs- und Energieinfrastruktur von KI gesteuert wird. Es sind dann nicht externe, feindliche Hacker, sondern die Bots selber, die unsere selbst fahrenden Autos übers Brückengeländer steuern, unsere Stromnetze in funkensprühende Feuerwerke verwandeln und Frühwarnsysteme unbegründet Alarm schlagen lassen. Die künstliche Intelligenz wird sich desjenigen entledigen, den sie als Gefahr für sich sieht – so ist sie programmiert. Bevor wir also den Stecker ziehen können, wird dies der Chatbot verhindern. Wehe, du fragst Google: „Google, wie stelle ich Dich ab?“
Weltsichten 