„Wir müssen uns nicht vor Killer-Robotern fürchten“

Maschinen führen Krieg. Maschinen nehmen uns die Jobs weg. Maschinen erfüllen unsere sehnlichsten Wünsche, sie bereiten uns Fantasien in der Virtual Reality, lassen uns zu Touristen im Weltraum werden und machen unsere Körper unsterblich. Auch WIRED schreibt oft in Superlativen, wenn es um Entwicklungen in der Technologie geht.

Der Autor und Konfliktforscher am King’s College in London Thomas Rid hat ein Buch über das Verhältnis zwischen Mensch und Maschine geschrieben. Genauer gesagt über unsere Vernarrtheit in Technik. Er folgt der Entwicklung der Kybernetik durch das 20. Jahrhundert und zieht Schlüsse für unsere Gegenwart – entstanden ist eins der wenigen zeitlosen Werke über eine sich rasant entwickelnden Kult. WIRED hat Rid in Berlin getroffen, um über unser Wunschdenken und unsere Panik zu reden. Heraus kam ein Gespräch über Drohnenkriege und technische Religion.

Ihr neues Buch heißt Maschinendämmerung, ein ziemlich apokalyptischer Titel. Ist es also bald vorbei und die Maschinen übernehmen?

Im Gegenteil sogar. Das haben Sie falsch verstanden. Es geht darum, dass wir Maschinen nicht überschätzen dürfen. Seit den 40er Jahren benutzen wir digitale, „denkende“ Automaten als Projektionsflächen für unsere Hoffnungen und Ängste. Wir erträumen und fürchten eine von Maschinen dominierte und von Maschinen kontrollierte Zukunft herbei. Wir verlieren bei all dem Gerede über Cyber-Krieg und Killer-Roboter manchmal den kühlen Kopf.

Da war es wieder, das berühmte und unter Experten verpönte Wort „Cyber“. Wie oft kommt es in Ihrem Buch vor?

Wenn, dann nur in Anführungszeichen und als historischer Begriff. Ich finde das auch peinlich. Deswegen habe ich das Buch ja geschrieben. Ich werde oft als „Cyber-Experte“ vorgestellt, gerade erst im Verteidigungsausschuss des Bundestages. Dabei verdrehe ich innerlich immer die Augen, wenn jemand dieses Wort benutzt.

Im vergangenen Jahr hat unsere Verteidigungsministerin in einem ernsten Verteidigungs-Papier namens Strategische Leitlinie Cyber-Verteidigung dieses Wort 137 Mal benutzt.

Sagen wir so, eine meiner Faustregeln lautet: Der Gebrauch des Worts „Cyber“ verhält sich oft inversproportional zur Sachkenntnis einer Person.

Überschätzen wir die Maschinen deshalb so sehr, weil wir uns nicht genug auskennen?

Mangelnde technische Kenntnis trägt sehr oft zu einer Verführungsgefahr bei, die der Kybernetik innewohnt. Diese Theorie hatte von Anfang an den Anspruch, die Zukunft unserer Maschinen fassbar zu machen. Spätestens seit den sechziger Jahren hat das Wörtchen „Cyber“ – verkürzt von Cybernetics – deshalb einen fast schon spirituellen Anspruch.

Spirituelle Technik?

Viele sehen technischen Fortschritt als mächtig an. Viele glauben an kommende Dystopien, andere an kommende Utopien. Für Cryptoanarchisten in den 90er Jahren etwa war der „Cyberspace“ der ideale Raum der Befreiung. Für Luftwaffenoffiziere und Sicherheitsexperten wurde „Cyberspace“ zur gleichen Zeit zum Ort für Spionage und Krieg. Wir verfallen noch immer in diese Extreme. Ich möchte die Leute in meinem Buch dafür sensibilisieren.

Haben Sie ein aktuelles Beispiel für diese Extreme?

Künstliche Intelligenz wird uns umbringen, Killer-Roboter sind eine existenzielle Bedrohung für die Menschheit, sogar Steven Hawking sagt das, viele Wissenschaftler folgen ihm.

Aber dem liegt doch eine ernsthafte Debatte über den Einsatz von Drohnen und automatisiertem Kriegsgerät zu Grunde. Gerade erst hat sogar die UN in Genf über dieses Thema diskutiert.

Aber wie sinnvoll und wie informiert ist diese Diskussion? Viele Leute denken, diese Systeme werden immer autonomer. Die Realität sieht anders aus. Wir packen immer mehr Menschen in sie hinein.

Das müssen Sie erklären.

Warum sollte eine bereits vernetzte Drohne denn unbedingt mehr Entscheidungsautonomie bekommen? Sie arbeitet nicht zeitkritisch, muss keine gegnerische Rakete abschießen und deshalb nicht in Millisekunden reagieren können. Im Gegenteil, manchmal dauern die Entscheidungen Stunden oder Tage. Es gibt keinen zwingenden Grund, den Menschen aus diesem Loop herauszunehmen. Eine Drohne nutzen mehr Menschen gleichzeitig, als ein vergleichbares bemanntes Kampfflugzeug. Gleich mehrere Drohnen-Operateure, Piloten, Aufklärungs-Analysten etc. Die Mensch-Maschine Interaktion geht keineswegs zurück, sie wächst sogar. Eine Drohne ist viel weniger autonom als etwa eine Kontinentalrakete.

Aber es gibt durchaus autonome Kampfsysteme, Schussanlagen an der Grenze zwischen Nord- und Südkorea etwa.

Richtig, so etwas ist aber nicht neu. Autonome Waffen haben wahrscheinlich schon Millionen von Menschen getötet und verstümmelt. Wir nennen sie Landminen. Sicherlich ist es besser, wenn wir ein System haben, das ausgefeiltere Parameter anwendet, als nur das Gewicht oder eine Berührung. Brutal formuliert, Sie müssen doch nur die Zeitung aufschlagen. Das Problem ist doch nicht die künstliche Intelligenz sondern die menschliche.

Bild: Annette Rid

Also halten Sie die große Panik vor autonomen Waffensystemen für aufgeblasen?

Absolut. Wir müssen uns derzeit nicht vor Killer-Robotern fürchten. Diese Diskussion ist zum Teil so entrückt, dass ich mich gar nicht mehr herantraue. Und so kommen wir zurück zur Maschinendämmerung. Das alles hat mit der spirituellen Überhöhung der Maschine zu tun, die wir schon so lange betreiben. Wir denken geradezu größenwahnsinnig, dass wir ein Geschöpf erschaffen, dass unserer eigenen Macht entkommt und dann Eigenlogik entwickelt – wie HAL, der Supercomputer aus 2001: Odysee im Weltraum.

Aber dem ist nicht so?

Die Geschichte lehrt, wir müssen die Ruhe bewahren. Drei Technologien haben in den 70iger und 80er Jahren menschliche Kommunikation völlig verändert: Computer, mittlerweile bis auf Telefongröße geschrumpft, das Internet und öffentliche Verschlüsselungstechnologien. Das kann man alles aber nur einmal erfinden. Irgendwann ist ein Punkt der Sättigung erreicht.

Ist das so? Vielleicht können wir uns die Arten der Weiterentwicklung bloß nicht vorstellen. Gerade versucht Facebook, Apps durch Chatbots abzulösen, also automatische Assistenten. Das klingt doch sehr nach Fortschritt.

Jedes mal, wenn ich mit einem Chatbot am Telefon rede, bin ich enttäuscht und genervt. Wir sind schon sehr verwöhnt von der Geschwindigkeit dieser ganzen Innovationen, und noch einmal: Das kann nicht immer so weitergehen.

Bekommen wir als nur noch einen falschen Fortschritt „verkauft“?

Nicht unbedingt, aber ein Unternehmen wie Apple jetzt für immer an den Wachstumsraten der iPhone-Revolution zu messen, das ist für mich unrealistisch.

Deshalb die Rolle rückwärts in Ihrem Buch? Sie wollen zeigen: So sieht die faktische Entwicklung aus, Leute, kommt mal runter.

Wir haben eine Vernebelungs-Brille auf, was Technik betrifft. Der vernebelte Blick reicht etwa zehn bis fünfzehn Jahre in die Vergangenheit, wir sehen nur einen bestimmten Entwicklungsausschnitt der Technik. Erst beim weiteren Blick zurück sehen wir klarer. Heute tappen wir also fast im Dunkeln. Wir liegen nicht immer aber doch eben sehr oft falsch mit unseren Vorhersagen.

Ich sehe es kommen, gleich diskutieren wir, warum es immer noch kein Hoverboard gibt.

Mit Science-Fiction treffen Sie das Problem ganz gut. Wir dürfen uns nicht in diesen Überlegungen verlieren. Die Verführungskraft dieser Theorie der Kybernetik, der Macht von Maschinen, sie fängt uns Menschen sofort ein. Nehmen Sie das Beispiel von L. Ron Hubbard, Gründer von Scientology: Schon in den 40er Jahren liest er über die Kybernetik, ist inspiriert und schreibt Dianetics, sein Gründungswerk. Oder Maxwell Maltz, einer der erfolgreichsten Selbsthilfegurus des zwanzigsten Jahrhunderts: 1960 veröffentlich er Psycho-Cybernetics, es wird ein Bestseller mit 15 bis 20 Millionen verkauften Exemplaren. Die Leute sind fasziniert von der Mensch-Maschine und lassen sich allzu oft blenden.

Ein Religionsersatz mit Drohnen im Himmel und Drohnen in der Hölle also?

Wie oben angesprochen: eine spirituelle Überhöhung der Maschine. Norbert Wiener war der Vordenker der Kybernetik, in den 40er Jahren wohlgemerkt. Er schrieb kurz vor seinem Tod das Buch Gott und Golem. Er will darin Technik nutzen, um Religion zu entzaubern. Genau das Gegenteil ist in der Geschichte passiert.

Dieser Artikel erschien zuerst bei Wired.de.

Bild: Annette Rid