Kalaschnikows mit Hirn

Warum nicht mehr viel Zeit bleibt, die Produktion von autonomen Waffen abzuwenden
Demonstranten am Stachus beim Protestzug gegen die Münchner Sicherheitskonferenz. Foto: dpa/ Stephan Rumpf
Demonstranten am Stachus beim Protestzug gegen die Münchner Sicherheitskonferenz. Foto: dpa/ Stephan Rumpf
Weltweit arbeiten Staaten hektisch an der Entwicklung „autonomer Waffen“, die ohne menschliche Steuerung Ziele identifizieren und vernichten können. Nun warnen prominente Wissenschaftler vor einem katastrophalen Wettrüsten, wie der New Yorker Journalist Andreas Mink aufzeigt.

Zornig brummt der tödliche Schwarm auf ein Gebäude zu. Es sind Drohnen, kaum größer als Hornissen. Ein Dutzend setzt an der Außenwand auf und sprengt ein Loch hinein. Die übrigen Drohnen dringen ein, jagen durch Gänge in ein volles Auditorium. Ihre Sensoren gleichen Personen-Profile mit Menschen im Raum ab. Nun rasen einzelne Drohnen auf ihre Ziele zu und explodieren an Körpern und Köpfen. Das Massaker auf dem Video „Slaughterbots“ wirkt echt und schockiert derzeit Millionen Zuschauer bei YouTube (https://www.youtube.com/watch?v=9CO6M2HsoIA&feature=youtu.be). Doch die Szenen mit den Metzel-Robotern sind gestellt, sagt am Ende der acht Minuten Stuart Russell, Professor an der University of California Berkeley. Dann warnt der prominente Experte für Künstliche Intelligenz (KI): dass Killer-Drohnen ohne menschliche Steuerung gezielte Attacken ausführten, sei keine Spekulation mehr. Die Technik für die Produktion von „Slaughterbots“ sei vorhanden, sagt Russell: „Es bleibt nicht mehr viel Zeit, diese Bedrohung für Sicherheit und Freiheit der Menschheit abzuwenden.“

Deshalb hat Russell mit zahlreichen Kollegen die Initiative „Stop Autonomous Weapons“ gegründet. Sie wollen Waffen wie die Killer-Drohnen im Video verbieten, die „Personen ohne menschliche Aufsicht identifizieren, selektieren und angreifen können“. Militärs und Experten verwenden dafür den Begriff „Lethal Autonomous Weapon Systems“ (LAWS). Sie betrachten LAWS als die dritte Revolution der Kriegsführung nach der Einführung des Schießpulvers im Spätmittelalter und der Atomwaffen am Ende des Zweiten Weltkrieges. Aber während Nuklear-Mächte Billionen Dollar in ihre Waffenarsenale investiert hätten, könnten Killer-Drohnen aus der Serienproduktion nur zwischen 30 und 100 Dollar je Stück kosten, sagte Russell in einem Telefonat mit zeitzeichen: „Ungefähr so viel, wie ein simples Handy“. LAWS wären somit die billigsten Massenvernichtungswaffen aller Zeiten.

Russell ist mit seinen Warnungen in bester Gesellschaft. Er arbeitet eng mit dem „Future of Life Institute“ in Kalifornien zusammen. Die 2014 gegründete Stiftung fordert ein umfassendes Herstellungsverbot für autonome, auf Maschinen-Intelligenz gestützte Waffen. Das Institut hat dazu im vergangenen Sommer einen offenen Brief publiziert. Zu den 40.000 Unterzeichnern zählten Wissenschaftler und Vertreter der Technologie-Branche, wie Stephen Hawking, Tesla-Chef Elon Musk, Apple-Gründer Steve Wozniak, aber auch europäische Forscher wie Jürgen Schmidhuber.

Der Brief warnte: Nehme ein Land die Herstellung von LAWS auf, beginne ein globales Rennen mit der unvermeidlichen Konsequenz einer massenhaften Verbreitung von LAWS. Autonome Waffen könnten die Kalaschnikow der Zukunft werden - tödlich, billig herzustellen und allgegenwärtig. Rasch würden Killer-Drohnen in die Hände von Terroristen und Kartellen geraten. Diktatoren könnten damit Bevölkerungen kontrollieren und Gegner liquidieren. Dazu stünden so genannten ethnischen Säuberungen Tür und Tor offen. Russell nennt weitere Gefahren: „Viele KI-Forscher halten es für moralisch inakzeptabel, Maschinen die Entscheidung über das Töten von Menschen zu überlassen. LAWS sind in theoretisch unbegrenzter Zahl als Schwärme einsetzbar. Deshalb könnte eine Handvoll Menschen immense Verheerungen anrichten. Da es schwierig ist, die Verwender autonomer Waffen zu identifizieren, wären sie ideal für Leute, die ungestraft Kriege oder Bürgerkriege anzetteln, Rivalen oder einfach nur Menschen umbringen wollen, die ihnen missfallen.“

In unwegsamen Regionen

Bis dahin fehlt nicht mehr viel. Bislang verfügt zwar kein Land weltweit über derartige Waffen. Aber Russell schätzt, dass die usa als technisch mit Abstand führende Nation binnen 18 Monaten in der Lage wären, voll einsetzbare Killer-Drohnen in großer Zahl zu produzieren: „Prototypen könnte ich an einem Semes-ter mit einer Graduierten-Klasse herstellen.“ Er spricht dabei nicht von Systemen wie den bis zu elf Meter langen Drohnen der Typen „Predator“ und „Reaper“, die das Pentagon seit den Balkankriegen der Neunzigerjahre und heute in Afghanistan oder im Irak einsetzt. Diese werden von Piloten in den Staaten oder auf amerikanischen Basen in Übersee ferngesteuert. Die „Predators“ sind Vorläufer der LAWS und mit einer Technik ausgestattet, die seit den Siebzigerjahren zunächst bei der Luftwaffe zur Zielerfassung und -vernichtung eingeführt wurde. Diese Entwicklung schreitet unaufhaltsam voran und hat bereits Systeme hervorgebracht, die beim Militär ohne menschliche Kontrolle „autonom“ zahlreiche Aufgaben in allen Waffengattungen übernommen haben. Nur zum Töten von Menschen werden sie anhin noch nicht eingesetzt.

Die Forscher an der schwedischen Stiftung für Konfliktforschung SIPRI definieren autonome Waffen in einer neuen Studie anhand von drei vorprogrammierten Grundelementen: Sensoren, die Daten sammeln; eine Software für deren Auswertung und Umsetzung in einen Aktionsplan; sowie „Effektoren“ für die Ausführung von Entscheidungen. All dies geschieht in Sekundenbruchteilen und damit um Dimensionen schneller als es Menschen vermögen. Laut SIPRI liegt die Attraktion autonomer Systeme daneben in ihrer Beweglichkeit und dem „Stehvermögen“, besonders bei „öden, schmutzigen und gefährlichen Missionen“. Weitere Vorteile kommen bei Reichweite und Koordinations-Fähigkeiten ins Spiel, die vom Häuserkampf bis zu Operationen unter Wasser und in unwegsamen Regionen deutlich über den menschlichen Möglichkeiten liegen.

Besonders für das von gigantischen Kosten bei Verwaltung, Logistik und Personal geplagte Pentagon verspricht die Einführung autonomer Systeme neben erhöhter Kampfkraft obendrein deutliche Einsparungen, so die SIPRI-Studie. Dazu kommen Hoffnungen auf Kostensenkungen beim Waffenkauf. Am stärksten treibt Pentagon-Planer aber die Überzeugung an, dass eine umfassende Modernisierung ihrer Streitkräfte durch autonome Systeme die Dominanz Amerikas über Konkurrenten wie Russland und China längerfristig sichern würde. Dies haben natürlich auch der russische Präsident Wladimir Putin und sein chinesischer Amtskollege Xi Jinping erkannt. Putin forciert bereits die Entwicklung autonomer Roboter-Systeme, welche die Bewaffnung seiner Streitkräfte radikal ändern sollen. Xi Jinping will dagegen China mit massiven Investitionen bis 2030 in eine „KI-Supermacht“ verwandeln. Chinesische Firmen dominieren bereits den Weltmarkt bei kleinen Drohnen für den Privatgebrauch.

In Sekundenbruchteilen

Gleichwohl hinkt China den Amerikanern laut sipri in grundlegend wichtigen Bereichen, wie Motoren für unbemannte Flugmaschinen oder Sensoren, noch deutlich hinterher. Die usa verdanken ihren Vorsprung einer einzigartigen Infrastruktur bei der Grundlagenforschung und technischen Innovation. Dazu gehört das legendäre Pentagon-Labor darpa, aber auch Spitzenuniversitäten wie das mit. Laut Russell arbeiten Militärs und ihre zivilen Partner an einer Fülle von LAWS-Programmen: „Und es gibt bereits Drohnen, die fast autonom gemeinsam jagen wie ein Wolfsrudel.“ Dieses Programm läuft seit 2016 unter dem Titel „Gremlin“. Partner dabei ist das „Lincoln Laboratory“ am mit. Wer den offenen Brief des „Future of Life Institute“ gelesen hat, muss hier stutzen. Zivile Forschungseinrichtungen in den usa arbeiten seit dem Zweiten Weltkrieg eng mit dem Militär und den Geheimdiensten zusammen. Das Engagement wichtiger Wissenschaftler gegen autonome Waffen wirft deshalb die Frage auf, warum sie nicht zunächst die eigenen Institutionen und Geldgeber von einer Beteiligung an LAWS-Projekten abbringen.

Eine ähnliche Grauzone tut sich in der High-Tech-Branche auf. Dort investieren Giganten wie Google und Amazon Milliarden in die Entwicklung autonomer Systeme. Die Konzerne wollen freilich nichts mit dem Militär, und schon gar nicht mit Killer-Drohnen, zu tun haben. Aber Russell stellt dazu trocken fest, für Software und Hardware gebe es zwischen zivilen und militärischen Anwendungen eigentlich keine Unterschiede: „Ob eine Drohne Ihnen Blumen ins Haus bringt oder eine Bombe, ist der Technik gleichgültig.“ Dies gilt besonders für Hardware-Unternehmen wie Intel. Der Chip-Hersteller hat im vergangenen Sommer für 15 Milliarden Dollar die israelische Firma Mobileye übernommen, die eine Schlüsselrolle bei der Herstellung von Chips für autonome - also selbstfahrende - Automobile spielt. Diese Technologie sei auch für Waffen verwendbar, so Russell.

Auf dem Feld der Firmen-Übernahmen spielen auch die Chinesen mit. Peking will die Lücken bei der Entwicklung von KI und autonomen Systemen durch den Ankauf amerikanischer Technologie-Unternehmen schließen. Dagegen machen nun Abgeordnete beider Parteien im US-Kongress mobil. Die von LAWS drohenden Risiken sind amerikanischen Politikern und Offiziellen außerhalb des Militärs jedoch kaum bewusst. Dies gelte für die meisten Staaten, sagt Stuart Russell. Davon ist er, nach vielen Gesprächen mit zivilen Entscheidungsträgern weltweit, überzeugt. Deshalb hat seine Allianz das Slaughterbots-Video vor einer Tagung der „UN-Konferenz zu gewissen konventionellen Waffen“ (CCW) in Genf online gestellt. Das Forum diskutiert den Umgang mit autonomen Waffen. Doch die Gespräche brachten am Jahresende 2017 erneut keine Fortschritte.

Pflichtübung von Diplomaten

Russell betrachtet diese Verhandlungen ohnehin als eine Pflichtübung von Diplomaten, die nicht auf konkrete Fortschritte angelegt sei. Er führt dies auf die Interessen der Großmächte zurück. Zahlreiche Staaten, wie Ägypten und Mexiko, drängten zwar auf ein Verbot von LAWS. Aber Moskau, Peking und Washington hielten mehr oder weniger offen dagegen. Dabei nähmen die USA eine „eine schizophrene Haltung ein“, seit die Obama-Regierung die Entwicklung von LAWS 2012 vorerst offiziell blockiert hatte. Das Weiße Haus unter Donald Trump hat dazu noch nicht Stellung genommen. Aber das Pentagon und seine Zulieferer in Wirtschaft und Forschung arbeiten emsig auf eine Verfügbarkeit autonomer Waffen hin.

Damit rückt ein globales Wettrüsten bei LAWS näher. Das im Kalten Krieg anhand von Atomwaffen etablierte Prinzip der gegenseitigen Abschreckung greift bei Slaughterbots nicht. Gegen diese sei auf absehbare Zeit kein Kraut gewachsen, sagt Russell: „Die US-Navy investiert beispielsweise stark in Laser-Kanonen. Aber die brauchen viel zu lange, um einzelne Drohnen ins Visier zu nehmen. Gegen Schwärme sind sie nutzlos."

Andreas Mink

Liebe Leserin, lieber Leser,

Dieser Inhalt ist nur für zeitzeichen-Abonnenten zugänglich. Bitte geben Sie Ihre Kundennummer ein *:
Ihre Kundennummer finden Sie entweder auf Ihrer Rechnung (online-Bezug) oder über dem Versandetikett Ihrer Zeitschrift. Bei der Kundennummer handelt es sich um eine 8-stellige Zahl, die mit der Ziffer 1 beginnt.

* Das einmalige Einloggen reicht aus, Sie erhalten damit automatisch Zugang zu allen anderen Artikeln. Beim Verlassen der Webseiten von zeitzeichen werden Sie automatisch ausgeloggt, Sie müssen sich dann bei Ihrem nächsten Besuch erneut anmelden.

Online Abonnement

Die komplette Printausgabe und zusätzlich aktuelle Texte als Web-App

Print
Abonnement

Wir schicken Ihnen zeitzeichen ins Haus

Ihre Meinung


Weitere Beiträge zu "Politik"