NGO kritisiert Amazons Mitarbeit an Killer-Robotern

Amazon fördert laut einer Studie mit seinen Technologien die Entwicklung von autonomen Waffen und gerät so ins Kreuzfeuer der Kritik.

Wer die „Terminator“-Filmreihe mit Arnold Schwarzenegger kennt, kann sich eine dunkle Zukunft vorstellen: Killer-Androiden, tödliche Drohnen und eine künstliche Intelligenz, die die Menschheit vernichten will. Wie nah oder weit wir wirklich davon entfernt sind, wollte die niederländische Nichtregierungsorganisation (NGO) Pax herausfinden. Für ihren Bericht „Don't be evil?“ untersuchte sie weltweit 50 IT-Firmen, ob deren Technologie hilft, autonome Waffen und Killer-Roboter zu entwickeln. Amazon steht dabei in vorderster Front, wie heise berichtet.

Pax hat die Tech-Firmen auf drei Kriterien abgeklopft:
 

1. Entwickelt das Unternehmen Technologien, die im Zusammenhang mit tödlichen autonomen Waffen relevant sein könnten?
   
   
2. Arbeitet das Unternehmen an relevanten militärischen Projekten?
   
   
3. Hat sich das Unternehmen verpflichtet, nicht zur Entwicklung tödlicher autonomer Waffen beizutragen?

Amazon wird als „sehr besorgniserregend“ eingestuft

Die NGO hat die Unternehmen bezüglich ihres Gefahrenpotenzials schließlich in drei Kategorien eingeteilt: Als vorbildlich im Sinne von „Best Practice“ sowie mittelmäßig oder sehr besorgniserregend. Das Ergebnis ist alarmierend: Von den 50 untersuchten Firmen fallen 21 in die letzte Kategorie – darunter auch Amazon. „Warum streiten Firmen wie Microsoft und Amazon nicht ab, dass sie derzeit diese höchst umstrittenen Waffen entwickeln, die entscheiden könnten, Menschen zu töten, ohne dass ein Mensch direkt beteiligt ist?“, fragt sich der Studienleiter Frank Slijper. „Viele Experten warnen davor, dass sie gegen grundlegende rechtliche und ethische Prinzipien verstoßen und eine destabilisierende Bedrohung für den internationalen Frieden und die internationale Sicherheit darstellen.“

Google zählt als Vorbild im Umgang mit KI

Amazon wollte sich unter anderem an dem US-Militärprojekt „JEDI“ (Joint Enterprise Defense Infrastructure) beteiligen, bei dem das Pentagon einen Cloud-Anbieter sucht und dafür zehn Milliarden US-Dollar bietet. Google hatte wegen ethischer Bedenken nicht an der Ausschreibung des JEDI-Projekts teilgenommen. Das Suchmaschinen-Unternehmen gehört somit zu den sieben Unternehmen, die für ihren Umgang mit Künstlicher Intelligenz (KI) in Bezug auf Waffensysteme von der NGO gelobt wurden.

Die NGO fordert IT-Unternehmen auf, eine klare Richtlinie zu erstellen und sich öffentlich zu verpflichten, die Mitarbeit an der Entwicklung tödlicher autonomer Waffen zu verweigern. „Technologieunternehmen müssen sich bewusst sein, dass ihre Technologie zur Entwicklung tödlicher autonomer Waffen beitragen könnte, wenn sie keine Maßnahmen ergreifen. Die Festlegung klarer, öffentlicher Richtlinien ist eine wesentliche Strategie, um dies zu verhindern“, sagt der Pax-Projektleiter Daan Kayser.

Die Pax-Studie  „Don't be evil?“ kann man hier einsehen.