Schattenblick → INFOPOOL → POLITIK → KOMMENTAR


REPRESSION/1600: Hightech - der große Bruder erwacht ... (SB)



Unsere Lebensqualität wäre heute viel niedriger, wenn wir neue Technologie verbieten würden, weil einige Leute sie missbrauchen könnten
Amazon Web Services [1]

Amazon-Chef Jeff Bezos ist der reichste Mann der Welt, doch anders als der alte Geizkragen und Misanthrop Dagobert Duck ein Wohltäter der Menschheit. Der Internethändler aus Seattle erklärt eine kundenzentrierte Unternehmensphilosophie zu seinem Markenzeichen, verwahrt sich gegen heimliche Überwachung seitens der Regierung, hält die Bürgerrechte hoch, spendet für eine Kampagne zur Öffnung der Ehe für gleichgeschlechtliche Paare in Washington und erhebt seine Stimme gegen die Diskriminierung von Muslimen durch die Trump-Administration. Stets auf der Suche nach technologischer Innovation, die uns das Leben leichter und angenehmer macht, ist Amazon viel mehr als nur das bekannte Handelsunternehmen, investiert es doch seit langem in Software für maschinelles Lernen und bietet eigene Dienste dafür an. So ist die Tochterfirma Web Services mit Abstand Marktführer für sogenannte Cloud-Speicherlösungen und verwahrt auch Daten von Unternehmen wie Netflix oder Siemens, der NASA und des CIA auf ihren riesigen Servern. Wie diese unvollständige Aufzählung zeigt, kann von Berührungsängsten selbst mit dem Geheimdienst keine Rede sein.

Anfang 2016 zog Amazon in der Konkurrenz mit Microsofts Project Oxford, Googles Cloud Vision und IBMs Watson-API nach und übernahm mit dem Startup Orbeus den Entwickler einer Software zur Bildanalyse. [2] Amazons Tochterfirma bietet den Dienst Rekognition an, dessen Möglichkeiten beeindruckend sind: Gesichtserkennung in Echtzeit über mehrere zehn Millionen Gesichter, sowohl mit Fotos als auch mit Videostreams, selbst in großen Menschenansammlungen soll die Amazon-Cloud hundert Personen auf einmal erkennen können. Auch Objekte, wie etwa Fahrzeuge, kann Rekognition auf Bildern wiedererkennen. [3]

Weil sich angesichts dieses Potentials der einschlägige Kundenkreis geradezu aufdrängt, hält der Internetkonzern im Werben für seine Gesichtserkennung den Ball tunlichst flach. Freizeitparks nutzten sie, wenn Eltern ihre Kinder verloren haben und sie aufspüren wollen. Auch diverse Medienhäuser wie die New York Times verwenden Rekognition, um beispielsweise bei Großveranstaltungen wie der britischen Adelshochzeit die Prominenten in den Zuschauerrängen schneller zu identifizieren. Das klingt hilfreich bis amüsant, und da laut Bezos die Kunden Götter sind, denen er alle Wünsche erfüllen wolle, sind kreativen Ideen vielfältiger Anwendung keine Grenzen gesetzt.

Zur Rolle der künstlichen Intelligenz als Hilfsmittel für die Polizei äußert sich Amazon eher ungern und wenn doch, dann im Sinne eines unabweislichen Dienstes am Schutz der Bürgerinnen und Bürger. So hat der Konzern die "zeitnahe und präzise Verbrechensprävention" als einen Vorteil von Rekognition angepriesen und eingeräumt, daß die Software bereits in mindestens einem Polizeibüro getestet wurde. Dabei sei die Zeitspanne bei der Identifizierung Verdächtiger von mehreren Tagen auf ein paar Minuten gesenkt worden. Als Vorzeigekunde dient Orlando, eine regelrechte Smart City mit Kameras überall in der Stadt. "Die autorisierten Kameras streamen [an Amazon]. Wir analysieren die Daten in Echtzeit", freut sich Ranju Das, der bei Amazon die Sparte Rekognition leitet. Komplementiert wird die Jagd nach Delinquenten oder Verdächtigen durch den Abgleich mit vorhandenen und laufend ergänzten Bildersammlungen der Behörden. Auf diese Weise wächst der Datenpool unablässig an, während die Erkennungsfähigkeiten dank maschinellem Lernen mit der Zeit immer besser werden sollen. [4]

Dabei wird weitgehend geheimgehalten, wie und wo die Behörden Rekognition konkret einsetzen, wobei eine gegenüber Amazon eingegangene Schweigeverpflichtung vorgehalten wird. So machen Konzern und Polizei untereinander aus, was die Öffentlichkeit nichts angeht und vor kontraproduktiven Kontrollansprüchen geschützt werden soll. Die zunächst vom Anbieter gegebene Empfehlung, die Bilder von Körperkameras der Polizei einzubinden, ist in Reaktion auf kritische Einwände von der öffentlich einsehbaren Rekognition-Website verschwunden. Bezeichnenderweise gehört aber zu den ersten bekannten Kunden auch Motorola Solutions, ein Anbieter von Bodycams.

Wie viele weitere Polizeistationen in den USA Rekognition verwenden, ist nicht bekannt. Von Bürgerrechtsorganisationen publik gemacht wurde indessen, daß Arizona Interesse bekundet hat und Rekognition auch im Sheriffbüro von Washington County in Oregon eingesetzt wird. Dort wurde innerhalb weniger Monate eine Datenbank mit über 300.000 Fotos von Festnahmen angelegt, die für den Abgleich mit dem System zur Verfügung steht. Zudem gibt es eine Smartphone-App, mit der die Polizisten unterwegs Personen abgleichen können. Wie nicht anders zu erwarten versicherte die Polizeibehörde auf eine Anfrage der Washington Post treuherzig, daß der Einsatz dieser Technologie weder einer Massenüberwachung noch ungezielter Überwachung diene. Vielmehr könne der Sheriff etwa nach einem Überfall in einem Laden Verdächtige auf Überwachungsbildern blitzschnell mit einer Datenbank von Verhafteten aus dem Bezirksgefängnis vergleichen. Und wie aus Verträgen zwischen Amazon und den Polizeirevieren hervorgeht, die durch eine öffentliche Anfrage zugänglich gemacht wurden, kostet das den Steuerzahler nur einen Pappenstiel: Der Download der Datenbank mit den 300.000 Bildern einmalig 400 Dollar, ansonsten bezahlt der Sheriff im Monat nur sechs Dollar für den Dienst.

Wie US-Bürgerrechtsorganisationen warnen, droht dieses Programm einem Überwachungsstaat Vorschub zu leisten. Die ACLU (American Civil Liberties Union) erhebt den Vorwurf, Amazon sei offiziell ins Überwachungsgeschäft eingestiegen. Mit Rekognition biete der Konzern eine "mächtige und gefährliche" Gesichtserkennung an, die bestimmte Personen wie illegale Einwanderer oder Aktivisten in Gruppenfotos, bei Events oder auf Flughäfen aufspüre. Dies sei ein klarer Verstoß gegen Grundrechte wie den Schutz der Privatsphäre oder das Versammlungsrecht. In einem offenen Brief an Jeff Bezos, den mehr als 30 Organisationen unterzeichnet haben, ist von einer "Gebrauchsanweisung für autoritäre Überwachung" die Rede. Rekognition sei regelrecht auf den "Mißbrauch durch die Regierung angelegt". Werde ein gefährliches Überwachungssystem wie dieses erst einmal gegen die Öffentlichkeit gerichtet, könne der Schaden nicht ungeschehen gemacht werden. Entgegen allen Behauptungen Amazons sei Gesichtserkennung keine neutrale Technologie. Sie automatisiere die massenhafte Überwachung und bedrohe die Freiheit der Menschen, sich unbeobachtet von der Regierung in der Öffentlichkeit zu bewegen. [5] Zwar ist Amazon längst nicht die einzige Firma, die solche Software an die Polizei verkauft. Der Konzern sei aber besonders gefährlich, weil er wegen seiner Größe und Macht die Technik billiger anbieten und so schnell zum Standard machen könne.

Die künstliche Intelligenz "erkennt alle unangemessenen Inhalte", wirbt Amazon. Sie identifiziert "Objekte, Personen, Texte, Szenen und Aktivitäten", besonders gut kann sie Gesichter von Menschen finden. Und Amazon will als Kunden neben den Polizeibehörden auch private Arbeitgeber gewinnen, die alle Mitarbeiter auf dem Werksgelände in Echtzeit überwachen wollen. Warum sollte es auch Beschäftigten anderer Unternehmen besser ergehen als den auf Schritt und Tritt vollüberwachten Belegschaften in den Vertriebszentren von Amazon! Einer Schätzung des Zentrums für Privatsphäre und Technologie der Universität Georgetown zufolge hatte Gesichtserkennungs-Software schon 2016 Zugang zu Bildern von 117 Millionen Menschen, also von jedem zweiten amerikanischen Erwachsenen. Über die Register von Straftätern hinaus nutzt etwa das Heimatschutzministerium solche Programme, um Menschen aufzuspüren, die nach Ablauf ihrer Visa das Land nicht verlassen. Das FBI und viele lokale Polizeiverwaltungen speisen Führerschein- und Ausweisfotos in solche Systeme ein. Gesetze zum Schutz der Bilddaten fehlen weitgehend.

Davon profitiert Amazon nicht nur als unternehmerischer Nutznießer, vielmehr treibt der Konzern den massiven Ausbau der Überwachung voran. Auf die Kritik der Bürgerrechtsorganisationen angesprochen, bestätigte die Pressestelle von Amazon Web Services lediglich, daß das Unternehmen ein Programm anbiete, das dabei hilft, Gesichter und Dinge in Menschenmassen zu identifizieren. Man fordere Kunden immer auf, sich an das Gesetz zu halten. Im übrigen wäre unsere Lebensqualität heute viel niedriger, wenn wir neue Technologie verbieten würden, nur weil einige Leute sie mißbrauchen könnten. An dieser Stelle drängt sich die Frage auf, was an einer solchen Gesichtserkennung kein Mißbrauch sein soll, so daß sich die Unterscheidung vom Gebrauch samt der Unschuldsvermutung bezüglich der Entwickler, Produzenten, Anbieter und Kunden, sie wüßten nicht, was sie tun, getrost entsorgen ließe.

Fragte man Jeff Bezos in einem fiktiven Dialog, was er von der Sache hält, könnte man ihn antworten lassen: Ich bin der reichste Mann der Welt, während 10 Prozent der Amazon-Arbeiter in Ohio Anspruch auf staatliche Lebensmittelmarken für Menschen unterhalb der Armutsgrenze haben. Rekognition ist mein bescheidener Beitrag zur Vorsorge, daß sich an diesen Verhältnissen auch künftig nichts Wesentliches ändert.


Fußnoten:

[1] www.sueddeutsche.de/digital/gesichtserkennung-fuer-die-polizei-wie-amazon-den-ueberwachungsstaat-foerdert-1.3990589

[2] www.heise.de/developer/meldung/Amazon-hat-offensichtlich-Spezialisten-fuer-maschinelles-Lernen-eingekauft-3163862.html

[3] www.tagesschau.de/ausland/amazon-gesichtserkennung-rekognition-101.html

[4] www.heise.de/newsticker/meldung/Amazon-ermoeglicht-Live-Gesichtserkennung-fuer-ganze-Staedte-4055143.html

[5] action.aclu.org/petition/amazon-stop-selling-surveillance

25. Mai 2018


Zur Tagesausgabe / Zum Seitenanfang