Die Annahme ist bei Menschen anzutreffen, die für sich beanspruchen, “normal” oder nicht “interessant” oder “verdächtig” genug zu sein und deshalb glauben, weder ins Visier der Strafverfolgungsbehörden noch von Arbeitgebern oder Internet-Konzernen zu geraten.⁴ Häufig wird auch auf die scheinbar mangelnde Aussagekraft der eigenen Daten oder ihre Wertlosigkeit und Banalität verwiesen. In dieser Lesart erfüllt “normales” Verhalten eine Art Schutzfunktion, die Daten scheinbar unattraktiv mache. Sie ist bei Menschen anzutreffen, die bisher keine negativen Erfahrungen mit Vorhersage-Systemen gemacht haben.

Nach Jaron Lanier sind es häufig technikaffine Menschen, die sich unbeeinflusst von den großen Tech-Konzernen wähnen. Sie würden allen Ernstes behaupten, “gigantische Supercomputer, die irgendwo in absoluter Verborgenheit operieren, hätten keinen Einfluss auf ihr Leben.”⁵ Diese Behauptung widerspräche auch allen Erfahrungen und erscheine wenig überzeugend angesichts des immensen Reichtums einiger weniger Player.

Im Angesicht einer allgegenwärtigen, paranoiden Überwachungspraxis läuft die Frage, was einzelne Personen für normal halten, ins Leere. Entscheidend ist, wer festlegt, was als normales und abweichendes Verhalten zu gelten hat. Die Entscheidungen darüber diffundieren langsam in private Unternehmenszentralen und staatliche Sicherheitsbehörden und entziehen sich Aushandlungsprozessen. Dies belegen Beispiele aus dem Lern- und Berufsalltag.

Beispiel “Online-Proctoring”

Im Juni 2021 erhielt die Münchner Proctorio GmbH den BigBrotherAward 2021 in der Kategorie Bildung. Das Unternehmen hat eine vollautomatische und “KI”-gestützte Beaufsichtigung von Online-Prüfungen in der häuslichen Umgebung der Prüflinge auf den Markt gebracht. In seiner Laudatio kritisiert Prof. Dr. Peter Wedde “automatisierte Bewertungen des menschlichen Verhaltens […] [, weil die Unschuldsvermutung] durch Formen der ‘automatisierten Verdachtsbegründung'”¹⁵ aufgehoben und das beobachtete Verhalten der Prüflinge nur noch erfasst, aber nicht mehr verstanden werde. Die Software gleiche das Verhalten der Prüflinge mit Mustern ab, die andere Menschen als “normal” definiert und in der Software als “Normverhalten” hinterlegt haben und könne daraus negative Schlussfolgerungen ziehen. Wedde bezieht sich auf Berichte von Studierenden, wonach die Software häufige Kopfbewegungen, lautes Vorlesen der Fragen, umherschweifende Blicke, Gesten, laute Nebengeräusche, häufiges Scrollen, Weinen vor dem Bildschirm oder schnelle Mausbewegungen als “abweichend” und damit als verdächtig bewertet habe. Die Verdachtsstufe erhöhe sich automatisch, wenn Prüflinge Toilettenpausen einlegen oder sich in ihrem Verhalten vom Rest der Klasse unterscheiden.¹⁶

Das Beispiel zeigt, wie die Auswertung von Datenspuren menschliches Verhalten in ein eisernes Korsett zwingen kann und die Rechtfertigungslast den Individuen aufbürdet. Überdies nimmt diese Prüfungsmethode den Prüflingen ihre Autonomie und ist diskriminierend, weil aufgrund sozialer Ungleichheiten nicht alle Prüflinge die von der Software geforderten Voraussetzungen erfüllen können.

Beispiel KI-gesteuerte Kameras

Nach einem Bericht des Magazins “Vice”¹⁷ installiert Amazon seit Frühjahr 2021 KI-gesteuerte Kameras des KI-Tech-Startups Netradyne in die Fahrzeuge seiner Lieferflotte, die “Ereignisse” wie zu dichtes Auffahren, Verstöße gegen Stoppschilder oder abgelenktes Fahren aufzeichnet und den Fahrern Echtzeitwarnungen über ihr Fahrverhalten liefert. Die Kamera besteht aus vier Linsen, von denen eine ständig auf den Fahrer gerichtet ist, ihn ständig anpiepst und bei Fehlverhalten mit einer künstlichen Stimme anspricht. Im Gespräch mit Motherboard berichten die Fahrer, dass sie für “Ereignisse” bestraft werden, die entweder gar nicht stattgefunden haben wie etwa falsche Stoppschildverstöße, weil die Kamera Vorfahrtschilder für Stoppschilder hält, die sich ihrer Kontrolle entziehen, etwa wenn andere Verkehrsteilnehmer die Lieferwagen im dichten Verkehr schneiden oder vor ihnen abbremsen oder die ganz normales Fahrverhalten darstellen, etwa wenn sie in den Seitenspiegel oder über ihre Schulter schauen, Radiosender einstellen oder nach unten blicken. Die Kameras erfassen Vorfälle, die sie aufgrund der Komplexität des Verkehrs häufig nicht richtig einordnen und „verstehen“ können. Das hat Folgen für die Fahrerinnen und Fahrer und die von Amazon beauftragten Lieferfirmen, da es keinen Raum gibt, die Daten der Kamera zu hinterfragen oder fehlerhafte Verstöße bei Amazon anzufechten.

Jedes “Ereignis” wirkt sich auf den Score der Fahrerinnen und Fahrer aus, an den Boni, Prämien und Sonderzahlungen gekoppelt sind. Die Auswertung der “Ereignisse” fließen in einen Score ein, der das Verhalten in Kategorien von “fantastisch” über “gut” und “mittelmäßig” bis hin zu “mangelhaft” einordnet. Erreichen die Fahrerinnen und Fahrer in den wöchentlichen Auswertungen keine „fantastische“ Leistungsbewertung, verlieren die Amazon-Lieferdienstpartner die für das wirtschaftliche Überleben notwendigen Prämien. “Vice” verweist auf einen Bericht des AI Now Institute, demzufolge Firmen wie Amazon durch den Einsatz von KI die Machtasymmetrien zwischen Arbeitern und Arbeitgebern verstärken, ihre Gewinne steigern und Löhne senken.¹⁸ Das Online-Prekariat wächst. Nach Schätzungen der EU arbeiten rund 28 Millionen Menschen als Soloselbständige für Tech-Firmen wie Uber, Helpling oder Deliveroo ¹⁹ Bereits 2014 hat Jaron Lanier geschrieben, dass der Einsatz von hocheffizienten Technologien “einfache Leute immer mehr ihrer Chancen” beraube und “nicht in ein Zeitalter des Wohlstands führen” werde.²⁰

Die Frage, in welchen sensiblen Kontexten man Datenspuren überhaupt noch hinterlassen sollte, wird in naher Zukunft immer dringlicher werden. Mit der sog. E-Evidence-Verordnung plant die EU-Kommission eine Alternative zum Rechtshilfeverfahren und möchte Ermittlungsbehörden in EU-Mitgliedsstaaten in die Lage versetzen, in strafrechtlichen Verfahren schnell und unkompliziert auf Cloud-Daten, etwa Bestands- oder Inhaltsdaten in einem anderen EU-Land zugreifen zu können. Im Ergebnis könnte auf Anordnung eines Gerichts in einem EU-Mitgliedsstaat ein Provider in einem anderen Mitgliedsstaat dazu verpflichtet werden, personenbezogene Daten herauszugeben – und dies, ohne das die Betroffenen oder die zuständigen Justizbehörden darüber informiert werden und unabhängig davon, ob die verfolgte Tat in dem ersuchten Land überhaupt als Straftat gilt. Legales Verhalten in Deutschland wäre damit potentiell der Strafverfolgung durch ein anderes Land ausgesetzt. Das bedeutet, dass zum Beispiel Aktivistinnen, die sich von Deutschland aus für die Rechte von polnischen Frauen einsetzen, die einen Schwangerschaftsabbruch vornehmen wollen, mit Strafverfolgung seitens der polnischen Behörden rechnen müssen.

Die Behauptung “Ich habe doch nichts zu verbergen” ist im Grunde eine Verteidigung der Datensammelpraktiken der NSA oder des Alphabet-Konzerns und kann die Nähe zu einem Ausspruch Eric Schmidts nicht leugnen. Am 11. April 2009 erklärte Schmidt, seinerzeit CEO von Google, gegenüber dem US-Fernsehsender CNBC mit Blick auf die Datensammelpraktiken des Konzerns: “If you have something that you don’t want anyone to know, maybe you shouldn’t be doing it in the first place.”²¹ Mit der Unterstellung, das Privatheit nur für unanständige Menschen, die etwas auf dem Kerbholz haben, nützlich sei, deklassiert Schmidt ein Menschenrecht, nämlich das in Jahrhunderten erkämpfte Recht auf freie Entfaltung der Persönlichkeit. Darum kreist auch die Behauptung “Ich habe doch nichts zu verbergen”: weil man nichts Verdächtiges und Ungesetzliches im Schilde führe, habe man auch kein Problem damit, wenn die eigenen Daten frei im Netz flottieren. Der US-Sicherheitsexperte Bruce Schneier macht demgegenüber darauf aufmerksam, dass Privatheit uns vor Missbrauch durch die Machthaber schütze, selbst wenn wir uns zum Zeitpunkt der Überwachung keines Vergehens schuldig gemacht haben.²²