Zusammenfassung von Speichern und Strafen

Menschen, die zu Unrecht auf einer No-Fly-Liste landen, ergeht es wie der Figur K. in Franz Kafkas Roman Der Process. K. wird eines Morgens plötzlich festgenommen, ohne den Grund seiner Verhaftung zu erfahren. Sosehr er sich auch bemüht, er findet niemanden, der ihm sein Vergehen nennen könnte. Widersprechen kann er aber auch nicht: Seine Schuld ist sicher, denn das System kann schließlich nicht falsch liegen.

Für No-Fly-Listen gilt das Gleiche: Wen der Algorithmus erst einmal aussortiert hat, der ist in der algorithmischen Kontrollgesellschaft verloren. Unschuldig in die Fänge des Gesetzes kommt man jedoch nicht nur, indem man den falschen Namen hat und zum falschen Zeitpunkt am falschen Ort geortet wurde, sondern möglicherweise auch dadurch, dass man nach den falschen Dingen googelt. 

No-Fly-Listen und Überwachung der Suchverläufe sind nur eine Vorstufe der algorithmischen Kontrollgesellschaft. In dieser regiert der Programmcode. 

Heute ist es für einen Kleinkriminellen noch möglich, ein Auto aufzubrechen, einzelne Teile wie beispielsweise das Autoradio zu klauen und anschließend auf dem Schwarzmarkt zu verkaufen. Wären Autoradios jedoch zukünftig mit einem Sicherheitscode programmiert, der sie an ein bestimmtes Fahrzeug bindet, würden sie nach dem Diebstahl unbrauchbar. 

Normalität – dieser Begriff kann je nach Perspektive ganz Unterschiedliches bedeuten. Und er ändert sich mit der Zeit und dem gesellschaftlichen Kontext. Früher war es normal, Fleisch zu essen, wenn es welches gab. Heute entscheiden sich viele Menschen für den vegetarischen oder veganen Weg. 

Doch was, wenn eine KI plötzlich darüber entscheidet, was normal ist? Als der Neuseeländer Richard Lee im Jahr 2016 einen Reisepass beantragte, scheiterte er an seinem „unnormalen“ Gesicht. Die Software, die eigentlich bei der Erstellung des Passes helfen sollte, brach den Vorgang ab, da Lees Augen auf dem Foto angeblich geschlossen waren. Das stimmte jedoch nicht. Die Augen des gebürtigen Taiwanesen stehen nur näher zusammen und sind schmaler als der Durchschnitt. 

Nicht nur unser Verhalten wird in der algorithmischen Kontrollgesellschaft ständig vermessen. Auch unsere Körperfunktionen unterliegen mehr und mehr dauerhafter Kontrolle, viele von uns vermessen ihren Körper inzwischen mit großer Lust und teilen anschließend die Gesundheitsdaten. Doch dieses Verhalten könnte in Zukunft ernsthafte Konsequenzen haben.

In den USA gibt es seit November 2017 smarte Pillen. Diese schlauen Helfer sollen Ärzten mitteilen, ob der Patient auch regelmäßig seine Medikamente einnimmt. Die smarte Pille enthält einen sandkorngroßen Sensor, der in der Magensäure landet und von dort aus mit einem Patch kommuniziert. Sobald der Sensor mit der Magensäure in Berührung kommt, sendet er einen elektrischen Impuls an den Patch, der dann wiederum per Bluetooth Daten an eine App sendet. „Der Patient hat sein Antidepressivum um 8:15 Uhr eingenommen.“

In den bisherigen Blinks haben wir uns vor allem darauf konzentriert, welche Macht Konzerne und Staaten mithilfe von persönlichen Daten über uns als Einzelpersonen erlangen können. Während wir smarte Pillen und uns geißelnde Armbänder noch selbst auswählen können, haben wir in anderer Hinsicht längst keine Wahl mehr.

Dem Medientheoretiker Matteo Pasquinelli zufolge wird es zukünftig weniger darum gehen, den einzelnen Menschen anhand seiner Daten zu kontrollieren. Das große Ziel wird sein, mithilfe sogenannter Metadaten die gesamte Gesellschaft zu überwachen. 

Für Kriminalisten ist unsere Freiheit kein besonders hohes Gut. Ihnen geht es darum, Verbrechen zu verhindern – selbst wenn das bedeutet, erst einmal alle Menschen unter Generalverdacht zu stellen. Doch unsere Freiheit ist auch in anderer Hinsicht in Gefahr. Aufgrund des exzessiven Datensammelns und der andauernden Vorausberechnung unseres Verhaltens werden wir nämlich mehr und mehr auf eine Identität festgelegt. 

So könntest du in Zukunft beispielsweise daran gehindert werden, bestimmte Orte zu besuchen – und das ganz ohne Absperrband. Der Trick dabei ist, dass du sie auf Google Maps nicht mehr finden kannst. Wenn eine KI beispielsweise aufgrund deines bisherigen Verhaltens davon ausgeht, dass du kein Fast Food magst oder dich nicht für Bücher interessierst, könnte sie auf die Idee kommen, dir Bibliotheken oder die Filialen von Burgerketten erst gar nicht mehr auf der Karte anzuzeigen. Urbane Filterblasen wären die logische Konsequenz. In gewissen Stadtteilen hielten sich dann nur bestimmte Menschen mit bestimmten Interessen auf, die einem bestimmten Milieu angehörten. 

Die Kernaussage dieser Blinks ist:

Big Data ist mit dem Aufkommen zahlloser technischer Gadgets die Geburtsstunde immer ausgeklügelterer Überwachungstechnologien, mit denen sich Menschen zuerst berechnen und anschließend beherrschen lassen. Die andauernde Berechnung unseres Verhaltens gefährdet jedoch unsere individuelle Freiheit, weil wir in einer vorprogrammierten Welt mehr und mehr an Wahlfreiheit einbüßen. Und wenn wir keine Verbrechen mehr begehen, sondern nur nach ihnen googeln müssen, um ins Gefängnis zu kommen, sind wir nicht mehr weit entfernt von einer algorithmischen Kontrollgesellschaft.