Vernetztes Utopia

Die Stadt der Zukunft im goldenen Zeitalter der Überwachung

https://privatsphaere-leipzig.org/
@privacy_leipzig

Vortragende: Rainer R. | Tobias R.
11. 3. 2017.

Vernetztes Utopia –

die Stadt der Zukunft im goldenen Zeitalter der Überwachung.

  • Einleitung (Rainer)
  • Riskantes Geschäftsmodell SmartCity (BigData) (Tobias)
  • SmartCity als utopisches, softes Regime (Tobias)
  • Technische Risiken (Tobias)
  • Forderungen und Notwendigkeiten (Rainer)
Das Bündnis Privatsphäre Leipzig e. V. ist eine überparteiliche Bürgerinitiative mit dem Ziel, Überwachung, Rechtsstaatlichkeit und Demokratie in einem breiten öffentlichen Diskurs zu thematisieren.

Wir treffen uns ab Mai jeden ersten, dritten und fünften Dienstag des Monats immer 19:00 Uhr (aktuell noch) im Sublab. (Öffentliches Plenum)

CryptoParty 1/2017

  • 11. Januar 2017 – Sicherer Surfen und Anonymisierung
  • 08. Februar 2017 – PGP und Passwörter
  • 08. März 2017 – Messenger & Chats
  • 12. April 2017 – Datei- und Festplattenverschlüsselung
  • 10. Mai 2017 – Alternative Soziale Netzwerke und Cloud-Systeme
  • 14. Juni 2017 – Privat mit Windows 10? Virtuelle Maschinen und Systeme (Security by Isolation)

Weitere Projekte (z. T. in Planung):

  1. regionale und überregionale Vernetzung
  2. Kooperationen und Konferenzen (z. B. CryptoCon zusammen mit dem Sublab)
  3. Aktionen
  4. Podcasts
  5. Vorträge (z. B. zu SmartCity)

smart city?

 

Begriffliche Leerstelle gefüllt mit Versprechungen und Hoffnungen die auf den umfassenden und großflächigen Einsatz digitaler Technologien zur Datenerfassung und -Verarbeitung setzen.

smart city?

Beispiele:

  • Songdo (Süd-Korea), Lehrbuch (www.songdo.com) – Reduzierung des Energieverbrauches, Erhöhung der Energieeffizienz, Verwendung von Recycling-Material und natürlichen Materialien, Generierung von sauberer, erneuerbarer Elektrizität
    aber auch: Rundum-Videoüberwachung und in jeder Wohnung „Telepräsenzsysteme“
  • Wien (Österreich) – Systeme zum Teilen von Fahrrädern und Autos werden weiterentwickelt
  • Rio de Janeiro (Brasilien) – Bündelung von Datenströmen aus 30 Behörden in einem zentralen polizeilichen Kontrollzentrum, errichtet von IBM

smart city

Was ist das?

  • Widersprüchliche Definitionen und unklare Vorhaben
  • 2005 taucht der Begriff als Konzept auf
  • Treiber war Cisco (Netzwerkausrüster) für die Clinton-Regierung

smart city

Kernpunkte

  • Grundlage
    • Informations- und Kommunikationstechnologien
  • Ziele
    • Widerstandsfähigkeit und Nachhaltigkeit
    • Innovation und Business
    • Effizienzsteigerung

smart city

„Mitspieler“ (Stakeholder)

  • Die Verwaltung
  • Die Unternehmen
  • Die Menschen/die Bewohner

smart city

Technische Grundlagen

  • IoT (Internet of Things)
  • Sensoren im urbanen Raum
  • ubiquitos computing (allgegenwärtige Datenverarbeitung)
  • Smart Home
  • Big Data (Datenanalyse und -Modellierung, Entscheidungen)

SmartCity als Geschäftsmodell

»The work of surveillance, it appears, is not to erode privacy rights but rather to redistribute them. Instead of many people having some privacy rights, these rights have been concentrated within the surveillance regime. Surveillance capitalists have extensive privacy rights and therefore many opportunities for secret.« (Zuboff 2015: 83, Hervorhebung von uns)

Überwachungskapitalismus

Big Data (I)

  • ›Big Data‹ ist keine Technologie, kein Effekt von Technologie (Zuboff)
  • ›Big Data‹ ist auch keine autonomer Prozess (Eric Schmidt)
  • Big Data entsteht im Sozialen (soziales Produkt): Technologie und soziales Handeln

Überwachungskapitalismus

Big Data (II)

  • Überwachungskapitalismus beschreibt eine neue Akkumulationslogik
  • Form des Informationskapitalismus
  • Ziele
    • Marktkontrolle
    • Vorhersage und Veränderung menschlichen Verhaltens

Überwachungskapitalismus

Konsequenzen von Big Data nach Constantiou/Kallinikous (2014)

  • Kommerzialisierung der Bewegungen des täglichen Lebens (everydayness)
  • Indifferenz: Verwischung sozialer und institutioneller Differenzierung (vgl. Digitalisierung)

Automate/Informate

Kritik

  • Wer kann daran teilhaben und wie?
  • Wer entscheidet über die Möglichkeit der Teilhabe?
  • Welche Konsequenzen hat das Scheitern von Autorität? (→ BigBrother)

Zuboff Laws

  • Everything that can be automated will be automated.
  • Everything that can be informated will be informated.
  • Every digital application that can be used for surveillance and control will be used for surveillance and control.

Data exhaust

Was Big Data konstituiert

»Big data 'are constituted by capturing small data from individuals' computer-mediated actions and utterances in their pursuit of effective life. Nothing is too trivial or ephemeral for this harvesting …« (Zuboff 2015: 79, Hervorhebung von uns)

Der Aufstieg des Big Other

Charakteristika

  • allgegenwärtiges, vernetztes, institutionelles Regime
  • protokolliert, verändert und überführt den Alltag in einen Kommerzialisierungsprozess
  • Quelle sind alle Daten welche die ›Alltagswelt‹ symbolisieren sollen (Everydayness)
  • eignet sich Rechte an

Der Aufstieg des Big Other

Kontrollgesellschaft II

  • Rekonfiguration der Macht, die durch ›Big Brother‹ symbolisiert wurde
  • Macht kann nicht mehr durch ein zentrales, totalitäres Symbol dargestellt werden
  • keine zentrale priviligierte Position: Panoptikum als Metapher ungenügend

Der Aufstieg des Big Other

Kontrollgesellschaft III

»Unlike the centralized power of mass society, there is no escape of Big Other. There is no place to be where the Other is not.« (Zuboff 2015: 82, Hervorhebung von uns)

Der Aufstieg des Big other

Kontrollgesellschaft IV

»False consciousness is no longer produced by the hidden facts of class and their relation to production, but rather by the hidden facts of commoditized behavior modification. If power was once identified with the ownership of the means of production, it is now identified with ownership of the means of behavioral modification.« (Zuboff 2015: 82, Hervorhebung von uns)

Der Aufstieg des Big other

Privatsphäre I

  • Varian: ›Invasion of privacy‹ für Nutzen durch Dienste zur Produktivitätssteigerung in Kauf genommen.
  • Gängige Erklärung (Narrativ): Erodierung des Rechts auf Privatheit
  • Annahme: Umverteilung anstelle von Erodierung auf Privatheit

Der Aufstieg des Big other

Überwachungskapitalismus und Privatsphäre

  • Zusammenhang des Rechts auf Privatheit mit Rechten zur freien Wahl bzw. Entscheidung (Autonomie)
  • Rechte auf Privatheit wurde ›umverteilt‹
  • Umverteilung führt zu Konzentration des Rechts auf Privatsphäre
  • »Surveillance capitalists have extensive privacy rights and therefore many opportunities for secrets.« (Zuboff 2015 :83)
  • »In result, privacy rights, once accumulated and asserted, can then be invoked as legitimation for maintaining the obscurity of surveillance operations.« (Zuboff 2015: 83, Hervorhebung von uns)

Überwachungskapitalismus

Aufstieg der 4. fiktionalen Ware?

  • Karl Polanyis »[T]he commodity fiction«
  • Das menschliche Leben kann dem Markt untergeordnet werden und als Ware ›Arbeit‹ wieder geboren werden.
  • Die Natur kann dem Markt untergeordnet werden und als Ware ›Grundbesitz‹ wiedergeboren werden.
  • Tausch von Gütern kann dem Markt untergeordnet werden und als Ware ›Geld‹ wiedergeboren werden.
  • Neu?: Realität kann dem Markt untergeordnet werden und wird als Ware ›Verhalten‹ wiedergeboren.

Fazit

»Surveillance capitalism thus qualifies as a new logic of accumulation with a new politics and social relations that replaces contracts, the rule of law, and social trust with the sovereignty of Big Other. It imposes a privately administered compliance regime of rewards and punishments that is sustained by a unilateral redistribution of rights. Big Other exists in the absence of legitimate authority and is largely free from detection or sanction.« (Zuboff 2015: 83, Hervorhebung von uns)

Softes Regime

Machtasymmetrie und Überwachung

BigBrother vs BigOther

  • Disziplinargesellschaft (Foucault) → Panoptismus (vom griech. panoptes „das alles Sehende“)
  • Metapher des Panoptikums (Foucalt, Bentham)
  • Surveillance Studies und Forschung zur Postmoderne: Panoptikum reiche als Metapher nicht mehr aus → Postpanoptikum?

Panoptikum

Big Other?

Synoptikum (Baumann, Mathiesen, Lyon)

  • Postmoderne als flüssige Moderne → panoptische Effekte
  • vollständige Internalisierung (Verinnerlichung) von Disziplin
  • Selbstdisziplinierung (Beispiel: Quantified Self)
  • ›Do-it-yourself panopticum‹ (Baumann)
  • Echokammern, Filterbubble, Quantified Self: Nuzter*innen indoktrinieren sich selbst
  • vernetzte Sensorik einer SmartCity: automatisch-autonomes, hochintegrietes, Panoptikum (auto-panopticum)
  • Tendenz des Totalen: (möglichst) lückenlose Beobachtung der der Bewegungen des täglichen Lebens (Everydayness)

Synoptikum

Big Other?

Banoptikum

  • Bildung von sozialen Strukturen (Gruppen, Hierarchien, Eliten) mittels datengetriebener Analyse
  • erste Studien zeigen, dass beim maschinellen Lernen in den Daten enthaltende Diskriminierung von den darauf operierten Systemen erlernt wird
  • Distinktionsleistungen versus soziale Sortierung (social sort Lyon; panoptic sort, Gandy)
  • Machtasymmetrie: algorithmische Basis sozialer Sortierung meist als Geschäftsgeheimnis tituliert (secrecy im Sinne des Überwachungskapitalismus)
  • Quantität versus Qualität

Big Other?

Banoptikum

  • Normalisierung: Risiko der Reduktion auf Zweckrationalität (wertrationale Entscheidungen werden von der Sortierungsmaschine nicht berücksichtigt)
  • Verhaltensökonomie und Nudding (libertärer Paternalismus) vs Machtasymmetrie durch algorithmische Basis
  • Tendenz des Totalen: Vollständige Einbettung der Bewegungen des täglichen Lebens in ökonomische Verwertungslogiken (Everydayness)

Ban|Synoptikum und Individuum

Modus des In-der-Welt-sein als Setting (Ontologie)

  • In-der-Welt-sein: Befindlichkeit, Verstehen, Rede (→ Heidegger (!))
  • Baumann: Puplicity? (Spannungsfeld privat-öffentlich)
  • Softes Regime: Quantified Self → Chancen/Momente der Selbstdisziplinierung steigen; Einbettung in immer vollständigere Effizenz- und Verwertungslogiken (Everydayness)

Ban|Synoptikum und Individuum

Herausforderungen für den Modus des In-der-Welt-sein am Beispiel

  • Verstehen/Bedeutung: Wertrationalität vs Zweckrationalität → Diskurs, Gesellschaft als ›Schickalsgemeinschaft‹ (Menschheit gestaltet die Zukunft selbst)
  • Sagbarkeit/Rede: Cilling effects?
  • Echokammern vs Diskurs/Kontinuität/Stabilität: Hoaxes, Hysteria, Hatespeech/-crime

Ban-|Synoptikum und Individuum

Negative Utopien

  • datengetriebene Gesellschaft: Social Credit System (China)
  • kypernetische Gesellschaft: vollständig vernetze, integrierte (soziale/kulturelle) Welt erweitert um autonome Systeme (AI)

SmartCities und das utopische Element

Verräumlichung des Sozialen

  • urbane Räume als ›Experimentierfeld‹ → Metapher des Labors (*lab)
  • Zuboff beschreibt Soziale Experimente als Kennzeichen des Überwachungskapitalismus → Wie wird Innovation im Kontext einer SmartCity kontextualisiert?

SmartCities und das utopische Element

Verräumlichung des Sozialen

  • SmartCity als Nicht-Ort → Utopie
  • Problem der Sagbarkeit (→ Diskursfähigkeit): Smartcity in Europa vermutlich noch keine Heterotopie im Sinne eines Kompensationsraums (Foucault)
»Gegenplatzierungen oder Widerlager, tatsächlich realisierte Utopien, in denen die wirklichen Plätze innerhalb der Kultur gleichzeitig repräsentiert, bestritten und gewendet sind, gewissermaßen Orte außerhalb aller Orte, wiewohl sie tatsächlich geortet werden können« (Foucault: 1967, Hervorhebung von uns)

Share Economy

Neue soziale Ungleichheit?

  • Spannungsfeld: umweltfreundliche, effizientere Nutzung von Ressourcen (Eindämmung von Verschwendung) vs Kommerzialisierung von Allmende/öffentlicher Güter
  • Risiko: zunehmende Schaffung prekärer Beschäftigungsverhältnisse → Risiko: Bildung eines Prekariat queer durch alle Milieus
  • unentgeltliche Mikroarbeit (z. B. statistische Erfassung, Content-Generierung für Soziale Netzwerke)
  • Problem: umfassende Debatte um Bedeutung von Arbeit (Erwerbsbiografien) in einer möglichen künftigen kybernetischen Gesellschaft wird aktuell noch vermieden

Technische Risiken vs SmartCity

Vernetzung, Verwundbarkeit und Resilienz (systemtheoretische Perspektive, Luhmann)

  • Systemtheorie: lose und enge Kopplung (→ Vernetzungsgrad)
  • enge Kopplung erhöht Abhänigkeiten (Autonomieverluste)
  • enge Kopplung begünstigt Ausfälle
  • enge Kopplung erhöht die Wahrscheinlichkeit von Angriffen (Hacking)
  • enge Kopplung erhöht die Attraktivität für Angriffe

Technische Risiken vs SmartCity

SHODAN

Technische Risiken vs SmartCity

Vernetzung, Verwundbarkeit und Resilienz (systemtheoretische Perspektive)

  • bisher Normsetzung beim Einsatz von autonomen Systemen (AI) aus privatwirtschaftlicher Perspektive → gesellschaftliche Debatte/Diskurse notwendig
  • selbstverstärkende Effekte (Katz-und-Maus-Spiel bei der Absicherung der Systeme)
  • Security by Design und Resilienz häufig (noch) kein Thema vor und während der Implementierung

Kontrolle behalten

Vorschläge bei der Umsetzung


  • Datensparsamkeit und -sicherheit von Anfang an:
    • privacy by design
    • security by design
    • zero-knowledge by design
    • Auskunfts- und Widerspruchsrechte
  • Gesellschaftliche Diskussion

Kontrolle behalten

privacy by design


  • Privacy by Design fordert Datensicherheit und Datenschutz bei der Erhebung, Verarbeitung und Auswertung von Daten proaktiv zu berücksichtigen.
  • Sowohl die Geschäftsprozesse, denen die Daten unterworfen sind, als auch die beteiligten IT-Systeme und Anwendungen bis zum technischen Design der Infrastruktur sind dabei in der Planung, Umsetzung und im Betrieb einzubeziehen.

Kontrolle behalten

secutity by design


  • Beschreibt einen Designansatz bei der Entwicklung von Hard- und Software, aber auch Infrastrukturen bei dem Verletzbarkeit und Angreifbarkeit auf ein Minimum reduziert werden sollen.
  • Sicherheit wird dabei als vorgelagerter Aspekt für jede Entscheidung berücksichtigt und durch fortlaufende Tests, Verwendung von beispielhaften Praxislösungen und laufende Audits erreicht.

Kontrolle behalten

zero-knowledge by design


  • Beschreibt einen Ansatz der Verarbeitung von Daten bei dem der Verarbeiter keine Kenntnis darüber hat und erlangen kann wessen Daten er verarbeitet
  • Zero-Knowlege-Ansätze sollen für Erfassung und Verarbeitung von Daten bevorzugt werden, um Profilbildung aus Daten des täglichen Lebens der Bürger_innen vorzubeugen.

Kontrolle behalten

Auskunfts- und Widerspruchsrechte (1)


  • Welche personenbezogenen und anderen Daten werden erfasst und wie werden sie verarbeitet (Korrelation, Inbezugsetzung, usw.)?
  • Wie häufig werden personenbezogene, personenbeziehbare und andere Daten erfasst?
  • Wie werden die personenbezogenen Daten anonymisiert oder pseudonymisiert?

Kontrolle behalten

Auskunfts- und Widerspruchsrechte (2)


  • Welche Metadaten von welchen Systemen werden erfasst und wie wird verhindert, dass diese persönlichen Daten zugeordnet oder mit ihnen korreliert werden?
  • Welche Daten fallen bei Maschine-zu-Maschine-Kommunikation an wie wird verhindert, dass diese persönlichen Daten zugeordnet oder mit ihnen korreliert werden?
  • Wie wurden/werden die Daten verschlüsselt bei der Übertragung und bei der Speicherung (eingesetzte Verfahren/Protokolle)

Kontrolle behalten

Auskunfts- und Widerspruchsrechte (3)


  • Wo werden Ergebnisse algorithmischer Bewertungen Grundlage für Entscheidungen und wie werden diese validiert
  • Wie wird Diskriminierung beim Einsatz von BigData-Systemen verhindert und Gleichbehandlung gewährleistet

Kontrolle behalten

Erste Ideen für Aktivitäten (gesellschaftlich)


  • Entwicklung einer Datennutzungskonvention
    • Diskussion über ein "Recht auf nicht vermessen werden"
  • Bildungsinitiative (Schulen/Universitäten)

Fragen?

Diskussion!

Vielen Dank!