von Tobias Knobloch
zuerst erschienen auf: medium.com (in zwei Teilen)

Der Horizont von digitalen Daten ist ewig, und auch ohne unmittelbare Verwendung haben sie potentiellen Wert. Dies ist der erste Teil eines Beitrags über die Bedeutung von und unseren Umgang mit Daten. Ausgangspunkt ist ein Fall, in dem Amazon willkürlich mit Kundendaten umgegangen ist und Löschforderungen konsequent ignoriert hat.

Auf dem diesjährigen Business Ethics Summit hatte ich die Freude, die Präsentation und Diskussion eines denkwürdigen Falles von Datenpolitik eines großen Unternehmens zu moderieren. Der Fall ist dieser: Ein langjähriger deutscher Kunde von Amazon forderte zwischen 2013 und 2015 immer wieder die Löschung einzelner, inzwischen veralteter Daten (z.B. Wunschlisteneinträge sowie Informationen abgelaufener Kreditkarten und alter Wohnsitze) aus seiner Kundenhistorie. Das zur Zeit sechstwertvollste Unternehmen der Welt, das längst nicht mehr nur ein Online-Handelshaus ist, begegnete ihm mit beispielloser Rigorosität und Arroganz und verweigerte über einen langen Zeitraum und durch etliche Instanzen jede Bewegung in Richtung Kundenforderung, bis dieser Kunde sein Amazon-Konto schließlich ganz löschte.

Prof. Dr. Harald Bolsinger stellt auf dem Business Ethics Summit 2017 in Darmstadt seinen mit Amazon über Jahre ausgefochtenen Rechtsstreit vor. Die Dokumentation dieser Auseinenadersetzung findet sich unter http://www.datenschutz.wirtschaftsethik.biz

 

Man kennt diese Umgangsformen, das rigorose Ausspielen von Marktmacht, auch von Amazons Verhalten gegenüber Handelspartnern, wie der Fall Hachette zeigt: Im Frühjahr 2014 hatte Amazon kurzerhand bei allen Titeln der Verlagsgruppe die Bestellbuttons von der Amazon-Webshopseite entfernt, nachdem die Verleger sich geweigert hatten, eine höhere Verkaufserlösprovision an Amazon zu zahlen.

Dennoch reibt man sich beim Fall Bolsinger vs. Amazon erst einmal verwundert die Augen angesichts des Ausmaßes an fehlender Kundenorientierung (oder sollte man eher von Kundenverhöhnung sprechen?). Nach einem mehrjährigen Streit, der den Kläger bis zum luxemburgischen Justizministerium und zur Europäischen Kommission führte, löschte Bolsinger, ehemaliger Intensivnutzer der Dienste von Amazon, seinen Account vollständig (was niemals seine Absicht war) im Vertrauen darauf, dass Amazon nach Verstreichen einer zehnjährigen (!) Frist seine Kundendaten tatsächlich sämtlich löschen wird.

Unsere Rechtsdurchsetzungsinstanzen kommen hier nicht gut weg. Den Gipfel markiert eine Antwort der luxemburgischen Kommission für den Datenschutz (CNPD), die permanante und lückenlose Speicherung der Kaufhistorie sei durch gegenwärtige und zukünftige (!) Zweckbestimmungen gerechtfertigt. Bolsinger wittert Absprachen zwischen der Behörde und Amazon, zumal die Antwort vier Monate auf sich hatte warten lassen.

Die Erfahrungen von Harald Bolsinger gleichen denen des Josef K. in Franz Kafkas Roman „Der Prozess“: Verraten und verkauft scheint von vornherein zu sein, wer gegen das System des unbeschränkten und unwiderruflichen Datensammelns prinzipiellen Widerspruch einlegt. Jeder Roman und jedes neue Technik-Gadget bis zum nächsten Tag frei Haus? Kein Problem! Löschung einer alten, längst abgelaufenen Kreditkartennummer aus der Kundenhistorie? Ein Riesenproblem! Blasphemie geradezu!

Im Berliner Gropius-Bau ist derzeit die Original-Handschrift von Franz Kafkas “Der Prozess” zu sehen (eigene Fotografien). Der Roman gilt als Ikone des menschlichen Ausgeliefertseins an einen unmenschlichen Apparat.

 

Vielfach ist aufgrund von Fällen wie dem beschriebenen die Vermutung geäußert worden, dass Unternehmen wie Amazon einzelne Daten aus ihrer Kundendatenbank technisch gar nicht löschen können. Stellt sich natürlich die Frage, wie sie dann von Mai 2018 an den sehr viel komplexeren Anforderungen der Datenschutzgrundverordnung gerecht werden wollen. Denn können sie das nicht, drohen Bußgelder i.H.v. bis zu 4% des Umsatzes — bezogen auf Amazon kein Pappenstiel. Meine Interpretation lautet, dass die Löschverweigerung im Fall Bolsinger jedenfalls nicht von ungefähr kam, beruht doch das Geschäftsmodell von Amazon und sein Wettbewerbsvorteil im wesentlichen auf dem Sammeln und systematischen Auswerten der Daten von Kunden und Handelspartnern. Die konsequente Verweigerungshaltung des Giganten ist wohl darauf zurückzuführen, dass man fürchtete, der Fall Bolsinger könne zu einem Präzedenzfall werden.

Daten als Allmacht

Es ist dem Wesen des kapitalistischen Wirtschaftens inhärent, Konsumentenbedürfnisse zu wecken, wo keine sind, und sie rasch zu befriedigen. Am besten werden bereits bei der Befriedigung vorhandener gleich neue Bedürfnisse geweckt. Amazon verwirklicht dieses urkapitalistische Prinzip mit seiner Handelsplattform mit Hilfe des Sammelns und Auswertens von Daten par excellence: Noch während des Bestellvorgangs werden weitere Produkte zum Kauf vorgeschlagen. Basis dieser Vorschläge sind sämtliche Daten, die ich als Kunde in Interaktion mit dem Unternehmen jemals generiert habe, sowie ein unbekannter Algorithmus, ein Black-box-Auswertungsmechanismus, der diese Daten verwertet. Und selbstverständlich ist nach dem Kauf vor dem Kauf, d.h. die zielgerichtete, individualisierte Vermarktung von Produkten hört niemals auf. Ebenfalls hört das Speichern von Daten sämtlicher Kundenbewegungen niemals auf, und jede neue Interaktion des Kunden mit der Plattform verbessert die Zielgenauigkeit und Effektivität der Vermarktung.

Wie jede Meile, die ein Fahrzeug der Marke Tesla im Realbetrieb auf den Straßen unterwegs ist, die Fähigkeit des Unternehmens Tesla verbessert, seine Zielgruppen besser zu kennen und ihnen ein überlegenes Fahrerlebnis anzubieten, so legt jeder Einkauf über Amazon die Grundlage für den nächsten Einkauf bei Amazon. Es handelt sich mit anderen Worten um ein selbstreferentielles, sich selbst verstärkendes System, dem mit einer simplen Datenlöschanfrage die autopoietische Grundlage entzogen zu werden droht.

Die von Harald Bolsinger mit seinem Selbstversuch ausgelöste Immunreaktion dieses Systems ist, so sehr man sie sich als folgerichtig erklären kann, aus mehrerlei Gründen beunruhigend. Überdeutlich wird an daran etwa die Macht-Asymmetrie zwischen Unternehmen mit digitalen Geschäftsmodellen und ihren Kunden. Grundlage dieser Asymmetrie ist im wesentlichen die Fähigkeit zum Sammeln und Auswerten von Daten sowie eine wirksame Rechtsbewehrung und Lobby-Arbeit gegen alle Arten von Angriffen auf diese Grundlage. Und diese Verteidigungshaltung loht sich durchaus: Jeder zweite Dollar, der in den USA im Online-Handel umgesetzt wird, geht auf das Konto von Amazon, das mit seinem Geschäftsfeld Web Services außerdem fast die Hälfte der weltweiten Cloud-Infrastruktur stellt. Selbst wenn man Amazons jüngstes Streben nach einer Vormachtstellung in anderen Infrastrukturbereichen (z.B. KI, vgl. “Alexa”; oder Delivery, vgl. Amazons Kauf von Whole Foods) unberücksichtigt lässt, hat dieses Unternehmen schon jetzt eine gewaltige dateninduzierte Macht über Kunden, Produzenten und andere Händler.

Sich diese Kräfteverhältnisse deutlich vor Augen zu führen ist der erste Schritt auf dem Weg — wohin? Staatliche Kontrolle oder gar Zerschlagung sind nicht sehr realistisch. Entscheidend ist zunächst einmal die Aufklärung und das Verhalten der Kunden. Natürlich müssen deren Rechte gestärkt werden und durchsetzbar sein. Am Ende aber müssen alle — Unternehmen, Kunden und Behörden — einsehen, dass eine Welt, in der ein Lautsprecherhersteller die Nutzung von bereits erworbenen Produkten nur noch dann zulässt, wenn betroffene Personen seinen neuen, umfassende Datenauswertung vorsehenden Nutzungsbestimmungen zustimmen, nicht funktionieren kann. Denn derlei Praktiken untergraben fundamentale Rechte freiheitlich verfasster demokratischer Gesellschaften.

Teil 2 des Beitrages:

Der Horizont von digitalen Daten ist ewig, und auch ohne unmittelbare Verwendung haben Daten potentiellen Wert. Dies ist der zweite Teil eines Beitrags über die Bedeutung von und unseren Umgang mit Daten. Hier knüpfe ich an Teil 1 an, stelle einige grundsätzliche Überlegungen zur Datenökonomie an und fordere, Data Governance weit oben auf die politische Agenda zu setzen.

Die besorgniserregende Lehre aus der in Teil 1 beschriebenen Auseinandersetzung Harald Bolsingers mit Amazon ist, dass die Gesetze sein können, welche sie wollen: Mächtige Konzerne werden ihre Mittel immer dazu einzusetzen, Gesetze im Zweifel zu Ungunsten der Verbraucher und der Allgemeinheit auszulegen und Graubereiche zu nutzen. Auch die Beeinflussung der öffentlichen Meinung und des Verhaltens von Verbrauchern in ihrem Sinne gehört zum Repertoire. Googles geschickte und aufwändige Content-Marketing-Kampagne zum Thema Daten ist ein gutes Beispiel dafür:

Diese aufwändige 35-seitige Image-Broschüre von Google wurde im Frühjahr in mehreren überregionalen deutschen Zeitungen zirkuliert.

 

Rettung Datentschutzgrundverordnung?

Die Bedingungen für Kunden und Nutzer werden sich durch das Inkrafttreten der EU-DSGVO im Mai 2018 zweifellos verbessern. Aber die Macht-Asymmetrie zwischen Unternehmen und Bürgerinnen wird dadurch nicht grundsätzlich angefochten. Dazu sind unsere Institutionen noch gar nicht gut genug aufgestellt. Ein Beispiel: Eine kleine Landesdatenschutzaufsicht in Deutschland verfügt über einen Juristen, der unter anderem mit dem Thema Bußgelder betraut ist. Wenn das so bleibt, dann ist etwa die massive Bußgeldverschärfung, die in der DSGVO vorgesehen ist, ein zahnloser Tiger.

Laut Eurobarometer wünschen sich 7 von 10 EU-Bürgerinnen, mehr darüber zu wissen, was Unternehmen mit ihren Daten anfangen, und es besser kontrollieren zu können. Sie wünschen sich mit anderen Worten mehr Datensouveränität (eigentlich ein furchtbares Wort, doch hier ausnahmsweise mal angemessen). Schön, dass Datenminimierung, Zweckbindung und Transparenz Eckpfeiler der DSGVO sind. Ich finde diese Prinzipien gut und wichtig, frage aber: Stehen sie nicht in einem offenen Widerspruch zu den Geschäftsmodellen und Technikeinsatzpraktiken des Big-Data-Zeitalters?

Als Wissenschaftstheoretiker pflege ich die Formulierung, dass Innovationen aus Daten offene Entdeckungsverfahren sind. Wenn wir uns von den in Daten steckenden Informationen überraschen lassen wollen (und das wollen wir immer, wenn wir auf empirischem Wege nach bahnbrechend neuem Wissen streben), dann impliziert das, dass wenigstens auch solche Daten gesammelt werden, bei denen nicht von vornherein klar ist, zu welchem Zweck sie gesammelt und zu welchen anderen Daten sie einmal in Beziehung gesetzt werden werden. Das ist ja gerade der Witz an Big Data, aber dieser Witz ist für das Individuum oft leider alles andere als witzig, weil es durch solche Praktiken vollständig gläsern zu werden droht. Und das gilt allen Verboten der Verarbeitung personenbezogener Daten, Pseudonymisierungs- und Anonymisierungsanstrengungen zum Trotz, denn De-Anonymisierung etwa ist kein prinzipielles Problem, sondern eher ein praktisches, dessen Größe sich an der zur Verfügung stehenden Rechenkraft und technischen Expertise bemisst. Nicht umsonst ist De-Anonymisierung in Australien schon ein Straftatbestand.

Data Governance: Datenpolitik neu denken

Fälle wie der in Teil 1 geschilderte Streit Harald Bolsingers mit Amazon sind wichtig, um das Wesen von Unternehmen und Geschäftsmodellen hinter den spiegelnden Flächen unserer smartifizierten Welt offenzulegen. Daher ist zu begrüßen, dass es auch in Deutschland mit der Gesellschaft für Freiheitsrechte mittlerweile eine gemeinnützige Organisation gibt, die Musterklagen nötigenfalls bis zur letzten Instanz führt. Da die informationelle Selbstbestimmung jedenfalls in Deutschland ein Grundrecht ist, das mit der DSGVO in gewisser Weise auf die gesamte EU übertragen wird, darf man gespannt darauf sein, wie die gerichtlichen datenschutzrechtlichen Auseinandersetzungen, deren es von 2018 an etliche geben wird, verlaufen und ausgehen werden.

Ebenso wichtig wie das Durchfechten solcher Fälle sind ihre öffentliche Verbreitung und die Schärfung des öffentlichen Bewusstseins für derlei unhaltbare Praktiken. Das gelingt bislang leider aber nur selten im öffentlich wahrnehmbaren Maßstab. Eine Ausnahme der jüngeren Vergangenheit ist eine unter dem Hashtag #nacktimnetz bekannt gewordene Recherche der Journalistin Svea Eckert vom NDR zu personenbeziehbaren Informationen, die Datenhändler (Data Broker) aus Browser-Plugins bezogen hatten und zum Kauf anboten. Nicht leichter wird es dadurch, dass die Aufmerksamkeitsschwelle durch Abstumpfung immer größer zu werden scheint. Während etwa bei Vorstellung von Googles Datenbrille “Glass” 2012 zumindest in Deutschland noch eine breite kritische Diskussion in den Feuilletons und unter Datenschützern entbrannte, lässt eine solche bei der jüngst hierzulande eingeführten Videobrille „Spectacles“ von Snapchat (die im Gegensatz zur Google-Brille beliebt zu werden scheint) bislang auf sich warten.

Angesichts der Entwicklung hin zur Allvernetzung und Allversmartung brauchen wir eine breit angelegte gesellschaftliche Debatte über den Umgang mit Daten, die den Raum der Rechtsetzung und Rechtsdurchsetzung überschreitet. Der Begriff „Data Governance“ scheint mir geeignet zu sein, diesen größeren Debattenrahmen zu markieren.

 

In jedem größeren Unternehmen ist es inzwischen selbstverständlich, dass genau festgelegt ist, wo welche Daten erhoben, wie sie abgespeichert werden, wer sie wozu einsehen, nutzen und verarbeiten darf. Ein solches Datenverarbeitungskontrollregime im Unternehmenskontext wird international auf den Begriff “Data Governance” gebracht. Gesellschaftlich sind wir von einem solchen Regime zu einem Zeitpunkt, da die universelle Datafizierung sämtlicher Lebensbereiche gerade erst begonnen hat, denkbar weit entfernt: Mit Einwilligung und Zweckbindung schreiben wir Datenschutzprinzipien fest, die sich nicht bewährt haben und der Big-Data-Idee diametral entgegenstehen. Und wir debattieren eine Eigentumsordnung für Daten, die dem Sacheigentum nachgebildet ist. (Bundesjustizminister a.D. Schmidt-Jortzig hat kürzlich auf einem Podium gar eine Datenhandelsordnung gefordert.)

Dennoch, beziehungsweise gerade deswegen bin ich der Meinung, dass die Übertragung des Begriffs “Data Governance” aus dem Unternehmenskontext auf die gesellschaftspolitische Datendebatte fruchtbar sein kann. Ich denke, dass wir — ohne Errungenschaften wie die DSGVO gering zu schätzen oder gar rückgängig machen zu wollen — Datenpolitik noch einmal von Grund auf neu denken müssen, und dass es dabei zunächst keine Tabus geben darf. Die kürzlich entbrannte politische Debatte um Dateneigentum kann in diesem Sinne als Schritt in die richtige Richtung betrachtet werden, auch wenn ich keineswegs davon überzeugt bin, dass uns diese Debatte unmittelbar zur Lösung all unserer Probleme im Datenbereich führen wird.

Für eine lebenswerte Zukunft: von der Debatte zur Praxis

Was wir aktuell vordringlich brauchen, ist zweigeteilt:

  1. Rechtsdurchsetzungsfähigkeit, was die bestehende Rechtsordnung anbetrifft (durch die DSGVO eben nicht ‘gratis’ mitgeliefert);
  2. ein holistisches Konzept für das Leben im Datenzeitalter, welches die Grundprinzipien der Innovation aus Daten als Realität anerkennt, statt sie explizit oder implizit zu negieren.

Zumal für die zukünftigen Herausforderungen durch das Internet der Dinge und die Künstliche Intelligenz ist der zweite Punkt entscheidend. Denn während diese Zeilen geschrieben werden, sind die großen Technologiekonzerne dabei, ihre Infrastruktur vollständig neu auf Künstliche Intelligenz zu basieren. Weil sie mit Abstand die besten Möglichkeiten in diesem Bereich haben, bauen sie in diesem nach der Datenbasis weiteren Schlüsselbereich ebenfalls eine Art Monopolstellung auf. Das ist für die meisten Menschen kein günstiger Befund. Wenn schon bisher galt: “Wer die Daten hat, dem gehört die Zukunft”, dann wird umso mehr gelten: „Wer die Daten hat und ein Quasi-Monopol auf die Möglichkeiten sie auszuwerten, der wird die Zukunft mehr oder weniger frei nach seinen Vorstellungen formen können.“ Der heutige Umgang von Amazon und anderen Technologiekonzernen mit ihren Kunden und deren Daten ist nur ein fader Vorgeschmack dieses dystopischen Vektors einer möglichen Zukunft. Wenn wir etwas anderes wollen - und ich denke, dass wir das dringend wollen sollten - dann liegen einige intellektuelle Rätsel und ein gerüttelt Maß an Arbeit vor uns. Die datenpolitische Devise muss also lauten: Kopf einschalten und Ärmel hochkrempeln!

 

Der Autor

Dr. Tobias Knobloch

leitet das Projekt „Open Data and Privacy“ der Stiftung Neue Verantwortung. Zuvor war er stellvertretender Leiter des Referats für Öffentlichkeitsarbeit, digitale Kommunikation und Besucherdienst im Bundesministerium für wirtschaftliche Zusammenarbeit und Entwicklung. Dort hat er vier Jahre lang die Online-Kommunikation verantwortet, war für zahlreiche Digitalisierungsthemen verantwortlich und hat ein entwicklungspolitisches Open-Data-Portal aufgebaut. Von 2008 bis 2010 hat Knobloch ein Social-Software-Startup mitgegründet, selbständig als Evaluationsgutachter gearbeitet und war an mehreren wissenschaftlichen Projekten beteiligt. Er war von 2005 bis 2008 Stipendiat im DFG-Graduiertenkolleg „Auf dem Weg in die Wissensgesellschaft“ und hat über Computersimulationen promoviert.

 

Ähnliche Beiträge

Beiträge aus der Forum Wirtschaftsethik Jahresschrift 2016 Jörg Althammer Deutschland ist ein...

In einer vielfach positiv kommentierten Überblicksstudie zum Thema „Frauen im Management“ habe...

Beiträge aus der Forum Wirtschaftsethik Jahresschrift 2016 Birger P. Priddat „Es kann doch nicht...

Hinterlassen Sie eine Antwort