Zuboffs Surveillance sidder i skabet

  • by

Shoshana Zuboffs “The Age of Surveillance Capitalism” er en sjælden bog, som du skal læse, hvis du også de næste fem år vil snakke med om alt det, der driver den digitale udvikling – og dermed verden, som vi kender den – og lyde bare en lille smule fornuftig.

Hvor langt ude kan man være, tænkte jeg, da jeg i 2011 mødte Stephen Wolfram, en tech-entreprenør og ‘nutty professor’, der argumenterede for den nærmest totale ophævelse af skellet mellem mennesker og computere.

“Du tror, at computere er dumme, logiske maskiner. At de ikke kan frembringe noget med stoflighed og følelser”, sagde han til mig efter at han havde leveret sin keynote. ”At de ikke kan opføre sig, som om de har deres egen vilje. Indtil det går op for dig, at de faktisk kan.”

Stedet var det hotteste mødested for it-nørder på det tidspunkt, Singularity Summit i New York. Og selvom jeg var skeptisk, var det sådan, stemningen var. Kunstig intelligens var vejen til alt.

Jeg kom til at tænke på episoden, mens jeg læste Shoshana Zuboffs nye bog The Age of Surveillance Capitalism – overvågningskapitalismens tidsalder. En bog, der imponerer på grund af dens enormt gennemtænkte fortælling om, hvordan Google, Facebook, Amazon og Microsoft har vokset sig til hver deres plads på topfem-listen over mest værdifulde firmaer. Kun overgået af Apple. En bog, der handler om, hvad der i virkeligheden skete med verden, da dataøkonomien brød igennem ved årtusindeskiftet, og om hvordan tech-giganterne har spundet en fremtid for os alle, helt i deres vold. 

The Age of Surveillance Capitalism kan købes på saxo.com allerede. 672 sider.

Mit tankespring skyldes, at Zuboff i bogen bruger vældig mange sider på at udpensle det menneskesyn, der bærer den moderne tech-industri frem – den industri, som Wolfram og singularitetsbevægelsen er en integreret del af. Et menneskesyn, der ikke lader Wolfram meget tilbage at høre.

Ikke at de mange forskellige folk fra industrien, som Zuboff trækker frem i lyset, tror på maskiner med fri vilje og følelser – eller det er ihvertfald ikke det, Zuboff citerer dem for. Det er møntens anden side, Zuboff fokuserer på: vores, brugerne af tech-industriens services, manglende fri vilje.

Eller rettere: Hun fokuserer på en tech-industri, for hvem brugernes fri vilje og følelser er ligegyldige størrelser, og som bruger sin priviligerede viden om brugerne til deres helt egne formål og ikke kerer sig om effekterne på hverken samfundets eller brugernes mentale sundhed. Men Zuboff starter sin store fortælling et andet sted.

Nej, du er ikke produktet – det er værre endnu

Hvis en tjeneste er gratis, er det, fordi det ikke er den, men dig selv, der er produktet”. Sådan siger en nu et par år gammel talemåde, som jeg altid godt har kunnet lide, fordi den meget elegant og lidt masochistisk skifter perspektivet på vores forhold til Google, Facebook, LinkedIn, Instagram og alle de andre annoncefinansierede tjenester, der fylder vores liv.

Zuboff er med på perspektivskiftet i sætningen, men derudover er hun ikke vild med den. Det er nemlig værre endnu, siger hun.  

Du er ikke “produktet”, men noget endnu mere simpelt: Et råstof. Du bliver ikke solgt, men udnyttet. Du indgår ikke en frivillig byttehandel, men er fanget i et større spil, en enorm maskine, der trækker informationer ud af dig, bearbejder dem og dig selv og sælger dem videre med det formål at indskrænke og bestemme dine handlemuligheder, så de passer bedst muligt med de markedskræfter og det profitpres, der styrer det hele. Du er en brik i den nye “Surveillance Capitalism”.

Opfundet af Google

Zuboffs store bedrift er, at det lykkes hende at opfinde nye ord og få dem til at fungere. Ord og begreber, der først føles voldsomme og indbyder til modsigelse. Men også ord, som det langt hen ad vejen lykkes hende at argumentere hjem i egen favør.

Hun er dejlig stringent i sin modelopbygning, men først og fremmest er hun både vidende og velresearchet. Jeg føler mig tryg ved hendes redegørelser, forståelser for miljøet og kildeangivelser.

“Surveillance capitalism”, fortæller Zuboff, er ikke opstået ud af den blå luft. Faktisk er fænomenets opståen temmeligt præcist at datere, nemlig til 2001 – året, hvor dotcom-boblen brast. Og det var et ganske bestemt firma, der opfandt det: Google.

Google havde et par år tidligere vendt søgeverdenen på hovedet. I Googles søgning var det signaler fra nettets brugere, om blandt andet hvem og hvor mange der valgte at linke til en given side, der bestemte, hvor godt et søgematch, den givne side ville være. Søgningen var styret og blev forfinet af data om menneskers handlinger – ikke bare af det blotte indhold, i modsætning til traditionel søgning, der var baseret på en langt mere bibliotekaragtig tilgang.

Også på et andet punkt adskilte Google sig: De kunne ikke lide reklamer. De to skabere, Larry Page og Sergey Brin, var meget eksplicitte i deres modstand mod annoncefinansiering, som de mente uundgåeligt ville forstyrre de “rene” søgeresultater.

Viden er magt

Presset af krisen og nervøse investorer, så de to sig – i Zuboffs fortælling – om efter mulige nye revenue-streams og endte med at opgive deres reklamemodstand med en annoncemodel, der byggede på alle de data, de havde samlet ind om deres brugere med det formål at forbedre søgningen. Disse data lå uvirksomme hen som “surveillance surplus”, parat til at blive plukket og samlet op.

Annoncemodellen udnyttede og forfinede motoren i Googles søgeservice til ikke længere kun at forudse de bedste søgeresultater, men også hvilke annoncer brugerne rent faktisk ville klikke på. 

Google var med et i “the auction business”, ikke “søg”. Og det, de handlede – og stadig handler – med, var “personal information”.

“Surveillance Capitalism” var dermed født. En kapitalisme, der bygger på ejerskab af hverken arbejdskraft eller råstoffer, men på “the division of learning” – “learning” forstået som den viden og de forudsigelser, der kan opnås på baggrund af data. 

En kapitalisme, hvor den med de bedste forudsigelser af brugeradfærden – og den med de bedste og fleste data til at bygge forudsigelserne på – vinder.

En kapitalisme, hvor de grundlæggende serviceydelser – som søgning eller sociale netværk – primært forstås som kilder til udvinding af brugerdata og midler til, ved hjælp af nudging og gamification, at manipulere brugeradfærden, så forudsigelserne om, hvor brugerne klikker, i endnu højere grad holder stik.  

Surveillance Capitalism på et billede. I bunden den gode cirkel: Brugeres adfærd producerer data, der opsamles og analyseres, hvorefter analyserne bruges til at gøre servicen bedre. I toppen den onde: de opsamlede data om brugeradfærden, der er i “overskud” fra serviceforbedringskredsløbet (dvs. dem alle sammen), analyseres, laves til forudsigelsesprodukter (f.eks. om sandsynligheden for et klik) og sælges på “fremtidsadfærdsmarkederne” (læs: programmatic). Dette frembringer “overvågningsprofit”. Foto fra bogen.

Stopper ikke online

Hele denne mundfuld får Zuboff til at fremstå logisk og meningsfuld. Hun får effektivt tegnet et billede af en økonomi, hvor presset for profit (jeg tror gerne, du må sige “return on investment”, hvis du synes, det lyder bedre) styrer de surveillance-kapitalistiske virksomheder til at opfinde, tilkøbe og udvikle stadigt flere datakilder (“extraction imperative” kalder Zuboff den del af festen) samt (under indflydelse af “the prediction imperative”) udarbejde stadigt mere fintkornede forudsigelser og eksperimentere med stadigt mere avancerede former for manipulation af brugeradfærden.

Det er i denne optik, du skal se tech-giganternes opkøbskamp og, kan jeg for egen regning tilføje, de gigantiske beløb, opkøbene handles til.

Måske kan du huske, da Microsoft for tre år siden købte LinkedIn – for 26 mia. dollars? Eller da Facebook købte WhatsApp for 19 mia. dollars to år tidligere? “Uhørt”, skrev jeg dengang her på Kommunikationsforum om det sidste. “WhatsApp beskæftiger kun 55 mennesker og er sølle tre år gammelt”. Nu forstår jeg bedre. 

Den iboende ekspansionstrang har først og fremmest fundet sted i online-sfæren. Men den stopper ikke her, arguementerer Zuboff. Tværtimod breder den sig så langt ud i den virkelige verden, som den kan komme til. Jo længere ud, jo flere data og des bedre forudsigelser du kan frembringe, jo flere penge tjener du. 

I Zuboffs optik er Googles Street View f.eks. ikke primært en smart kortservice. Tværtimod er Street View Googles offline-crawler, der samler data ind i den fysiske verden, som dens online-crawlere gør, når de systematisk gennemtrawler nettet til Googles søgemaskine.

Ja, faktisk er Street View som crawler blot et af mange eksempler i Zuboffs fortælling om, hvordan de surveillance-kapitalistiske tech-ekspansioner systematisk og – antyder Zuboff – bevidst beslaglægger data, som før var unddraget markedets logikker. “The Disposession Cycle” kalder hun det med fire faser, der fast gennemløbes, og som regel ender med, at alle synes, at den nye beslaglæggelse af personlige data, da er det mest naturlige i verden.

Vi skal dybere ned

Men heller ikke den fysiske verden er nok for de fremadstormende surveillance-kapitalistiske kræfter. Også dit hjem og din person er i sigtekornet.

Google Home, Googles nye personlig assistent, er et middel til dataindsamling og manipulation i hjemmet. Og Nest, Googles smart-home device, ligeså. Ligesom Amazons Alexa og Microsofts Cortana. Og det er ikke kun dit hjems plantegning, de er ude efter (salg af plantegninger var i øvrigt præcis, hvad der blev fremlagt som Roomba-støvsugerens officielle forretningsmodel i 2017). De vil have mere, og de vil kende dig – dybt, hvilket også helt åbent er, hvad de allesammen siger: Det er trods alt personlige assistenter, de laver.

Igen synes jeg, det er svært rigtigt at argumentere mod Zuboff. Hver gang jeg tænker efter, får jeg det dårligt over alle de oplysninger, jeg har givet – og fortsat giver – fra mig.

Google ved alt om, hvad jeg søger efter. Både alt det ligegyldige, men også private emner, som meget få andre i verden har kendskab til. Facebook kender alle mine venner, hvem jeg liker, og hvem der liker mig. Min mobil fortæller dem, hvornår jeg står op og går i seng, og hvor jeg bevæger mig hen, hvor ofte jeg tjekker telefonen.

Dette er i sig selv overvældende og bliver ikke bedre af, at min badevægt hver morgen sync’er med nettet, mit Apple Watch måler min puls, og min samlede genmasse ligger analyseret i en – iøvrigt Google-funderet – dna-tjeneste på nettet. 

Men, pointerer Zuboff, det er kun overfladen, kun “den første tekst”. Bagved findes skyggeteksten. Skyggeteksten er den egentligt viden; resultatet af alle de fortolkninger og analyser, tech-giganterne kan lave, når de sammenholer data om mig, dig og alle de andre milliarder brugere af deres systemer.

De mønstre, som den kunstige intelligens og maskinlæringsalgoritmerne kan udlede af de enorme datamængder, og som – og her argumenterer Zuboff igen effektivt og velresarchet – effektivt kan fjerndiagnosticere dig. Det er skyggeteksten, der rummer alle forudsigelserne og den virkelige læring, som driver surveillance-kapitalisternes værk.

Det hedder “surveillance” – ikke “privacy” – policy

Hvis du på dette tidspunkt begynder at føle, at Zuboffs konstruktion nærmer sig dit creepiness-level, er det fuldstændigt tilsigtet. 

Zuboff er bestemt ikke bange for at skræmme. Faktisk er et af hendes erklærede mål at råbe verden op. F.eks. er hun glad for et bestemt historisk billede, som hun mener siger meget om den surveillance-kapitalistiske fremmarch, nemlig historien om de spanske conquistadorer.

Hver gang de skulle underlægge sig en ny landsby beboet af den oprindelige befolkning, som aldrig havde set skyggen af en europæer før, læste de op af et Requerimiento, en særlig tekst, som i Guds, pavens og kongens navn fortalte, at alle, der gjorde modstand, selv var ude om de overgreb, de ville blive udsat for – inklusive grotesk tortur og offentlig hængning af kvinder. På spansk.

Ligesom den oprindelige befolkning stod uforstående over for de spanske besættelsestyper – ja, først troede de, conquistadorerne var en slags guder, og bød dem velkommen som sådanne – på samme måde står vi, brugerne og samfundet, i dag uforstående over for den surveillance-kapitalistiske fremmarch.

Og ligesom conquistadorernes Requerimiento skulle retfærdiggøre deres forbrydelser, på samme måde retfærdiggør surveillance-kapitalisterne deres fremfærd gennem en anden og mere nutidig tekst, nemlig privacy policies, som i praksis er cirka lige så uforståelige. I resten af bogen omtaler Zuboff dem herefter kun som “surveillance policies”, som hun mener er deres rette navn. 


Ooops - her skulle have været en video!
Hvis du vil se den, skal du slå "statistics, marketing" cookies til.
Youtube og de andre vil nemlig have en cookie for spille.


Fredag den 1. marts holdt The Intercept Shoshana Zuboff-event i New York. Hop til 1:01:03, og hør Zuboff fortælle Naomi Klein historien om de spanske conquistadorer (hele optagelsen kan iøvrigt anbefales).

Det er et voldsomt billede, Zuboff her fremmaler. Og selvom hun ikke mener, at surveillance-kapitalismen virker ved død og ødelæggelse, giver det alligevel en voldsom klangbund og en fornemmelse af guilt by association under hendes historie. Et argumentationstrick, der får hendes egen dystopiske fremtidsvision til at glide lettere ned. Hvis først du har hørt en ekstrem version af et argument, bliver det lidt mindre ekstreme pludseligt mere spiseligt.

Big Other ser dig

Zuboffs virkelige skræmmebillede handler om the “Big Other”, den overvågningstilstand, som den surveillence-kapitalistiske udvikling truer med at kulminere i. En form for totalitær tilstand, hvor en instrumentel magt dirigerer alt og alle gennem massiv indsigt og højpotent evne til at manipulere. Instrumentarianisme kalder hun den, og den er på mange måder anderledes end det 20. århundredes totalitarisme.

I instrumentarianismen er det f.eks. markedet, ikke staten, der er den store skurk. Og instrumentarianismen virker heller ikke ved vold og hjernevask og har ikke ikke behov for rettroende undersåtter eller for at kontrollere dine inderste tanker. Faktisk er den ligeglad med din sjæl og dit følelsesliv, for den virker igennem det ydre, igennem overvågning og manipulation.

I takt med, at surveillance-kapitalismen vinder frem, og dens overvågning bliver mere og mere komplet, får den, hvad den selv opfatter som et “God’s eye”-syn på alle os, dens brugere. Ligesom når du letter med et fly og ser verden blive mindre og mindre, mens alle hverdagens sorger, bekymringer og glæder dernede fortoner sig for til gengæld at afsløre de nye større strukturer og mønstre, der ligger bag vores liv. 

 I “God’s Eye”-synet er vi all bare “others”, små myrer i en kæmpestor myretue. Zuboff gør ikke selv billedet færdigt, men meningen er, at ligesom du selv kan få rigtige myrer til at fare op og springe omkring ved at stikke en pind i deres myretuer, fordi du har magten til både at overskue hele det komplekse minisamfund og evnen til at manipulere dets fysiske verden, så kan overvågningskapitalismen gøre det samme med os, med dens “God’s eye view”. 

Og i den ligning spiller vores følelsesliv ikke en større rolle for nye kapital, end myrernes gør det for dig, når du stikker pinden i deres tue. For overvågningskapitalismen er vi bare “others”. Og den er selv “the big other”.

Skinners elev

Zuboffs “Big Other”-konstruktion er ikke bare en fiks ide, hun lige hiver op af skuffen. Det er en ide, der helt tydeligt betyder meget for hende, og meget store dele af bogen er formet som en infight med den teoretiske retning inden for adfærdspsykologien, der går under navnet “behaviorisme”, hvis forkvaklede og misforståede menneskesyn Zuboff ser forstørret og forløst i the “Big Other”, som surveillance-kapitalismen nærmest er bestemt til at frembringe.

Særligt den radikale behaviorisme, med B.F. Skinner som foregangsmand, fylder hos Zuboff. Og det er ikke et tilfælde, viser det sig: Zuboff er opvokset med Skinner; han underviste hende på Harvard, da hun selv studerede, og hun fortæller, at hendes intense debatter med ham er blandt hendes mest levende minder fra den tid.

Zuboff spænder som sagt buen hårdt, og det er fedt, fordi det giver hende plads til at udfolde sin store fortælling. Men det er også for meget. For i kampens hede får hun tillagt overvågningskapitalismen lige en my for meget magt. 

Hos hende stopper the “big other” ikke, før overvågning og de forudsigelser, der følger af den, er blevet så sikre, at de giver ikke sandsynlighed, men “guaranteed outcomes”, hvilket igen kræver evnen til ikke bare at gætte, men også manipulere og modificere vores adfærd. Og når det sker, er fanden for alvor løs.

For i en gennemmanipuleret verden, hvor vi i praksis glider gennem dagen uden at tage valg, som ikke i forvejen er bestemt for os, giver ideen om os selv som individer, der både hver for sig og i fællesskab kan skabe en fremtid, ingen mening.

En my for meget

Det er Facebook, som Zuboff lader bære det meste af bevisbyrden for surveillance-kapitalens vilje og evne til at gennemmanipulere os alle. Og det er mere, end Facebook kan holde til.

Nok indretter Facebook sit feed, så vi alle klikker mest muligt, med like-knappen designet som dopaminudløser og med allehånde brug af social engineering-teknikker. Og jo, det lykkes også langt hen ad vejen. Og i disse fake news-tider, hvor troll farms, Cambridge Analytica, iscenesatte WikiLeaks-dumps og Russian Collusion fylder forsider, er jeg også helt med på, at alle i en eller anden grad kan manipuleres. Hvis du ved, hvilke knapper du skal trykke på over for den enkelte, vil du også altid kunne få nogen til at falde for dit spin og dine løgne. Og det ved Facebook og alverdens andre surveillance-kapitalister. 

Alt dette er slemt i sig selv. Det skader. Det kræver debat og indgriben. Men det truer hverken mit selv eller min frie vilje.

Det samme gælder den anden case, som Zuboff hiver frem i sin bevisførelse for surveillance-kapitalismens evne til at styre vores hverdag: Pokémon GO. Ja, spillet, som du og jeg, vores børn, deres fætre og hele fritidshjemmet var besatte af en kort periode for snart tre år siden. Zuboffs historie om Pokémon GO er både spændende og ny for mig. Men igen: Jeg bliver altså ikke rigtigt bange.

Collateral damage

Pokémon GO, fortæller Zuboff, er skabt ud af Googles laboratorier og dets egentlige formål var langt fra uskyldigt, mener hun. Udover at skabe nye data- og indtægtsstrømme koblet til Google Maps og al deres Street View-viden fungerede Pokémon GO som et kæmpestort levende eksperiment i massemanipulation i den virkelige verden. Med den fulde kraft af gamification lykkedes det spillets skabere at kommandere millioner af Pokémon GO-spillere rundt i den virkelige verden.

Herhjemme fik Pokémon GO f.eks. hundredevis af børn til at omdanne Det Kongelige Biblioteks normalt fredelige have til et sprudlende kaotisk Pokéstop. En evne, som Pokémon GO også andre steder i verden brugte kommercielt. I Japan var det 30.000 McDonalds-restauranter spillerne blev dirigeret over til; i USA 12.000 Starbucks. Mod betaling, naturligvis.   


Ooops - her skulle have været en video!
Hvis du vil se den, skal du slå "statistics, marketing" cookies til.
Youtube og de andre vil nemlig have en cookie for spille.


Genoplev (den sjove) Pokémon GO-massepsykose i Det Kongelige Biblioteks have.

En tredje Facebook-case fra Zuboff rører mig faktisk mere end Pokémon GO-eventyret. Den handler om unge og identitetsskabelse og viser de skadelige effekter af et nådesløst onlinemiljø, hvor du altid er på, hele tiden vurderes og hele tiden vurderer dig selv med de andres øjne.

Også her er det de overvågningskapitalistiske kræfter, der driver værket. Men her sker skaden mere som collateral damage – som bieffekter af de kunstigt skabte sociale sammenhænge. Ikke som fjernstyring per se. Hvilket jo altså også er alt rigeligt slemt.

Zuboffs løsning

Den dag jeg startede på The Age of Surveillance Capitalism var just another day at the office. På vej til arbejde begyndte Zuboff at oprulle alle surveillance-industriens ulyksaligheder. Da jeg nåede kontoret, redigerede jeg videre i vores nye e-bog, der handler om, hvordan du bedst bærer dig ad med at få data ud af din Google Analytics, så du efterfølgende kan bruge dem til maskinlæring og predictive analytics-formål. Til hverdag lever jeg kort sagt af at give gode råd om, hvor langt du kan komme med data, sammen-stichede brugerrejser, avancerede analyser og algoritmer.

Er jeg en skidt karl? Zuboff er ej heller her helt klar i spyttet. Hun understreger mange gange, at det ikke er teknologien, hun har noget imod. At hun mener, at en god digital fremtid er mulig – bare der sættes en kæp i hjulet på den galopperende surveillance-kapitalistiske udvikling. At personlige data ikke er varer, der overhovedet skal indgå på markedet. Ligesom børnearbejde, som vi heller ikke accepterer, fordi vi vil friholde barndommen og fastholde dens uskyldstilstand.

Men betyder det, at hun tænker en fremtid uden digitale identiteter? Uden personalisering? Uden forsøg på at skabe relevans og nå brugerne der, hvor de rent faktisk er?

Hvordan er det kommet så vidt?

Disse spørgsmål besvarer Zuboff som sagt ikke særlig klart. Når hun selv formulerer sine most wanted actions, handler de om noget lidt mere fluffy: opmærksomhed.

Hendes bog er ét stort opråb. Hvordan er det kommet så vidt? Det må stoppe nu! Vi skal have samfundsmæssige institutioner og regelsæt, der inddæmmer denne nye forbryderiske kapitalisme, inden det går helt galt.

Når man som dansker læser The Age of Surveillance Capitalism, kan man mærke, at Zuboff har et ben kraftigt placeret i Europa. Ikke så meget, fordi hendes bedsteforældre var polakker, der udvandrede til USA, men mere fordi hun og hendes mand – den tidligere Volvo- og Laura Ashley-direktør Jim Maxmin – i mange år levede et transatlantisk ægteskab med ham i London og hende i Massachusetts.

Det giver et – for amerikanske bøger – sjældent europæisk perspektiv, hvilket blandt andet giver sig udtryk i hendes afsluttende GDPR-diskussion, som er det mest konkrete, hun kommer på, hvad der skal gøres. For er GDPR ikke præcist det, hun efterlyser? Institutioner og regler, der beskytter personlige oplysninger? Jo, siger Zuboff, det er den rigtige retning.

Men 2018-implementeringen er ikke nok. Hun vil se den udmøntet i praksis, før hun tror på den. Og for at det skal gå glat, skal kæmpestore pengeinteresser, som af al magt vil prøve at skubbe domstolenes forståelse i deres retning, holdes i skak. Dette kræver netop folkelig opmærksomhed.

Og så er GDPR heller ikke vidtgående nok. For den beskytter kun de personlige data i sig selv. Ikke de fortolkninger, der flyder fra dem. Ikke skyggeteksten og alle de creepy forudsigelser, som er der, hvor den virkelige værdi jo ligger, og det, der får det surveillance-kapitalistiske hjul til at køre rundt.

Longtail-effekten

En gang imellem sker det, at der dukker et begreb op, der på nærmest magisk vis italesætter den tid og de problemer, vi står i; fanger centrale problemstillinger og gør os i stand til at tænke over dem på måder, der giver mening og bringer os fremad. Fra min egen lille verden er det f.eks. sådan, jeg havde det med Chris Anderssons The Long Tail og freemium-begrebet, da det kom på gaden for 10-15 år siden.

Det er også tilfældet med  Shoshana Zuboff. Her er det bare ikke et enkelt begreb, men et helt sæt af begreber, der byder sig til for at forstå tidens nok allerstørste drivkraft og udfordring: det datadrevne samfund. The Age of Surveillance Capitalism er et must-read. Læs den nu.

Denne anmeldelse blev først bragt lige her på kommunikationsforum.