For et år siden ryddede Shoshana Zuboff forsider verden over med sit værk om overvågningskapitalismens tidsalder. Nu er hun igen aktuel – denne gang i vores egen Rikke Frank Jørgensens nye antologi Human Rights in the Age of Platforms. Det er et scoop.
Det er ikke noget tilfælde, at Frank Jørgensen har fået verdenseliten med om bord i antologien. Zuboffs kapitel er resultatet af flere års faglig og personlig mailkorrespondance mellem de to. Og sjovt nok er Rikke Frank Jørgensen ikke den eneste dansker, Zuboff har den slags forhold til; også Mikkel Flyverbom er på listen over pennevenner – han bliver ovenikøbet takket i hendes efterord til mastodontværket. De flankerede også begge Zuboff på scenen, da hun var i København i efteråret. Frank Jørgensen har da også Flyverbom med i den nye antologi – i øvrigt sammen med ti andre lærde. Zuboff åbner ballet i bogen, og det skal du læse, hvis du tænder på hendes dagsorden, er bekymret over tech-giganternes alt for store magt og gerne vil have styr på, hvordan det lige er vores nye dystopiske fremtid rimer på menneskerettighedsbegrebet. Alt sammen på den videnskabeligt, nørdede måde, forstås.
Også resten af bogen rummer fine takes. Hvis du ikke er i humør til fodnoter og litteraturhenvisninger i større stil – eller bare gerne vil have en introduktion – kan du læse med her. Jeg har nemlig været de 342 sider igennem for dig. Her er syv nedslag, ordnet i et fint lille narrativ:
1. Tech-giganterne er blinde for egne synder…
Du tror dem måske ikke, når typer som Facebook og Google siger: “Freedom of speech ligger i vores DNA” eller “Privacy er ekstremt vigtigt for os”. Men den slags siger de uden at blinke, og de siger det, fordi de faktisk mener det. Rikke Frank Jørgensens eget kapitel fungerer fint som mit udgangspunkt. Hun har interviewet 23 personer hos Facebook og Google og har taget dem med diskursbukserne nede.
2. …men deres algoritmer diskriminerer systematisk…
I flere år havde Googles billedgenkendelsesalgoritmer en kedelig tendens til at kategorisere sorte mennesker som… gorillaer. Årsag: De, der havde kodet algoritmerne, havde ikke givet dem nok billeder af sorte til, at algoritmerne rigtigt lærte dem at kende.Dette selvpåførte menneskerettighedsproblem er langt fra det eneste eksempel på algoritmisk diskrimination – et emne, Anja Bechmann går i dybden med i bogen. Hun efterlyser klarhed over, hvordan algoritmeselskaberne udvælger data, samt fokus på de ubevidste valg, der foretages i deres værksteder.
3. …og deres indholds moderation er også skævOgså hvad angår ytringsfrihed, har
Facebook og de andre svært ved at snige sig uden om deres eget ansvar. Spørg Aftenposten (med Napalm-pigen) eller Peter Øvig (og Hippie-bogen), der begge har fået fjernet historiske billeder, fordi Facebooks algoritmer ikke kunne lide dem.
Ikke, at det er let at fixe, som Jillian C. York og Ethan Zuckerman så fint får forklaret i deres indlæg. Når det kommer til content moderation, er du meget let damned if you do, og damned if you don’t. Særligt, fordi det største problem måske er brugere selv. De flagger og troller hinanden og skræmmer folk fra at sige deres mening.
4. Vores verdensopfattelse skabes af Big Techs miljøer…
Du kan ændre lidt på de diskriminerende algoritmer og rette den skæve indholdsmoderation op, så godt du kan, men du kan ikke ændre på, at såvel Facebook som Google og alle de andre har bygget deres egne verdener med tilhørende spilleregler. Et setup, der begrænser dig: For hver knap og funktionalitet er der et fravalg af tusind andre knapper og funktionaliteter, hvilke styrer og nudger dig og truer med til sidst helt at kontrollere din adfærd.
Det sidste er, hvad Mikkel Flyverbom og Glen Whelan frygter i deres kapitel – desværre uden at komme helt til bunds i, hvordan det skulle foregå.
5. …og det er overvågningskapitalismen, der står bag
Manipulationen hos teknologigiganterne er til gengæld noget, Zuboff gør rigtigt meget ud af. Det er en tilståelsessag, siger hun og citerer Facebook selv: “Følelser kan overføres til andre gennem følelsesmæssig smitte, så folk oplever de samme følelser, uden de ved hvorfor. Dette påvirker igen også offline handlemåder”.
Nej, Big Tech, I er i den grad ikke neutrale, er Zuboffs budskab, både i dette kapitel og i bogen om overvågningskapitalismens tidsalder, som du kan læse min Kforum-anmeldelse af og introduktion til her. Big Tech, I følger jeres egne mål, og I ender med at koste os hele vores menneskelighed, hvis I fortsætter. Eller, som hun siger i anledningen af menneskerettighedstemaet: Det er ikke bare vores rettigheder, det handler om; det er retten til i det hele taget at have rettigheder, der er truet.
6. Vores lovgivning regulerer hele området dårligt
Desværre for os alle sammen er hverken GDPR eller nogen anden lovgivning i dag gearet til rigtigt at løse problemet. Privacy-juraen fumler rundt i en modulær spaghettigryde af en softwareverden, hvor det er svært at hitte rede i, hvem den enkelte bruger trackes af og burde give samtykke til. En global softwareverden, hvor amerikanerne og europæerne – og også kineserne, formoder jeg – ikke er enige om de grundlæggende juridiske konstruktioner. En social softwareverden, hvor min privacy meget tit er filtret ind i din.
Sådan lyder den belgiske juraprofessor Joris van Hobokens skudsmål, som desværre ikke har mange praktiske råd til, hvad vi så gør med vores privacy i stedet.
7. … og så alligevel
Et enkelt juridisk lyspunkt er der dog i mørket. Ihvertfald hvad gælder indholdsmoderation og lukning af profiler. Hvis Facebook og Twitter f.eks gør den slags, er det ikke kun forkert. Den kan også være ulovligt.
Det er Molly K. Lang der i bogens sidste kapitel går i kødet på FN-resolution nr. 2200A. Hvor hun frit oversat læser, at sociale medier af den slags, der i praksis bliver en ny offentlighed, er bundet af menneskerettigheds-bestemmelserne. Ligesom stater. Jeg håber, hendes tolkning vinder frem.
Zuboff, Frank Jørgensen og Flyverbom er stadig fine venner, forstår man. Selvom Zuboff ikke altid har kunnet holde helt styr på relationerne og en overgang troede de to var gift med hinanden. “Say Hi to Mikkel and the kids” som Zuboff bemærkede overfor Frank Jørgensen, før sagens rette sammenhæng gik op for hende.
Tirsdag den 4 februar kl 15 er der launch af bogen – og debat. Zuboff kommer ikke, men det gør til gengæld både Frank Jørgensen og Flyverbom. Og Fernando Bermejo fra Harvard og KU’s Jens-Erik Mai, der også har hvert deres kapitel i bogen. Samt en række andre kloge mennesker. Det er gratis og du kan tilmelde dig lige her.
Blogposten her blev først publiceret på kommunikationsforum, hvor du også kan læse den.