Skal vi være bange for Google og Facebook?

Har du bemærket, at du knap er hoppet ud af graviditeten og ind i mødregruppen, før du bliver bombarderet med "Tab 10 kg"-annoncer? Eller du har googlet "bad hair day", og pludselig oversvømmes dit feed med tørshampoo og hårkur. Eller du har klikket en enkelt gang på den der pæne yogamåtte fra Moshi Mind, og pludselig er der ikke grænser for alle de yogaretreats, der

byder sig til? Det er hverken magi eller mærkeligt, for algoritmer følger i hælene på dig, både når du tjekker Facebook på toilettet, tweeter i toget og ser en YouTube-tutorial, når reolen Ivar fra Ikea ikke vil lystre. Men hvad betyder det? Og skal vi være bange?

Katrine K. Pedersen er ekspert i medieudvikling. Hun er forfatter, digital vagthund, tidligere ansvarlig for udvikling og forskning ved Det Danske Filminstitut og Medierådet og i dag ansvarlig for Arken Museum for Moderne Kunsts undervisning og formidling.

– Jeg er på ingen måde teknologiforskrækket. Tværtimod. Teknologien er med til at styrke os – ikke kun som individer, men også som samfund. Min kritik og fortsatte skepsis retter sig mod dem, der har ansvaret. Dem med nøglen til kontrolrummet har ikke forvaltet ansvaret i overensstemmelse med de gældende menneskerettigheder og demokratiske værdier. På Arken arbejder vi med kunst og tech ud fra en demokratisk dannelsesbetragtning: Vi ønsker at give mennesker mulighed for at genvinde ejerskabet over deres digitale liv. Her er kunsten central: Den rummer refleksion, kritisk bevidsthed, analyse, dekonstruktion, kreation, opfindsomhed – med andre ord dannelses- såvel som innovationspotentiale. Vi giver de unge værktøjer til ikke blot at forbruge, men også til at kunne forstå teknologien og tage ejerskab over den som et fantastisk værktøj, der kan skabe fantastiske muligheder. Men jeg insisterer samtidig på at fremhæve det store problem, at fem tech-virksomheder har magten og monopol på verdens førende digitale platforme.

For selvom vi ikke tænker over dynamikken hver dag, så afgør Google, Facebook, Alibaba, Amazon og Instagram ofte, hvad vi skal læse om Trump, modtage af tilbud på iPhones, om vi skal spise vegansk eller en quarter pounder med cheese. Manipulationen forstærkes ofte af, at vi bilder os selv ind, at vi ikke kan forstå teknologien, og derfor hverken kan eller skal vi forholde os til det.

Det begreb kaldes agnotologi – at vi bevidst undlader at forstå noget skræmmende eller ukendt, fordi vi ikke bekymrer os om det, vi ikke ved. Men vi skal forstå, at jo mindre vi ved, jo mere udsatte er vi.

– Teknologi er ikke neutral – den er menneskeskabt. Sammenligner vi det med det at bage et brød, så er der stor forskel på, om du anvender hvedemel og sukker eller grovmel og speltmel. Opskrift og personen, der bager brødet er bl.a. forhold, der afgør det færdige produkt. Det samme med teknologi. De "ingredienser", en algoritme indeholder, er vi sjældent, hvis overhovedet, opmærksomme på, fortæller Katrine K. Pedersen.

Men hvis vi ikke forstår teknologien, ved vi så godt, at vi er digitale forsøgskaniner, der vender den blinde vinkel til?

– Det kan sammenlignes med fødevareindustrien: Der findes bevidste forbrugere, som forholder sig til økologi og bæredygtighed, og så er der forbrugere, der ikke går op i, hvilke æg der indgår i citronmånen på kaffebordet. Jeg tror, at vi i den nærmeste fremtid vil se, at digitale forbrugere også segmenteres og defineres ud fra, hvor oplyste de er, og de uvidende og ubevidste bliver de udsatte.

Den fordomsfulde algoritme

Mie Oehlenschläger, der er ekstern lektor i strategisk kommunikation og arbejder på en bog om de ideer og magtstrukturer, der ligger bag nutidens smart-teknologier, mener, det er helt afgørende, at vi forholder os til måden, teknologien påvirker vores levede liv på. For den digitale og den fysiske verden er ikke to paralleluniverser, men integrerede størrelser, der påvirker vores selvfølelse, livsvalg og eksistensgrundlag.

– Anerkendte psykologer påpeger, at vi i stigende grad har givet afkald på evnen til at være alene med os selv og leve et liv, der ikke er baseret på likes. Der udspiller sig en konstant kamp om vores opmærksomhed. Og det er først nu ved at gå op for os, hvor meget den opmærksomhed er værd i penge og magt for dem, der får den.

– En algoritme er et sæt instruktioner designet til at udføre en specifik opgave. Men der er altid en række værdier bag en algoritme. Den er aldrig neutral. I en app, der skal hjælpe os med at finde vej, kan der være forskellige måder at komme til målet. Der er den korteste vej, den hurtigste vej, den vej med færrest bilister, den vej med mindst vejarbejde, den flotteste vej, den sikreste vej osv. Jo flere informationer app'en har indsamlet om os i forvejen, des større sandsynlighed er der for, at vis-vej-app'en anbefaler en rute, som passer til vores behov. Problemet er bare, at vi ikke ved, hvilke data om os, der bliver koblet i app'en, for at give os de resultater, der kommer frem. Vi kender ikke algoritmen. Vi ved ikke, om den vil have os af den hurtigste eller mest sikre rute. Det betyder, at vores dagligdag styres efter nogle præmisser, som vi ikke kender, og som er bestemt af dem, der skriver algoritmen. Det nævnte eksempel er i sig selv uskyldigt. Men hvad nu, hvis algoritmerne skulle afgøre, om jeg er god nok som forælder, og de kriterier, der blev lagt til grund for algoritmen, ikke var offentligt tilgængelige og indeholdt parametre som "forældre er kun gode forældre, hvis de henter deres børn før klokken 15 hver dag"? I så fald var de færreste af os tilstrækkelige som forældre.

Overvågning – restriktion eller manipulation

Overvågning er ikke til at komme uden om, når vi taler om sociale medier og digitale fodspor. Det er ikke i sig selv farligt, men Flemming Bjerke, bestyrelsesmedlem i IT-politisk forening, opfordrer til, at vi bevidstgør os om overvågningens konsekvenser:

– I DDR var det meningen, at befolkningen skulle vide sig overvågede. Det var en del af adfærdskontrollen. Det er også ideen med Kinas overvågningssystem. Men det var ikke meningen, at folk skulle føle sig overvåget, da Facebook solgte data til Cambridge Analytica, så valget af Trump kunne fremmes. Regimer, der vil skræmme en befolkning til en særlig adfærd, inkorporerer overvågning som en kontrolmekanisme, mens de digitale supermagter, der vil manipulere med folks købsvaner og valg, ikke skal føle sig overvågede, da det kan gøre dem

mindre modtagelige over for manipulation.

Så hvad sker der med retsstaten i et samfund, hvor alt kan overvåges? Ifølge Flemming Bjerke er der masser af positive potentialer i teknologien, men desværre rummer en overvejende del af dem slagsider, der underminerer privatlivets fred specifikt og retsstaten helt generelt.

– Potentielt kan den digitale overvågning fjerne al kriminalitet bortset fra den statsinterne. Der er også fine initiativer såsom 112-appen, hvor man hjælper mennesker og redder liv. Problemet er bare, at det er ganske sjældent, at der ikke også følger nogle problematiske muligheder med. Et godt eksempel er hastighedsovervågning i trafikken. Det ville være en fantastisk ting at få indført af hensyn til sikkerhed og mulighed for at gennemføre en fornuftig regulering af trafikken. Desværre indebærer det samtidig en ekstrem overvågning af bilister. Sammenholdt med lokalisering af borgere ved hjælp af rejsekortet og mobilmastlogning kan vi få et næsten totalt billede af enhver borgers bevægelser. Så ville vi grundlæggende blive en del af den totale overvågnings- og kontrolstat. Kombinationen af den totale overvågningsstat og såkaldt "predictive policing", hvor man forudsiger, hvem der kunne skabe problemer, inden de har begået en forbrydelse, gør livet vanskeligt for anderledes tænkende. Og så ville vi tendere mod en delvis afvikling af retsstaten.

Detail-magthaverne

Der har været stort fokus på Facebooks magt i Danmark. Måske så stort, at vi ikke har forholdt os til de digitale handelsmastodonter Amazon og Alibabas enorme indflydelse. For de kan ikke alene styre vores købekraft, men også bedrive politik gennem handelsembargoer, undlade at følge bæredygtighedsinitiativer og promovere kønsstereotypiske købemønstre. Flemming Bjerke er enig i, at vi slet ikke er bevidste om den potentielle magtudveksling:

– Jeg tror ikke, at det er helt gået op for disse store firmaer, hvor stort et magtpotentiale de har. Specielt ikke Facebook. Zuckerberg giver indtryk af, at han ikke er andet end en ung, energisk programmør, som tilfældigvis implementerede den rigtige platform på det rigtige tidspunkt. Men nu er han jo altså nødsaget til at finde ud, hvad han vil. Tilsvarende med Amazon og Google. Med Alibaba er sagen anderledes. De samarbejder med den kinesiske regering om udvikling af den totale overvågning. Det mest skræmmende er samarbejdspotentialet mellem disse store selskaber og regeringerne i de forskellige lande. Groft sagt har stat og virksomheder brug for de samme data om folks privatliv til at kontrollere og markedsføre. Dette åbner for en helt ny type markedskræfter, overvågningskapitalismen, hvor Big Data er den valuta, som magthaverne efterspørger og ophober, fordi den kan manipulere og adfærdskontrollere borgerne.

Fremtiden er uforudsigelig

Claus Skytte, iværksætter, foredrags-holder og forfatter til fire bøger om internetiseringen og deleøkonomi, mener ikke, at fremtiden er farefuld – blot uforudsigelig:

– Jeg betragter ikke internetiseringen som nogen trussel. Ikke større end indførelsen af edb under den 3. industrielle revolution, samlebåndet under den 2. industrielle revolution eller dampmaskinen under den 1. industrielle revolution. Jeg ville ønske, at jeg havde haft iwnternettet, da jeg var barn. Det var en meget ensom tid ude på landet. Internettet har givet mulighed for, at vi kan mødes med ligesindede over lange afstande, siger Claus Skytte og bemærker, at det ikke er så mærkeligt, at vi ikke har taget de nødvendige sikkerhedsmæssige forholdsregler, for vi har aldrig kunnet forudsige den eksplosive hast, hvormed digitaliseringen af samfundet har fundet sted.

– Internettet er overalt og ikke mindst på os i vores computer i lommen. Der findes i dag flere mobiltelefoner i Afrika syd for Sahara, end der findes mennesker med adgang til rent drikkevand. Internettet er overalt. Men det gik så hurtigt med udviklingen, at der ikke blev tid til at skabe internetsikkerhed. Derfor er der ingen. Hverken datasikkerhed eller menneskesikkerhed. Når alt og alle bliver forbundet via internettet over de næste ti år, bliver menneskenes internet og tingenes internet til sammen til et stort ukontrolleret kaos. Vi har altid været temmelig gode til at forudse teknologiske forandringer, men vi har aldrig været særlig gode til at gennemskue de sociale ændringer, der sker på baggrund af de teknologiske fremskridt. Claus Skytte har stor tiltro til, at fremtidens internetbrugere bliver langt mere skeptiske og vil stille høje kvalitetskrav.

– De vil tage og bruge alt, som gør deres liv lettere, billigere og bedre. De vil også være meget mere erfarne end deres forældre og bedsteforældre og dermed sundt skeptiske.

Det betyder dog ikke, at vi kan læne os tilbage og håbe på, at de digitalt indfødte skal få orden i geledderne og tæmme de digitale supermagter, når deres tid kommer.

– Vi skal fortsat styrke vores uddannelse i den svære og kedelige demokratisamtale. I takt med at flere og flere vender opmærksomheden væk fra aviser, radio og tv, skal vi have åbnet forsamlingshusene igen for den demokratiske samtale. Samtidig skal journalisterne styrkes gennem bedre uddannelse, så alle ikke kan kalde sig journalist, bare fordi de skriver. Der skal være meget streng kontrol med, hvad politikerne har lov til at sige. Vi har brug for journalistiske programmer som DR Detektor bare i en meget mere avanceret model, hvor man kan miste sin taburet, hvis man lyver mod bedre vidende.

Katrine K. Pedersen og Mie Oehlenschläger er begge erklærede aktivister – men det gør dem ikke til pessimister.

– Jeg er optimistisk i forhold til fremtiden. Vi har alt for længe været drevet af uvidenhed, men vi er jo også de første. Vi er dem, der skal begå alle fejlene, som fremtidens generationer enten kan slå sig på lårene af grin eller græde over. Vi må først forstå, hvad internettet egentlig er for en størrelse, hvilke ingredienser smart-tech indeholder. På nuværende tidspunkt er der en tendens til at agere reaktionært, fordi vi forstår det digitale ud fra en gammel, traditionel mediebrille. Men den er heldigvis ved at gå af mode, siger Katrine K. Pedersen, og Mie Oehlenschläger supplerer:

– Vi vælger selv teknologien hver dag. Men jeg oplever et enormt gruppe- pres i Danmark, som blandt andet stammer fra politikere, der konstant fortæller os, at vi skal skynde os. At vi skal være en digital vindernation. Jeg ønsker tværtimod at bruge min fornuft til at forholde mig kritisk til visse platforme og deres forretningsmodeller og for eksempel udfordre tvangsbrugen af tablets og smartphones i folkeskolen. Dilemmaet for forældre er i dag, at hvis jeg ikke holder øje med mit barns digitale liv, så overlader jeg det de facto til enten staten eller kommercielle virksomheder og deres algoritmer, som har ret fri adgang til mit barn. I det øjeblik, vi insisterer på, at børn skal have frihed til internettet, giver vi i samme åndedrag en række aktører fri adgang til vores børn.