Det sosiale Dilemmaet
Basert på dokumentaren "The Social Dilemma" (Netflix) utforsker vi de kreftene som driver moderne sosiale medier, og hvordan algoritmene er designet for å styre oppmerksomheten din.
1. Kunde vs. Produkt
De fleste tror at de er kunden når de bruker sosiale medier. Sannheten om forretningsmodellen er en annen:
Ikke et nøytralt verktøy
Et verktøy, som en hammer, ligger dødt til du velger å bruke det. Sosiale medier er ikke verktøy, da de har egne mål og metoder for å nå disse. Disse metodene er for det meste utnyttelse av vår psykologi og ubevisste prosesser (f.eks. behovet for sosial anerkjennelse og belønningssystemene våre).
2. Plattformens Tre Hovedmål
Modellene konkurrerer hele tiden om vår oppmerksomhet (tiden vår på appen) for å ivareta 3 forretningsmål:
Engasjement
Klikk for å avsløre
Vekst
Klikk for å avsløre
Reklame
Klikk for å avsløre
Algoritmenes Makt (Maskinlæring)
Gjennom Maskinlæring lager plattformene uendelig komplekse modeller av vår digital atferd. Formålet er å beregne sannsynligheten for eksakt hvilket innhold (og hvilke annonser) som vil treffe og fenge best. For å gjøre dette trengs det ekstreme mengder data – og derfor lagres alt man gjør på mediet.
3. Algoritmer og Ekkokamre
Algoritmene er laget for å vise deg det du er aller mest interessert i, fordi det genererer mer engasjement. Konsekvensen er ekkokammer effekten: dine eksisterende interesser og meninger blir ubevisst forsterket.
Jo trangere ekkokammeret blir, jo mindre tilgang har du på et mangfoldig verdensbilde. Dette fører oftest til økt ekstremisme og politisk polarisasjon.
Isolasjonssimulator
Dette er mobil-feeden din. Klikk på innholdet du liker for å trene algoritmen!
Måling av din profil (0 klikk):
4. Systematiske Konsekvenser
Sosiale medier har blitt brukt til ubevisst manipulasjon av mennesker langt utenfor ren produktreklame, eksempelvis politiske formål. Eksempler er Facebook sine egne psykiske forsøk, amerikanske valgkamper, og "Pizzagate"-fenomenet.
Menneskehjerner er rett og slett ikke biologisk tilpasset for å tåle og prosessere sosiale sammenligninger med så mange mennesker, døgnet rundt hver eneste dag. Det gir:
- Reduksjon i sosiale aktiviteter fysisk.
- Enorm økning av kroppspress.
- Økt usikkerhet, spiseforstyrrelser, depresjoner, og fare for selvmord blant unge.
Man skulle tro at det holdt å vite om hvordan det fungerer, for å motstå. Men kjennskap til mekanismene hjelper dessverre ingenting når systemet utnytter biologien vår på dypeste plan. Selv utviklerne bak er avhengige!
5. Facebooks Offisielle Svar
Når man leser mellom linjene i Facebooks (nå Meta) offisielle motsvar til dokumentaren The Social Dilemma, som de kalte "What 'The Social Dilemma' Gets Wrong", finner man et klassisk eksempel på selskapskommunikasjon: De avviser dokumentarens konklusjoner, men bekrefter i stor grad de mekanismene filmen beskriver.
Ved å forsvare hvordan og hvorfor de gjør som de gjør, ender Facebook opp med å indirekte bekrefte filmens hovedpåstander om plattformens grunnleggende arkitektur. Her er en analyse av hva de sier, og hva det egentlig betyr.
1. "Hvis produktet er gratis, er du produktet"
Filmens påstand: Brukernes oppmerksomhet og data er det egentlige produktet som selges til annonsører.
De avviser dette kategorisk ved å si "Vi selger ikke informasjonen din til noen". De forklarer at de er en annonsestøttet plattform, noe som gjør at tjenesten kan være gratis, og at de kun selger tilgang til målgrupper for annonsører.
De bekrefter nøyaktig det filmen hevder om "overvåkingskapitalisme". Det stemmer at Facebook ikke selger rådataene dine (som navn eller e-post) i en database. Men forretningsmodellen er utelukkende bygget på å samle inn enorme mengder adferdsdata for å kunne selge mikromålrettet annonseplass. At de beholder dataene internt for å trene sine egne algoritmer i stedet for å selge dem, gjør ikke brukerens oppmerksomhet mindre kommersialisert.
2. Algoritmene skaper avhengighet
Filmens påstand: Plattformen bruker psykologiske verktøy (som belønningssystemer og dopamin) for å holde brukerne hektet.
De hevder at algoritmene deres ikke er laget for å skape avhengighet, men for å holde plattformen "relevant og nyttig". De sammenligner sine algoritmer med anbefalingene man får fra Netflix, Amazon og Uber.
Å gjøre en feed "relevant" handler om én ting: engasjement (at brukeren blir værende og scroller). Ved å sammenligne seg med Netflix og Amazon, bekrefter Facebook at målet er å maksimere tiden brukeren bruker på tjenesten for å kunne vise flest mulig annonser. De avviser ordet "avhengighet", men bekrefter at de optimaliserer for kontinuerlig bruk og oppmerksomhet.
3. Plattformen driver polarisering og spredning av feilinformasjon
Filmens påstand: Algoritmene belønner innhold som skaper sterke følelser (ofte sinne eller frykt), noe som fører til polarisering og at falske nyheter sprer seg raskere enn sanne.
De forsvarer seg med at de har endret nyhetsstrømmen for å prioritere "meningsfulle sosiale interaksjoner" fremfor viralt innhold, og de fremhever at de har ansatt tusenvis av innholdsmoderatorer for å fjerne hatprat.
Hvis systemets naturlige tilstand ikke var å forsterke ekstremt eller polariserende innhold, ville de ikke trengt en hær av moderatorer eller massive, proaktive inngrep for å rydde opp. Ved å skryte av hvor mye ressurser de bruker på å bekjempe feilinformasjon og hatprat, bekrefter de samtidig at algoritmene deres i utgangspunktet skalerer opp nettopp dette innholdet svært effektivt.
4. Ekkokamre og politisk manipulasjon
Filmens påstand: Brukere blir låst i "filterbobler" hvor de kun ser informasjon som bekrefter deres eksisterende verdensbilde.
De viser til at plattformen faktisk eksponerer brukere for et bredere spekter av politiske meninger enn de vanligvis møter i hverdagen.
Dette er en avsporing fra hvordan innholdet presenteres. Selv om en bruker teoretisk sett kan eksponeres for flere synspunkter, bekrefter Facebook ikke at denne eksponeringen er konstruktiv. Fordi algoritmen prioriterer engasjement, vil innhold fra "den andre siden" ofte presenteres på en måte som er designet for å provosere frem reaksjoner, noe som bare forsterker "oss mot dem"-mentaliteten fremfor å bryte ned ekkokamre.
Oppsummering
I bunn og grunn forsvarer Facebook seg med semantikk (ordkløveri rundt hva "å selge data" betyr) og ved å vise til plasterne de har satt på sårene. Dette understreker ironisk nok filmens kjernebudskap: At problemene ikke er bugs, men fundamentale byggeklosser i plattformens arkitektur.