I sidste uge meldte Facebook om en ændring i deres Trending Topics. I et forsøg på at opskalere featuren globalt, ville platformen skære de korte opsummeringer væk og i stedet lade tallene tale for sig selv. Med en algoritmisk båret strategi håbede Facebook at skære i både tid og eventuelle subjektive holdninger – som de før havde fået kritik for at skubbe ned i halsen på brugere.
Men i løbet af få dage har ændringen i stedet set Facebook sprede falske og upassende nyhedshistorier.
Over weekenden dukkede en trend eksempelvis op i Facebooks oversigt, der meldte at Fox News’ Megyn Kelly var blevet fyret fra det republikanske medie for at have støttet Hillary Clinton. Kelly er dog hverken Hillary-støtte eller blevet opsagt fra Fox. Alligevel nåede historien at ligge som topnyt i flere timer.
En enkelt and her eller der har alle dage været uundgåeligt i mediebranchen – problemet hos Facebook opstår i det her tilfælde da Kelly-nyheden hurtigt blev spottet eksternt som falsk, men alligevel fik lov til at ligge på listen.
Facebook er den primære nyhedskilde for næsten halvdelen af voksne brugere i USA, og har længe forsøgt at navigere mellem deres egen identitet som upartisk platform og manges syn om Facebook som debatskabende nyhedskurator.
Som et led i bevægelsen væk fra en menneskelig kuratering opsagde Facebook i sidste uge den journalistiske redaktion bag Trending Topics, og indsatte i stedet et hold ingenører, hvis formål det var at kvalitetstjekke algoritmen og sikre, at der trods alt var en form for filter. Ellers, forklarede Facebook, ville emner som #lunch trende hver dag omkring middagstid.
En trend med den misvisende overskrift »SNL Star Calls Ann Coulter a Racist C*nt« (sagt som vits på Comedy Central) og en viral video under hashtagget #McChicken (en mand knalder en kyllingesandwich) viser, at Kelly-nyheden ikke er den eneste slinger i Facebooks AI-vals.
Resultatet var nogenlunde det samme, da Microsoft byggede en AI-assistent, Tay.ai, der i løbet af ganske få timer med brugerinput blev en Hitler-elskende sex-robot.
Problemet er, at Facebook sådan set er korrekte i deres vurdering: Hvis de skal være en neutral platform og blot fremhæve populære søgeord, er en journalistisk redaktion ikke passende. Uden menneskelig kuratering kan vi dog se frem til meget mere misinformation og upassende indhold – som brugerne selv må blive bedre til at sortere i.
Læs også: Kommentar: Leslie Jones’ tragiske sag viser, at racisme og sexisme trives online