Twitters algoritmer anklages for racediskrimination

Twitters algoritmer anklages for racediskrimination

Når man uploader et billede på Twitter, vil de fleste brugere se et preview – et lille udsnit der viser den vigtigste del af billedet – på deres tidslinje.

Den funktion er indtil videre blevet automatiseret af Twitters software, som automatisk udvælger forhåndsvisningen baseret på maskinlæring og algoritmer.

Men som vi ved, er algoritmer ikke altid lige skarpe. Og hos Twitter kunne der være tegn på, at deres forhåndsvisninger favoriserer hvide personer, når billederne inkluderer mennesker.

Eksperimentet på Twitter har grebet om sig i weekenden, hvor flere og flere brugere rapporterer, at deres test giver samme resultat: Forhåndsvisninger fremhæver hvide personer.

Selv med billeder af tegneseriefigurer viser der sig stadig et racebias. I dette tilfælde med Lenny og Carl fra ‘The Simpsons’ (klik på billedet for at problemet i aktion).

Problemet skyldes efter sigende, at Twitters algoritmer fokuserer på kontrastniveauet i billeder for at fremhæve lyse dele, der bedre kan ses af det blotte øje, i platformens forhåndsvisninger af billeder.

Der er altså ikke nødvendigvis tale om bevidst racediskrimination, men det er stadig et kontroversielt eksempel på, hvordan teknologier som maskinlæring og AI indirekte kan afspejle problematikker som institutionel racisme.

Twitters teknologichef, Paraq Agrawal, har efter brugernes eksperimenter udtalt, at algoritmen bag forhåndsvisninger allerede er blevet testet godt og grundigt igennem før, men at de nu vil have fortsat fokus på optimering.

Sponsoreret indhold
Features

Gå ikke glip af