Facebook kæmper med giftigt indhold

Facebook har mange krige at kæmpe. De mest åbenlyse er beskyldninger om Fake News, misbrug af medlemmernes private informationer, datalækager og anklager om monopol dannelse og politisk censur.

I det mere skjulte slås Facebook også med at holde kontrol med det indhold, som 2,7 milliarder brugere sender ud i verdens største sociale medie. Langt fra alle billeder, videoer og tekster lever op til Facebooks regler.

Facebook har nu offentliggjort tal for de mængder af kontroversielt indhold, som er blevet standset og slettet i tredje kvartal af i år.

Det uønskede indhold kan deles op i ti områder – billedlig vold, nøgne voksne og seksuel udnyttelse, selvmord og selvskade, terror propaganda, hadetale, mobning og chikane, nøgne børn og børneporno, narko og skydevåben, falske nyheder – og den allerstørste post – spam.

Mellem juni og september i år har Facebook identificeret 1,9 milliarder indlæg som spam og fjernet dem. Spam udgør 95 procent af alt det indhold, som Facebook har slettet. Heri er dog ikke medregnet falske konti.

På tre måneder har Facebook stoppet 29 millioner poster, der indeholdt voldelige fotos og tegninger. I nogle tilfælde nøjes det sociale medie med at sætte et advarsels-skilt på de pågældende indlæg-

99 procent af dem blev fundet og markeret af Facebooks software med kunstig intelligens, før de blev rapporteret og bedømt af menneskelige censorer.

På samme måde fandt Facebooks teknologi automatisk 98 procent af alle poster, der indeholdt nøgne mennesker og fotos af seksuelle aktiviteter. 30 millioner af indlæggene fik enten en advarsel eller blev slettet. Facebook bryder sig nemlig ikke om nøgen hud.

Uheldigvis har Facebooks software filtre vist sig at være noget mindre effektive til at identificere indlæg med hadetale, mobning og personlig chikane. Kun 80 procent af de syv millioner indlæg, der blev slettet i juli, august og september blev opdaget automatisk, inden det sociale medies brugere selv meldte dem til Facebook.

Når det gælder spam, kommer det meste som regel fra falske Facebook konti. Dem er kunstig intelligens gode til at opdage. På de tre måneder har Facebook således fjernet 1,7 milliarder falske konti – de fleste få minutter, efter at de var oprettet.

Læs også Leifshows’ artikel om, hvilke ulovligheder Facebook er dygtigst til at opdage: http://www.leifshows.dk/facebook-bedst-til-at-finde-spam-og-noegne/ ….

(Indledningsfoto til artiklen: Glen Carrie / Unsplash)