Vijesti

Meta nadzorni odbor kaže da su Facebook-ovo automatizirano uklanjanje slika pokvareno

Nadzorni odbor kompanije Meta kaže da bi kompanija trebala biti opreznija s automatiziranim alatima za moderiranje, kritikujući je zbog uklanjanja crtanog filma koji prikazuje policijsko nasilje u Kolumbiji. Odluka je stigla kada je odbor preuzeo niz novih slučajeva, uključujući pitanje o video snimku seksualnog napada u Indiji.

Nadzorni odbor, polu-nezavisno tijelo koje finansira Meta, razmatrao je političku karikaturu koja prikazuje kolumbijske policajce kako tuku čovjeka pendrecima. Crtani film je u nekom trenutku dodat u bazu podataka Meta Media Matching Service-a, što je značilo da ga je Metin sistem automatski označio za uklanjanje kada su ga korisnici objavili. Ali kada su korisnici vidjeli da su njihovi postovi uklonjeni, počeli su da se žale na odluku – i pobijedili. Nadzorni odbor kaže da se 215 ljudi žalilo na uklanjanje, a 98 posto žalbi je bilo uspješno. Meta, međutim, nije uklonio crtani film iz svoje baze podataka sve dok Nadzorni odbor nije preuzeo slučaj.

Automatizacija može pojačati efekte jednog lošeg poziva moderiranja

Ta činjenica je uznemirila Nadzorni odbor. „Koristeći automatizovane sisteme za uklanjanje sadržaja, banke usluge Media Matching Service mogu pojačati uticaj pogrešnih odluka pojedinačnih recenzenata“, kaže se u odluci. Sistem koji bolje reaguje mogao je da reši problem tako što je pokrenuo pregled banke kada su pojedinačni postovi sa slikom bili uspešno uloženi. U suprotnom, slike zabranjene na osnovu jedne loše odluke mogle bi ostati tajno zabranjene na neodređeno vrijeme, čak i kada pojedini recenzenti kasnije donesu drugačiji zaključak.

To je jedan od više slučajeva Nadzornog odbora koji dovodi u pitanje je li automatizirana moderacija Facebooka i Instagrama kalibrirana kako bi se izbjegla pretjerano agresivna uklanjanja, a kao iu prethodnim slučajevima, Nadzorni odbor želi više metoda, pa, nadzora. „Upravni odbor je posebno zabrinut što Meta ne mjeri tačnost banaka Media Matching Service-a za određene politike sadržaja“, napominje. “Bez ovih podataka, koji su ključni za poboljšanje rada ovih banaka, kompanija ne može reći da li ova tehnologija radi efikasnije za neke standarde zajednice od drugih.”

Od Meta-e se traži da objavi stope grešaka za sadržaj koji je greškom uključen u odgovarajuću banku. Kao i obično za preporuke odbora o politici, Meta mora odgovoriti na sugestiju, ali može birati hoće li ga implementirati.

Metine kazne za hvaljenje ekstremističkih grupa su “nejasne i stroge”

Nadzorni odbor se također pozabavio jednim od brojnih incidenata koji testiraju Facebookovu liniju između podrške ekstremističkim grupama i izvještavanja o njima. Utvrđeno je da je Meta pogriješio kada je uklonio objavu na Urdu na Facebooku u kojoj se izvještava o tome da su talibani ponovo otvorili škole i fakultete za žene i djevojčice. Pravilo zabranjuje “hvale” grupa kao što su talibani, a položaj je skinut. Upućen je nakon žalbe na poseban red za moderiranje, ali nikada nije pregledan – Nadzorni odbor napominje da je u to vrijeme Facebook imao manje od 50 recenzenata koji govore urdu.

Ovaj slučaj, kaže odbor, “može ukazivati ​​na širi problem” s pravilima o opasnim organizacijama. Nakon nekoliko incidenata, navodi se da se politika čini nejasnom i korisnicima i moderatorima, a kazne za kršenje pravila su “nejasne i stroge”. Traži jasniju i užu definiciju “hvale” opasnih pojedinaca i posvetiti više moderatora redu za pregled.

U međuvremenu, Nadzorni odbor traži javni komentar o dva slučaja: prvi se odnosi na video snimak masovne pucnjave u nigerijskoj crkvi, koji je zabranjen zbog kršenja Metine politike „nasilnog i grafičkog sadržaja“, ali je možda imao vrijednost vijesti koja je trebala opravdati nastavi tako. Slično, zanima ga da li bi video-snimku koji prikazuje seksualni napad u Indiji trebalo dozvoliti da podiže svijest o nasilju zasnovanom na kasti i spolu ili je njegov grafički prikaz dodirivanja bez pristanka previše inherentno štetan. Prozor za komentare za oba slučaja će se zatvoriti 29. septembra.

Leave a Reply

Your email address will not be published.