Feminista színdarabot tiltott le a Facebook, miközben a gyermekbántalmazással és az arabellenességgel nincs baja az algoritmusnak
Az emberi jogi szervezetek évek óta bírálják a Facebook és az Instagram tartalommoderálását annak szelektív jellege miatt. Most a gyakorlatban is megmutatkozott, mit jelent ez: a Meta rendszere eltávolított egy feminista szerző művéből készült színdarabot népszerűsítő posztot, ugyanakkor nem korlátozta egy magát szélsőségesen arabellenesnek nevező tartalomgyártó gyűlöletkeltő bejegyzéseit és a mesterséges intelligencia által generált, gyermekbántalmazást ábrázoló videókat.
A Meta tartalommoderációs rendszere szeptemberben egy barcelonai színházra csapott le, amely Virginia Woolf Saját szoba című könyvének adaptációját kívánta promotálni. A rendszer azzal az indoklással blokkolta a posztot, hogy az megsértette a „társadalmi témák” népszerűsítésére vonatkozó szabályzatot. A Teatre Raval tájékoztatása szerint az előadás promóciós posztjait mind az Instagramon, mind a Facebookon törölték.
A színház megkeresésére a Meta azt válaszolta, hogy a polgárjogokra, a feminizmusra vagy a társadalmi reformokra vonatkozó bármilyen említést az automatikus rendszer általában szociális témának minősít, amelyeket rendre blokkolnak. A cég ezt követően azt javasolta a színház munkatársának, hogy távolítsák el a problémás kulcsszavakat, anélkül hogy pontosan megmondták volna, mit kifogásol a tartalomkezelő rendszer. Nem tudni, hogy a posztot Virginia Woolf neve, a feminizmus szó vagy mindkettő miatt utasították-e el.
„Korlátlan hatalmat adtunk a közösségi médiának, és minden nap láthatjuk, mennyire veszélyes ez” – jelentette ki Clara Sanchis, az egyszemélyes előadás főszereplője.
A promóciós kampány blokkolása azért is különösen kellemetlen, mert az elmúlt hónapokban több botrány is napvilágot látott a Meta tartalommoderálási alapelveivel kapcsolatban. Augusztusban egy magát szélsőségesen arabellenesnek nevező Jake Lang nevű férfi „keresztes menetet” hirdetett Michiganben, majd erőszakra felhívó posztokat osztott meg büntetlenül. Szeptember elején pedig arról számoltak be, hogy a Meta jelentős mennyiségű, mesterséges intelligencia által generált, gyermekbántalmazást ábrázoló videót tárol. A cég a megkeresésekre néhány videót eltávolított, a többséggel kapcsolatban azonban nem volt hajlandó intézkedni, így az erőszakos felvételek túlnyomó többsége továbbra is elérhető.
