A BBC Newst több mint 100 olyan ember is megkereste, akik szerint tévesen tiltották le őket a Meta platformjain. Sokak számára anyagilag és mentálisan is megterhelő volt az eset.
Értéke van
Egy fióknak a közösségi médiában több szempontból is lehet jelentősége a tulajdonosa számára: a BBC szerint egyesek a tiltás miatt a megélhetésüket féltették, mert elvesztették üzleti oldalaikhoz való hozzáférésüket, míg mások az emlékeik és fényképeik elvesztését emelték ki.
A Messengeren például egészen sok olyan tartalom halmozódhat fel, ami a régi magánlevelezésekhez hasonló jelentőséggel bírhat valaki számára.
Sokan mentális egészségük romlásáról is beszámoltak.
Petíció is készült
Az esetek kapcsán július 9-én People Over Platforms Worldwide néven jött létre egy szervezet a digitális jogok védelme céljából, petíciót is indítottak.
Már harmincezren írták alá: eszerint a Meta mesterséges intelligenciával működő moderációs rendszere tévesen tiltja le a fiókokat, és a fellebbezési folyamat alkalmatlan a problémák kezelésére. Több ezer ember tette közzé tapasztalatait a témának szentelt Reddit-fórumokon, sokan pedig a közösségi médiában számoltak be az esetekről.
A Meta korábban elismerte, hogy problémák vannak a Facebook-csoportokkal, de tagadta, hogy ez szélesebb körben is érintené platformjait.
„Felháborító és gyalázatos”
A BBC megváltoztatta a cikkben szereplő személyek nevét, hogy védje kilétüket, de három embert is részletesebben kérdeztek tapasztalataikról.
Az észak-skóciai Aberdeenből származó Davidnek június 4-én függesztették fel az Instagram-fiókját azzal az indokkal, hogy megsértette a gyermekek szexuális kizsákmányolására, bántalmazására, illetve a meztelenségre vonatkozó közösségi irányelveket. Még aznap fellebbezett, de véglegesen letiltották Instagram-fiókját, valamint kapcsolódó Facebook- és Messenger-fiókjait is. Azt nyilatkozta a BBC-nek:
Évtizednyi emlékem veszett el – üzenetek, fotók, bejegyzések –, mindez egy teljesen alaptalan és gyalázatos vád miatt.
Az ügyfélszolgálat pedig csak AI által generált válaszokat és sablonleveleket küldött, máig nem tudja, konkrétan mi vezethetett ehhez a vádhoz.
Rengeteg álmatlan éjszakám volt, extrém stressz, elszigeteltség. Különösen az a tudat volt borzalmas, hogy ilyen vádat emeltek ellenem.
A médiában való megjelenés segített
A BBC július 3-án jelezte David esetét a Metának más hasonló panaszokkal együtt, és ennek igazán pozitív eredménye lett: néhány órán belül visszakapta a fiókját.
Faisaltnak június 6-án függesztették fel az Instagram-, majd a Facebook-fiókját. A londoni, kreatív pályára készülő fiatal az Instagramon keresztül szerzett megrendeléseket, és úgy gondolta, nem tett semmi rosszat. Amikor fellebbezett, pár perc alatt végleg le is tiltották. Hasonló problémákról számolt be, mint David, az ő ügyét is jelezte a BBC a Metának, aminek szintén pozitív lett a hatása. Ő úgy döntött, a továbbiakban megpróbálja korlátozni az Instagram-használatát, illetve jelezte, tart attól, hogy a jövőben egy háttérellenőrzés során előkerülhet a tiltás ténye.
A harmadik felhasználó, Salim is hasonló vádak miatt vesztette el fiókjait, és ő is a sajtóhoz fordult. Azt mondta, a fellebbezések többnyire figyelmen kívül maradnak, üzleti fiókok is áldozatul esnek, és az AI átlagos embereket bélyegez meg bűnelkövetőként. Körülbelül egy héttel a letiltás után állították vissza az Instagram- és Facebook-fiókját.
Mi történt valójában?
A BBC kérdésére a Meta nem kívánt reagálni, és arra sem válaszolt, hogy rendszerszintű problémáról van-e szó a gyermekbántalmazással kapcsolatos vádak tekintetében. Viszont Dél-Koreában a Nemzetgyűlés Tudományos, Informatikai, Kommunikációs és Műsorszórási Bizottságának elnöke szerint a Meta elismerte: előfordulhatnak indokolatlan letiltások az országban.
Dr. Carolina Are, a Northumbria Egyetem Digitális Állampolgárság Központjának közösségi média kutatója szerint nehéz megállapítani a probléma gyökerét, mivel a Meta rendszere nem átlátható. Szerinte az ok lehet néhány irányelv szövegezésének frissítése, illetve a máig nem működőképes fellebbezési rendszer is.
A Meta gyakran nem közli, pontosan mi váltotta ki a törlést. Nem tudjuk, mi ment félre az algoritmussal.
Emellett a Meta – akárcsak a többi nagy technológiai vállalat – az elmúlt években egyre nagyobb nyomás alá került a platformjai biztonságossá tételét tekintve, rendre felmerül az is egy-egy országban, hogy betiltsák a 16 éven aluliak számára a közösségi média, vagy akár az okostelefonok használatát, maga a Meta is dönt ilyen korlátozásokról.
A cég a BBC-nek korábban azt nyilatkozta, hogy emberek és technológia kombinációját használja a szabálysértő fiókok kiszűrésére, és nem tud megnövekedett számú téves letiltásról.
A gyermekek szexuális kizsákmányolására vonatkozó szabályzat szerint az ilyen tartalmak közé tartoznak a gyermekekről szóló „nem valós, de emberi jellegű” ábrázolások is, például művészeti alkotások, AI által generált képek vagy fiktív karakterek. Szűrik a „gyanús viselkedést” is, ha például gyerek jelent be felnőtt fiókot, vagy valaki többször keres „káros” kifejezésekre.
A Meta állítása szerint ha gyermekbántalmazás gyanúja merül fel, értesíti az amerikai National Center for Missing and Exploited Children szervezetet, ami a bejelentéseket világszerte megosztja a hatóságokkal. Ez utóbbi nyilván igen aggasztó, ha valakit ártatlanul megvádolnak.
Az utóbbi időszakban egyébként is megszaporodtak a tiltások a Meta részéről, más indokokra hivatkozva is. A Nemzeti Média- és Hírközlési Hatóság (NMHH) idén év elején készült felmérése szerint már a korábbi időszakokban is félmillió magyar tartalmait tartalmait törölte vagy tiltotta a Facebook.
