Ndërsa zhvillohej lufta në Gaza dhe tensionet rriteshin në Lindjen e Mesme në muajin maj, Instagrami ndaloi për pak kohë materialet me hashtag #AlAqsa, që i referoheshin Xhamisë Al-Aqsa në Jeruzalemin e Vjetër, një pikë e nxehtë e konfliktit.
Kompania Facebook, e cila zotëron rrjetin Instagram, kërkoi më vonë ndjesë, duke shpjeguar se algoritmet e saj kishin ngatërruar emërtimin e vendit të tretë më të shenjtë të Islamit, me emrin e Brigadës së Martirëve Al-Aqsa, krahu i armatosur i partisë Fatah.
Për folësit e gjuhës arabe, ky ishte vetëm shembulli më i fundit se si gjiganti i mediave sociale kufizon debatin politik në rajon. Arabishtja është ndër gjuhët më të përdorura në platformën e Facebook-ut, dhe kompania kërkon ndjesë herë pas here për heqje materialesh të ngjashme.
Tashmë, dokumente të brendshme të publikuara nga ish-menaxherja në kompaninë Facebook, Frances Haugen, tregojnë se problemet në sistem janë shumë më të pranishme, se ato nuk janë thjesht disa gabime të pafajshme, dhe se kompania Facebook e ka kuptuar prej vitesh rëndësinë e këtyre dështimeve dhe se ka bërë pak për t’i korrigjuar.
Gabimet nuk kufizohen vetëm tek materialet në gjuhën arabe. Një shqyrtim i dokumenteve të publikuara zbuloi se në disa prej rajoneve më delikate të botës, përhapen materiale me përmbajtje terroriste dhe gjuhë urrejtjeje, për shkak se kompania nuk ka moderatorë të mjaftueshëm që flasin gjuhët vendase dhe që kuptojnë kontekstin kulturor. Platformat gjithashtu nuk kanë ofruar zgjidhje nëpërmjet inteligjencës artificiale për filtrimin e përmbajtjes së dëmshme në disa gjuhë të ndryshme.
Në vende si Afganistani dhe Mianmari, këto hendeqe kanë lejuar lulëzimin në plaftformë të fjalorit provokues, ndërsa në Siri dhe në territoret palestineze, Facebook-u ndalon komunikimin e zakonshëm, duke bllokuar fjalët e përditshme.
“Problemi thelbësor është se platforma nuk u ndërtua me synimin që një ditë të moderonte komunikimet politike të të gjithë njerëzve nëpër botë”, thotë Eliza Campbell, drejtore e Programit Kibernetik në Institutin e Lindjes së Mesme. “Por, për shkak të rëndësisë politike dhe burimeve që Facebook-u ka, moderimi është një projekt me mbështetje çuditërisht të pakët”.
Ky është vetëm një ndër artikujt e publikuar të hënën, bazuar në dokumentet e paraqitura nga zonja Haugen tek Komisioni për Siguracionet dhe Këmbimin (një agjenci e qeverisë amerikane që vëzhgon investimet dhe praktikat tregtare), materiale të cilat iu paraqitën edhe Kongresit nga ekipi i saj ligjor, në një formë të redaktuar. Materialet, në versionin e redaktuar, u shqyrtuan edhe nga një konsorcium organizatash të pavarura të mediave, ndër to edhe agjencia e lajmeve Associated Press.
Në një deklaratë që kompania Facebook i dërgoi agjencisë Associated Press, një zëdhënës shprehet se gjatë dy viteve të fundit kompania ka punësuar më shumë staf me dialekt vendas dhe me ekspertizë tematikash, për të rritur kapacitetet e saj për të shqyrtuar përmbajtjen në mbarë botën.
Krahas arabishtes, probleme të ngjashme u shfaqën me gjuhën në Mianmar, ku pas pastrimit etnik të rohingave dhe grushtit ushtarak të shtetit, grupet e të drejtave të njeriut thanë se algoritmi i Facebook-ut vazhdoi të mbështesë propagandën e ushtrisë. Me gjithë debatin e brendshëm të stafit të Facebook-ut në Indi, platforma nuk filtroi pjesën më të madhe të përmbajtjes anti-myslimane të partisë së djathtë nacionaliste të Kryeministrit Narendra Modi.
Gjatë revoltës së Pranverës Arabe në vitin 2011, Facebook-u krijoi fillimisht një bazë masive përdoruesish në Lindjen e Mesme. Ata e shikonin këtë platformë si një mundësi e rrallë e shprehjes së lirë dhe një burim jetik lajmesh në një rajon ku qeveritë autokratike ushtrojnë kontroll të rreptë. Por, ky reputacion ka ndryshuar gjatë viteve të fundit.
Gazetarëve dhe aktivistëve të shumtë palestinezë u janë fshirë llogaritë e tyre në mediat sociale. Arkiva të luftës civile siriane janë zhdukur. Dhe një volum i madh fjalësh të përditshme nuk lejohet të përdoren nga folësit e arabishtes, gjuha e tretë më e pranishme në Facebook.
Gazetarëve në Rripin e Gazës iu bllokuan llogaritë dhe në vazhdim u detyruan të mos përdorin fjalë të caktuara apo të modifikonin mënyrën e të shkruajturit të fjalëve, për të mos u bllokuar nga algoritmet.
Izraeli është i vetmi vend ku kompania Facebook ka një zyrë kombëtare. Agjencitë izraelite të sigurisë dhe ato monitoruese i dërgojnë Facebook-ut mijëra urdhëra për të hequr llogaritë e palestinezëve dhe postimet e tyre.
“E mbingarkojnë sistemin duke i kërkuar më shumë se ç’mundet të përballojë”, thotë Ashraf Zeitoon, ish-drejtor në Facebook për politikat në Lindjen e Mesme dhe rajonin e Afrikës Veriore, i larguar nga kompania në vitin 2017. “Kjo e detyron sistemin të bëjë gabime në favor të Izraelit. Askush tjetër në rajon nuk e kupton më mirë se si funksionon Facebook-u”.
Kompania Facebook tha në një deklaratë se i trajton kërkesat për heqje materialesh nga qeveritë njëlloj si kërkesat nga organizatat e të drejtave të njeriut apo nga anëtarë të komunitetit, por se mund ta kufizojë qasjen bazuar në legjislacionin vendas.
“Çdo sugjerim se ne heqim materiale vetëm për shkak të presionit të qeverisë izraelite është krejtësisht i pasaktë”, shtoi kompania.
Gazetarët dhe aktivistët sirianë raportojnë vështirësi të ngjashme, ndërsa përballen me një censurë të mbështetur nga një “ushtri” elektronike ndjekësish të Presidentit Bashar Assad që në mënyrë agresive kërkojnë heqje të postimeve.
Ndërsa gazetarët dhe aktivistët në Siri thonë se Facebook-u vetëm i bllokon dhe nuk i bën të qarta se cilat janë rregullat, edhe në Afganistan shumë përdorues nuk i kuptojnë rregullat e Facebook-ut.
Sophie Zhang, ish-punonjëse për tre vite në Facebook, tha se kontraktorët në zyrën e Facebook-ut në Irlandë i ishin ankuar se u duhej të mbështeteshin tek Google Translate (algoritmi i përkthimeve të kompanisë Google), pasi nuk u caktohej përmbajtja që duhej të shqyrtonin bazuar në njohurinë e gjuhëve që ata zotëronin.
Facebook-u ia ka kaluar moderimin e përmbajtjes disa kompanive gjigante që funksionojnë në vende të largëta, si në Kazablanka, të Marokut, apo në Essen, të Gjermanisë. Duke qenë se këto kompani nuk mund të sponsorizojnë viza pune për punonjës të rinj, ato mbështeten tek punësimi i vendasve me aftësi linguistike të kufizuara që u duhet të punojnë me mbi 30 dialekte të arabishtes apo variacione të mëdha mes shoqërive të ndryshme.
Megjithëse kompania pranon nevojën për të investuar më shumë në sistemet e saj për arabishten, ajo pranon se nuk ekziston një strategji e vetme që do ta ndreqte situatën.
Ndërkaq, shumë njerëz në Lindjen e Mesme shqetësohen se dështimet e Facebook-ut kanë pasoja shumë të mëdha, me potencialin për të zgjeruar pabarazinë e hershme, për të dekurajuar aktivizmin qytetar dhe për të ushqyer dhunën në rajon.
“I thamë Facebook-ut: Doni që njerëzit të shprehin eksperiencat e tyre në platformat sociale, apo doni t’i heshtni?”, tha Husam Zomlot, i dërguari palestinez në Britani, i cili bisedoi rishtazi në Londër me zyrtarë të Facebook-ut për çështjen e ndalimit të materialeve në arabisht. “Nëse ua hiqni zërin njerëzve, alternativa do të jetë më e shëmtuar”, shtoi ai.
