Opinie: Oare sistemul de reglementare a securității Meta este defect?

Aproape orice creator de conținut sau manager de social media activ s-a confruntat recent cu aceeași problemă atunci când postează pe Facebook sau Instagram: o postare sau un cont este interzis, probabil din motive greșite.

Această situație enervantă este doar o piesă din puzzle-ul unei probleme complexe cu sistemul de reglementare a conținutului Meta. Deși Meta pare să aibă multe măsuri de control – uneori absurde – rădăcina problemei nu pare să fie rezolvată.

În ultimele câteva luni, Meta a introdus numeroase actualizări ale regulilor sale privind conținutul și a implementat reguli mai stricte, vizând crearea unui mediu online mai sănătos. Una dintre consecințe a fost că multe afaceri, editori și conturi de utilizatori au fost interzise, ceea ce a dus la sute de plângeri pe forumuri, platforme de chat și canale de social media. Mai multe publicații de știri și branduri au fost eliminate de pe platformele Meta în anumite regiuni anul acesta, stârnind îngrijorări printre proprietarii de afaceri, jurnaliști și creatorii de conținut.

Cu toate actualizările recente ale Meta, care dau impresia unei moderări mai stricte și a unei examinări mai atente a conținutului partajat pe platformele sale, postările legate de droguri, sinucidere, hărțuire sexuală, bullying, discursuri de ură, abuz și știri false continuă să scape de algoritmi, ajungând în comunitățile vulnerabile.

Nu pot să nu mă întreb: Ce se întâmplă cu sistemul de reglementare a siguranței Meta?

Conturi blocate din motive greșite

Totul începe cu un mesaj similar: „Contul tău Meta nu respectă regulile noastre.” Mulți utilizatori de Facebook și Instagram au fost blocați sau excluși temporar din conturile lor „pentru nerespectarea” regulilor Meta, chiar și atunci când ei cred că au făcut-o.

Este o situație pe care am experimentat-o la Wizcase. Sistemul Meta a marcat elemente relevante ca fiind inadecvate și a obligat managerul comunității să treacă printr-un proces de contestare și să furnizeze documente de identitate emise de către guvern.

Sute de utilizatori, manageri de comunitate și manageri de conturi s-au plâns pe platforme precum Reddit și alte forumuri, chat-uri și canale de social media despre situații similare. În mai multe scenarii nefericite, utilizatorii își pierd conturile și nu pot face nimic în privința acestui lucru, și nici măcar nu primesc o explicație.

„Echipa de suport de la Facebook este groaznică. Indiferent de câte ori le spunem totul sau le explicăm totul, pur și simplu nu înțeleg,” a spus un utilizator pe Reddit într-un thread despre conturi blocate. „Un lucru pe care îl pot spune imediat este că nu vei reuși să îți recuperezi contul decât dacă cheltuiai sute de mii pe zi,” a adăugat altul.

Această problemă, deși poate părea că afectează doar creatorii de conținut, este doar o mică parte a unei provocări mai mari.

Meta Împotriva Proceselor

De ani de zile, Meta a investit în moderarea conținutului și în noi strategii pentru a lucra pe o platformă mai sigură pentru utilizatori și pentru a se proteja de noi procese – cel mai recent este cel de la moderatorii de conținut kenieni, care solicită în prezent 1.6 miliarde de dolari ca despăgubire pentru concedierile masive și pentru materialul stresant la care au fost expuși în timp ce analizau conținutul pentru Facebook.

Compania de tehnologie se bazează pe terțe părți pentru a ajuta la reglementarea conținutului și dezvoltă instrumente pentru a recunoaște când conținutul încalcă regulile platformei. Cu toate acestea, aceste măsuri nu au fost suficiente și situația a scăpat de sub control, mai ales printre utilizatorii minori.

În 2021, Meta a introdus noi funcții de protecție, dar acest lucru nu a oprit Senatul să includă Instagram și Facebook printre platformele considerate dăunătoare pentru copii anul trecut. Gigantul tech a înfruntat un proces comun intentat de 33 de state din Statele Unite pentru algoritmul său manipulator și dăunător.

De la începutul anului, Meta a împărtășit actualizări privind noi instrumente de control al siguranței. În iunie, compania a îmbunătățit instrumentul său anti-hărțuire pentru a proteja adolescenții pe Instagram cu o funcție „Close Friends” implicită și cu o funcție „Limits”, astfel încât doar prietenii adevărați și familia să poată interacționa cu conținutul postat de tinerii utilizatori.

Doar câteva zile în urmă, compania a anunțat noile Conturi pentru Adolescenți pentru a proteja adolescenții și pentru a „asigura părinții că adolescenții au experiențe sigure.” Ar fi suficient pentru a proteja copiii? Ce se întâmplă cu utilizatorii mai în vârstă?

Un Ecosistem Nesigur

Facebook, Instagram și WhatsApp sunt încă afectate de conținutul dăunător care afectează utilizatorii, de toate vârstele, profesii și grupuri sociale, și nu va fi rezolvat prea curând.

Un studiu realizat de Centrul pentru Contracararea Urei Digitale (CCDH) a analizat peste 500 de milioane de comentarii pe Instagram făcute pe conturile a 10 femei politicieni din Statele Unite și a relevat că Meta nu a reușit să șteargă sau să ia măsuri în privința a 93% dintre aceste comentarii.

Multiplele procese împotriva Meta au dovedit, de fapt, că compania se luptă să-și protejeze utilizatorii de conținutul dăunător, și de asemenea, a afectat creatorii, editorii și brandurile cu filtre incorecte și instrumente de securitate slab implementate.

Desigur, aceasta este o problemă complexă și profundă care ar trebui abordată în profunzime, dar poate că a venit timpul să acceptăm că Meta nu a reușit să gestioneze această situație. Remedierile de moment nu vor rezolva un sistem care este fundamental defect. Acum, întrebarea reală este: Câți utilizatori în plus trebuie să fie interziși în mod injust, induși în eroare sau manipulați înainte ca o schimbare reală să aibă loc?