Poate o strategie inteligentă #AI să convingă UE că moderarea conținutului #Facebook este în vârf pentru a se retrage?

Pe 17 februarie, în timpul întâlnirii cu factorii de decizie europeni la Bruxelles, CEO-ul Facebook Mark Zuckerberg (foto) a lansat o carte albă în care își subliniază strategia de a face față conținutului dăunător de pe platformele de social media. Ca răspuns la dorința Uniunii Europene de a spori supravegherea sectorului tehnologic, miliardarul a argumentat că industria ar trebui reglementată la nivel global, mai degrabă decât la nivel local.

El a susținut, de asemenea, că responsabilitatea companiilor de tehnologie pentru conținutul dăunător de pe platformele lor ar trebui să fie limitată – atâta timp cât au sisteme eficiente de moderare a conținutului. Cu toate acestea, sugestiile lui Zuckerberg au primit o primire categoric geroasă la Bruxelles. Chiar și după întâlnirea cu Zuckerberg, UE a susținut că noua propunere de moderare a conținutului a Facebook a fost insuficientă pe mai multe fronturi, în special nereușind să delimiteze pașii concreti pe care platforma va lua pentru a combate conținutul ilegal online. "Nu e destul. Este prea lent, este prea scăzut în ceea ce privește responsabilitatea și reglementarea”, a opinat comisarul pentru strategia de date Thierry Breton, după întâlnirea cu directorul executiv al Facebook.

Unde este insuficient sistemul actual al Facebook?

Giganții tehnologiei au o fereastră destul de îngustă pentru a convinge factorii de decizie europeni că propriile lor eforturi de a reduce conținutul problematic sunt suficiente. Legea privind serviciile digitale a Comisiei, revizuirea mult așteptată a directivei UE privind comerțul electronic, veche de 20 de ani, este programată să fie lansată în cursul acestui an. După cum a remarcat Breton, „dacă vedem că [procesul propriu al Facebook pentru moderarea conținutului] nu este ceea ce avem nevoie în ceea ce privește propriile noastre standarde, va trebui să reglementăm și să introducem acest lucru în [Legea serviciilor digitale]”.

Facebook este hotărât că este capabil să rezolve problema moderării conținutului în sine, folosind progresele în inteligența artificială (AI) și învățarea automată pentru a-și îmbunătăți sistemul actual. Sarcina spinoasă de a identifica și elimina materialele problematice este în prezent externalizată către profesioniști terți, care își folosesc discreția pentru a determina de ce o imagine sau un videoclip este inacceptabil.

Încrederea pe o astfel de supraveghere umană este problematică, având în vedere natura îngrozitoare a unor moderatori de conținut care sunt forțați să verifice – faptul că angajații care moderează conținutul pentru Facebook din Lisabona, Dublin și Varșovia au atestat că munca lor le-a dat PTSD este sigur că va ridica semnale roșii. în instituţiile europene. În plus, eficacitatea moderației umane a fost pusă sub semnul întrebării, după ce Facebook nu a reușit în mod repetat să elimine rapid conținutul dăunător, cum ar fi transmiterea în direct din 2019 a atacului moscheii de la Christchurch.

AI poate bloca unele dintre punctele moarte ale Facebook

Inteligența artificială are potențialul de a reduce semnificativ această dependență de moderația umană. Algoritmii antrenați de învățarea automată pot sprijini moderatorii nu numai prin reducerea expunerii acestora la conținut online dăunător, ci și prin creșterea productivității și acurateței acestora. Facebook susține că a văzut rezultate promițătoare în experimentele sale cu AI până acum – conform platformei, în a doua jumătate a anului 2019, platforma a reușit să semnaleze 99.8% din conținutul grafic și 99.5% din nuditate și exploatarea copiilor chiar înainte ca utilizatorii să le semnaleze. . Desigur, tehnologia încă mai are nevoie de reglare fină – algoritmii de moderare a conținutului bazați pe inteligență artificială încă se luptă în mod deosebit cu recunoașterea nuanțelor discursului instigator la ură, de exemplu – o problemă de care Uniunea Europeană este preocupată în special.

În plus, Uniunea Europeană se teme să nu permită Facebook-ului să exploateze o tehnologie atât de sensibilă precum AI. Aceste îngrijorări provin în principal din istoricul slab al Facebook în îndeplinirea standardelor de transparență ale Europei – ridicând spectrul că compania ar putea dezvolta „algoritmi cutie neagră” care împiedică auditurile terțelor sau guvernamentale pe platformă.

În centrul politicii digitale – lansată săptămâna trecută de țarul digital al UE și șefa de concurență, Margrethe Vestager – este reglementarea modului în care companiile folosesc inteligența artificială. În timp ce UE dorește ca guvernele să monitorizeze aspectele mai riscante ale acesteia, cum ar fi utilizarea tehnologiei de recunoaștere facială, multe aplicații din propria curte a Europei demonstrează cum poate fi utilizată atât în ​​siguranță, cât și eficient. Poate Facebook să țină cont de ei?

Aplicațiile de rețele sociale de nouă generație își pun amprenta utilizând AI în mod inovator

O aplicație europeană în special a valorificat în mod creativ inteligența artificială pentru a oferi tinerilor săi utilizatori o experiență mai sigură și mai plăcută. Yubo, o aplicație de transmisie în direct pentru vârste cuprinse între 13 și 25 de ani, se bazează pe un echilibru între algoritmi complecși și educarea tinerilor cu privire la daunele online pentru a menține cei 20 de milioane de utilizatori în siguranță pe platformă. Un algoritm atent antrenat detectează conținut problematic, cum ar fi nuditatea sau pe cineva doar în lenjerie intimă, într-un flux live - care este momentul în care sistemul de intervenție în timp real al lui Yubo pornește, trimițând un mesaj de avertizare utilizatorilor explicând de ce un astfel de comportament este inacceptabil. Dacă utilizatorul nu își corectează comportamentul, fluxul poate fi oprit de la distanță.

Pentru a se asigura că aplicația este rezervată adolescenților și tinerilor adulți, între timp, Yubo a încheiat un parteneriat cu popularul furnizor de identitate digitală din Marea Britanie, Yoti, care potrivește documentele de identificare încărcate cu selfie-urile utilizatorului folosind software-ul de recunoaștere facială. Tehnologia lui Yoti – care este, de asemenea, implementată în supermarketuri pentru a se asigura că tinerii sub 18 ani nu cumpără bunuri restricționate, cum ar fi țigări sau alcool – poate fi folosită de alte aplicații de social media pentru a-și „încărca vârsta” comunității sau pentru a se asigura că utilizatorii sunt cine spun ei că sunt.

Încercările lui Yubo de a distruge conținutul online problematic din naștere — prin combinarea moderației asistate de computer cu sensibilizarea tinerilor utilizatori cu privire la ceea ce se poate face și la ce nu trebuie făcut în cazul protocolului online bun — au făcut o explozie în sectorul tehnologiei. De asemenea, ar trebui să ofere un exemplu încurajator atât giganților tehnologici precum Facebook, cât și autorităților de reglementare precum Uniunea Europeană, conform căruia platformele de social media pot atinge un echilibru sănătos între dependența excesivă de AI sau de supravegherea umană.

Inteligența artificială nu este un remediu pentru provocările cu care se confruntă platformele de social media. Întrucât Facebook încearcă să convingă UE că este capabilă să-și modereze propriul conținut, totuși, ar fi bine servit dacă luăm un reper de la aplicațiile de nouă generație care au reușit să dezvolte o strategie holistică, încorporând AI, pentru a-și menține utilizatorii în siguranță. .

Trimiteți acest articol: