Nici măcar un proces de 2.4 miliarde de dolari nu va opri ura online – Silicon Valley a fost creat special pentru a o extinde

În octombrie 2021, profesorul Meareg Amare (foto) a fost doxxed pe facebook. Săptămâni mai târziu, a fost ucis cu brutalitate în propria sa casă, scrie Courteney Mukoyi .

Acum, compania-mamă a Facebook, Meta, se confruntă cu un Proces de 2.4 miliarde de dolari, acuzat că a incitat la violență în Etiopia natală a lui Amare.

Doxxing-ul lui Amare nu a fost un accident. Informațiile sale nu au căzut doar în mâini greșite, ci au fost în mod deliberat amplificate ca un apel la justiție violentă și vigilentă. 

În lumea de astăzi, rolul statului în investigarea faptelor greșite și în protejarea nevinovaților a fost înlocuit de mafiote online care acționează ca judecător, juriu și călău.

Și nu numai în Etiopia. 

În India, 20 de persoane au fost uciși în două luni după ce a fost acuzat de răpire de copii din cauza WhatsApp în 2018. 

La scurt timp după aceea, Germania a fost martoră la revolte xenofobe zvonuri pe rețelele sociale a susținut că un german a fost ucis de solicitanții de azil. Și chiar anul trecut, revoltele istorice au izbucnit în Marea Britanie în urma uciderii tragice a trei fete tinere în Southport - alimentată de un val de dezinformare despre identitatea presupusului ucigaș.

În fiecare dintre aceste cazuri, dezinformarea a vizat comunitățile minoritare sau musulmane, care se confruntă deja nivelurile de înregistrare a crimei motivate de ură. 

Din momentul în care se naște un algoritm, acesta începe să se transforme, învățând cum – și pe cine – să urască pe baza datelor și tiparelor din care învață. La fel ca efectul fluture, chiar și cea mai mică urmă de părtinire sau discriminare este amplificată instantaneu. 

De atunci, devine rapid de nerecunoscut. Incontrolabil. Chiar și creatorului său. 

Dar chiar dacă ar fi vrut, Mark Zuckerberg nu poate trage ștecherul. 

Nu este doar faptul că mașina și-a depășit producătorul, ci și că niciunul dintre jucătorii relevanți nu are setul complet de instrumente pentru a o conține. Giganții tehnologiei au expertiza tehnică, dar nu au nici voința, nici libertatea legală de a acționa. Guvernele naționale au putere legislativă, dar se mișcă mult prea încet pentru a ține pasul cu inovația. Și organizațiile societății civile pot înțelege răul mai bine decât oricine, dar nu au infrastructura sau influența pentru a impune schimbarea.

Să luăm, de exemplu, cele ale UE Legea privind serviciile digitale – propus pentru prima dată la sfârșitul anului 2020, dar nu a fost aplicat până în 2024. În perioada îndelungată a dezvoltării sale – ChatGPT a fost lansat abia în 2022 – peisajul digital s-a schimbat dramatic, lăsând regulile învechite chiar înainte de a fi introduse. 

De la introducerea actului, executarea – care include măsuri pentru a reduce discursul instigator la ură online și amplificarea algoritmică a conținutului extremist - sa dovedit dificil. Atacurile asupra minorităților, inclusiv musulmanilor și evreilor, sunt la cote maxime. Extrema dreapta au chiar utilizat actul ca justificare pentru propria lor retorică dezumanizantă. 

La ONU luna trecută, Mohammad Al-Issa, secretar general al Liga Mondială Musulmană, a susținut că islamofobia este o criză în creștere. Al-Issa a făcut-o în mod repetat a avertizat că AI ar putea arma rețelele sociale, răspândi dezinformarea și recruta extremiști – tocmai de aceea susține că liderii credinței trebuie să fie incluși în dezvoltarea cadrelor etice. Avertismentele sale fac ecou celor de la Papa Francisc și de la Vatican care susțin că AI este un "umbra răului".

Eforturile lui Al-Issa de a contracara ura preced cu mult dezbaterea de astăzi despre IA. În ianuarie 2020, el a condus o delegație a liderilor musulmani la memorialul Auschwitz-Birkenau – una dintre cele mai importante vizite islamice pe site – subliniind un angajament mai larg de a confrunta moștenirea urii și violenței. Astăzi, pe măsură ce războiul declanșează în Orientul Mijlociu, acel angajament de a promova înțelegerea interconfesională este mai urgent ca niciodată.

„Dacă liderii credinței nu au un loc la evenimentele [AI]”, a avertizat Al-Issa într-un articol recent, „...dezbaterea în evoluție privind IA ar lipsi experți importanți în domeniu, care sunt necesari pentru a preveni orice posibilitate a unei noi ere a extremismului alimentat de IA.”

Dacă se dorește să se facă vreun progres, tehnologia, politica și comunitatea trebuie să înceteze să lucreze în mod izolat și să înceapă construirea unui răspuns comun și coordonat. 

În primul rând, trebuie să investim în cercetare și dezvoltare dincolo de bula din Silicon Valley, reducând în același timp dependența noastră de guvernanța din ce în ce mai neregulată a președintelui Trump. În continuare, ar trebui să introducem noi reguli, care să solicite corporațiilor și organizațiilor să consulte părțile interesate ale comunității pe parcursul operațiunilor lor și să ne asigurăm că algoritmii sunt instruiți pe seturi de date incluzive.

În același timp, UE trebuie să exploreze noi instrumente pentru a detecta și a atenua părtinirea inevitabilă a sistemelor AI. De asemenea, ar trebui să lansăm programe universale de alfabetizare a inteligenței artificiale și platforme de responsabilitate, educând publicul cu privire la potențialele amenințări la adresa și împuternicindu-i să raporteze orice plângeri. 

Ceea ce s-a întâmplat în Etiopia sau Southport nu este o anomalie, este un avertisment că platformele de astăzi nu mai sunt spații neutre. Ei sunt agenți activi în modelarea sentimentului și comportamentului publicului - prea adesea în moduri care incită la violență și polarizează societățile.

În cele din urmă, acest proces împotriva Meta nu este doar despre responsabilitate, ci despre prevenire. Standardele de reglementare vor ajuta cu siguranță, dar restricțiile trebuie echilibrate prin diversificare.

Numai atunci putem păstra beneficiile acestor tehnologii fără a preda însăși ideea de justiție unei gloate algoritmice incontrolabile.

Despre autor:

Courteney Mukoyi este fondatorul și directorul Fundației pentru Codul Justiției, care valorifică tehnologiile existente și emergente pentru a promova drepturile omului în comunitățile din Zimbabwe. Este un entuziast CivicTech, cu o diplomă de master în drept în comerț internațional de la Universitatea din Cape Town.

Muyoki a primit mai multe premii, inclusiv Premiul pentru inovare în democrație 2022 și Premiul Wangari Maathai AI Impact 2023. În 2023, a fost selectat pentru Mandela Washington Fellowship. În prezent, este membru al Comitetului consultativ pentru tineret al UNHRC și al Comitetului de sunet al tinerilor al Uniunii Europene. El a lucrat cu diverse organizații, inclusiv Laboratorul de Responsabilitate și Uniunea Africană, pentru a promova utilizarea tehnologiei și a inteligenței artificiale în drepturile omului și angajamentul civic. Este un antreprenor în serie care a fondat și un startup InsurTech numit TopSure, care și-a început călătoria pentru a crea startup-uri unicorn în Africa.

Trimiteți acest articol: