Harari avertizează asupra faptului că AI își creează propriile valori și preia controlul asupra lumii la conferința conectată din 2024 de la Astana

Avertisment împotriva dezvoltării inteligenței artificiale (IA) „fără suficientă gândire și atenție la principiile morale”, precum și pericolul ca „AI să-și creeze propriile valori”, „singura idee unificatoare rămasă omenirii într-o lume a mașinilor în rapidă dezvoltare. iar tehnologia este conștientizarea esenței sale biologice”, a declarat scriitorul și umanistul Yuval Noah Harari într-o sesiune live la Conferința „Connected 2024: Reimagining the Future”, care a avut loc la Palatul Independenței din Astana, Kazahstan, pe 18 octombrie 2024. 

Referindu-se la AI sau Alien Intelligence drept „străine”, el a subliniat că deciziile luate de o astfel de entitate anorganică sunt fundamental diferite de ființele umane sau animale și nu ar fi „potrivite” ființelor organice. "Cred că trebuie să ne amintim în secolul 21 de esența noastră biologică, care este comună tuturor. Trebuie să ne asigurăm că lumea este potrivită pentru ființe organice. Nu ar trebui să permitem ființelor anorganice să pună mâna pe acest lucru, să-și creeze propriile linii temporale și să preia controlul asupra lumii", a afirmat autorul bestseller-urilor Sapiens, Homo Deus și Nexus.

Subliniind că „social media este prima întâlnire serioasă a oamenilor cu inteligență artificială”, el a explicat că cele mai importante platforme de știri, precum TikTok, X, Facebook și YouTube, sunt în mare măsură direcționate de AI, care „nu se preocupă de valori sau adevăr”, având ca obiectiv „creșterea angajamentului publicului”.

"Și ce a descoperit această inteligență artificială prin încercări și erori, experimentând pe milioane sau miliarde de „șobolani de laborator" umani? S-a descoperit că este foarte ușor să captezi atenția și să păstrezi o persoană pe platformă mai mult timp prin răspândirea de știri false, teorii ale conspirației, ură, lăcomie și frică, pentru că un astfel de conținut ne atrage activ", a continuat el, adăugând că "avem o decizie în declin în lume. fiind realizată de AI, care nu are nicio legătură cu morala sau principiile umane”.

"AI poate începe să inventeze noi tipuri de valori în toate sferele - de la sistemele financiare la religie. Trebuie să înțelegem acum ce se va întâmpla cu guvernele și societatea umană atunci când oamenii vor pierde controlul asupra unor elemente esențiale precum sistemele politice sau financiare", a menționat Harari.

Subliniind că greșelile făcute în perioada industrializării, cum ar fi ascensiunea regimurilor totalitare care vizează controlul total asupra politicii și societății cu figuri precum Stalin și Hitler, nu ar trebui repetate, Harari a semnalat că „Tehnologia în sine nu este un rău. Problema este că nu știm să construim o societate de calitate bazată pe utilizarea AI”.

El a mai afirmat că nu crede în contradicții fundamentale între oameni, națiuni și țări care sunt imposibil de depășit, comparând triburile izolate ale Epocii de Piatră cu oamenii mai conectați de astăzi: Potrivit futuristului, peste 10,000 de ani de istorie, oamenii au găsit modalități de a-și rezolva diferențele și au învățat să coopereze cu cei din afară. "Astăzi, cooperarea se extinde dincolo de granițele naționale. Într-un fel, vorbim despre o rețea globală care include toate cele 8 miliarde de oameni de pe planetă", a conchis Harari.

În panoul care a urmat intervenției lui Harari, lama tibetan și maestrul Shyalpa Tenzin Rinpoche (Nepal) au transmis un mesaj similar, subliniind că valorile universale, precum pacea, ar putea uni Estul și Vestul în căutarea dezvoltării durabile în aceste vremuri dificile de politică. instabilitate și inegalități în creștere. Serik Tolukpayev, antreprenor, investitor și fondator al holdingului AITAS din Kazahstan a comentat că „lupta cu ego-ul cuiva ar fi primul pas în atingerea Obiectivelor de Dezvoltare Durabilă a ONU la nivel mondial”, în timp ce activistul de tineret Jakhini Bisselink de la think tank-ul Whetston din Țările de Jos a remarcat că un nou generația de lideri ar trebui să fie susținută de conducerea EQ pentru a lupta împotriva anxietății climatice în creștere în lume.

La conferință au participat 2000 de delegați din peste 20 de țări, inclusiv viceprim-ministrul Kazahstanului Tamara Duisenova; umanistul Gerd Leonhard; laureatul Nobel pentru economie verde Rae Kwon Chung; Președinte al Asociației Futuristilor și consilier de previziune al Comisiei Europene Tanya Schindler; profesor la Universitatea din Oxford și autor al bestseller-ului Drumul Mătăsii: O nouă istorie a lumii Peter Frankopan; Zeița verde a Chinei și pledează pentru dezvoltarea verde Peggy Liu; Profesor de la Universitatea Stanford și autor al cursurilor AI Younes Bensouda; și autor de bestselleruri și primul redactor-șef al WIRED revista David Rowan.

Trimiteți acest articol: