Un psiholog explică cum AI și algoritmii ne schimbă viața: “Tehnologia digitală poate înclina cu ușurință cântarul către sisteme autocratice” (WSJ)

În era ChatGPT, algoritmii de computer și inteligența artificială sunt din ce în ce mai încorporati în viețile noastre, alegând conținutul care ne este afișat online, sugerând muzica pe care o ascultam și răspunzând la întrebările noastre.

Acești algoritmi ar putea să ne schimbe lumea și comportamentul în moduri pe care nu le înțelegem pe deplin, spune psihologul și expertul in știință comportamentala Gerd Gigerenzer, directorul Centrului Harding pentru Risk Literacy de la Universitatea din Potsdam din Germania. Anterior, director al Centrului pentru Comportament Adaptiv și Cogniție la Institutul Max Planck pentru Dezvoltare Umană, el a efectuat cercetări de-a lungul deceniilor care au contribuit la formarea înțelegerii modului în care oamenii fac alegeri atunci când se confruntă cu incertitudine.

Gerd Gigerenzer: Ce altceva ar fi? O rețea neuronală profundă are multe, multe straturi, dar încă sunt mașini de calcul. Ei pot face mult mai mult decât oricând cu ajutorul tehnologiei video. Ei pot picta, pot construi text. Dar asta nu înseamnă că ei înțeleg textul în sensul pe care îl fac oamenii.

Capacitatea de a înțelege modul în care acești algoritmi iau decizii îi ajută pe oameni?

Gerd Gigerenzer: Transparența este extrem de importantă și cred că ar trebui să fie un drept al omului. Dacă este transparent, poți să-l modifici și să începi să te gândești din nou, în loc să te bazezi pe un algoritm care nu este mai bun decât o grămadă de lucrători prost plătiți. Deci trebuie să înțelegem situația în care judecata umană este necesară și este de fapt mai bună. Și, de asemenea, trebuie să fim atenți că nu ne confruntăm cu o situație în care companiile tehnologice vând algoritmi de tip cutie neagră care influenţează părți din viața noastră. Este vorba despre orice, inclusiv comportamentul tău social și politic, iar apoi oamenii pierd controlul în fața guvernelor și a companiilor de tehnologie.

Scrieți că „tehnologia digitală poate înclina cu ușurință cântarul către sisteme autocratice”. De ce spuneţi asta? Și prin ce diferă acest lucru față de tehnologiile informaționale din trecut?

Gerd Gigerenzer: Acest tip de pericol este unul real. Printre toate beneficiile pe care le are, unul dintre vicii este tendința de supraveghere de către guverne și companii de tehnologie. Dar oamenii nu mai citesc politicile de confidențialitate, așa că nu știu. Și, de asemenea, politicile de confidențialitate sunt configurate într-un mod în care nu le puteți citi cu adevărat. Sunt prea lungi și complicate. Trebuie să recuperăm controlul.

Deci, ce ar trebui să facem în această situaţie?

Gerd Gigerenzer: Gândește-te la o cafenea din orașul tău natal care servește cafea gratuită. Toată lumea merge acolo pentru că este gratuit, iar toate celelalte cafenele dau faliment. Deci nu mai ai de ales, dar măcar îți iei cafeaua gratuită și te bucuri de conversațiile tale cu prietenii tăi. Dar pe mese sunt microfoane, iar pe pereți sunt camere video care înregistrează tot ce spui, fiecare cuvânt și cui, și îl trimit să analizeze. Cafeneaua este plină de vânzători care te întrerup tot timpul pentru a-ți oferi produse personalizate. Cam asta este situația în care vă aflați când sunteți pe Facebook, Instagram sau alte platforme. [Meta Platforms Inc., compania-mamă a Facebook și Instagram, a refuzat să comenteze.] În această cafenea, tu nu ești clientul. Tu esti produsul. Așa că vrem să avem o cafenea în care să avem din nou voie să ne plătim, astfel încât să fim clienții.

Am văzut că întreaga infrastructură din jurul reclamelor personalizate este integrată în infrastructura internetului. Și se pare că ar fi nevoie de niște intervenții destul de serioase pentru ca asta să dispară. Dacă sunteți realist, încotro credeți că ne vom îndrepta în următorul deceniu cu tehnologia, inteligența artificială și supravegherea?

Gerd Gigerenzer:  În general, am mai multă speranță că oamenii își dau seama că nu este o idee bună să ofere datele și responsabilitatea pentru propriile decizii companiilor de tehnologie care le folosesc pentru a câștiga bani de la agenții de publicitate. Acesta nu poate fi viitorul nostru. Plătim peste tot cu banii noștri și de aceea suntem clienți și avem controlul. Există un adevărat pericol ca din ce în ce mai mulți oameni să treacă la supraveghere și să accepte tot ce este mai convenabil.

Dar sună atât de greu – când totul este atât de convenabil – să citesc politicile de confidențialitate și să fac cercetări despre acești algoritmi care îmi afectează viața. Cum mă lupt cu asta?

Gerd Gigerenzer: Cel mai convenabil lucru este să nu gândești. Iar alternativa este să începi să te gândești. Cea mai importantă [tehnologie de care trebuie să fii conștient] este un mecanism pe care psihologii îl numesc „întărire intermitentă”. Primești o întărire, cum ar fi un „Like”, dar nu știi niciodată când o vei primi. Oamenii continuă să se întoarcă pe platformă și să își verifice Like-urile. Asta a schimbat cu adevărat mentalitatea și i-a făcut pe oameni dependenți. Cred că este foarte important ca toată lumea să înțeleagă aceste mecanisme și cum devine cineva dependent. Deci, puteți recupera controlul dacă doriți.