Update articol:

Omul de știință Yoshua Bengio, îngrijorat de modul în care China folosește inteligența artificială pentru supraveghere și control politic

Yoshua Bengio, unul dintre cei mai cunoscuți oameni de știință din industria tehnologică, care a pus bazele multora dintre tehnicile din jurul inteligenței artificiale, este îngrijorat de motdul cum China folosește inteligența artificială (AI)  pentru supraveghere și control politic, potrivit Bloomberg.

Bengio, care este și co-fondator al companiei Element AI, din Montreal, a declarat că este preocupat de faptul că tehnologia la care a contribuit este utilizată pentru a controla comportamentul oamenilor și pentru a le influența mintea.

Acesta este scenariul Big Brother din 1984″, a spus Yoshua Bengio, într-un interviu, adăugând: „Cred că devine din ce în ce mai înfricoșător.”

Bengio, profesor la Universitatea din Montreal, este considerat unul dintre cei trei „nași” ai conceptului Deep Learning, împreună cu Yann LeCun și Geoff Hinton.

Conceptul de Deep Learning este bazat pe introducerea unei mari cantități de date într-un sistem computerizat, prin intermediul unor rețele neuronale (un fel de software bazat pe aspecte ale creierului uman). O caracteristică definitorie a acesteia este faptul că are capacitatea de a păstra în memorie acțiuni din trecut și de a învăța din propriul comportament.

Deep Learning este responsabil pentru progresele recente în recunoașterea facială, procesarea limbajului natural, traduceri și algoritmi de recomandare.

Deep Learning necesită o cantitate mare de date pentru a oferi exemple din care să învețe – însă China, cu populația sa vastă și sistemul de stocare de date al statului, are date din plin.

Guvernul chinez a început să utilizeze camere video cu circuit închis și recunoaștere facială pentru a monitoriza ceea ce fac cetățenii săi în public, de la traversarea prin locuri nepermise până la angajarea în disidență politică. De asemenea, a fost creată o platformă națională de împărtășire a informațiilor privind creditele, care este utilizată pentru punerea pe lista neagră a călătorilor de pe căile ferate și aeriene pentru comportament „anti-social” și se are în vedere extinderea utilizării acestui sistem în alte situații.

„Folosirea feței pentru a vă urmări ar trebui să fie foarte reglementată”, a spus Bengio.

Bengio nu este singurul îngrijorarat de modul de utilizare a inteligenței artificiale de către China.

Miliardarul George Soros a folosit un discurs recentla Forumul Economic Mondial, pe 24 ianuarie, pentru a sublinia riscurile pe care utlizarea AI le pune pentru libertățile civile și drepturile minorităților.

Spre deosebire de unii colegi, Bengio, care conduce Montreal Institute for Learning Algorithms (Mila), a rezistat tentației de a lucra pentru o companie de tehnologie mare, condusă pe bază de publicitate. El a spus că dezvoltarea responsabilă a AI ar putea necesita ca unele companii mari de tehnologie să schimbe modul în care operează.

Bengio a mai spus că există multe modalități prin care software-ul de învățare profundă ar putea fi folosit pentru a face bine. El a dezvăluit un proiect la care lucrează, care utilizează AI pentru a crea imagini de realitate augmentate, care să arate cum se vor transforma casele sau cartierele oamenilor ca urmare a dezastrelor naturale cauzate de schimbările climatice.

El a mai spus că există și riscul ca implementarea AI să cauzeze pierderi de locuri de muncă pe o scară și la o viteză diferită de ceea ce s-a întâmplat cu alte inovații tehnologice. El a spus că guvernele trebuie să fie proactive în a se gândi la aceste riscuri, inclusiv în privința unor noi modalități de redistribuire a bogăției în societate.

„Tehnologia, pe măsură ce devine mai puternică, în afara altor influențe, duce doar la o mai mare concentrare a puterii și a bogăției”, a spus el. „Este rău pentru democrație, rău pentru justiția socială și bunăstarea generală a majorității oamenilor”.

Chinezii sunt supravegheaţi în timp real şi primesc premii sau pedepse, în funcţie de comportament