Informaticianul Yoshua Bengio a declarat pentru Sky News că este „ținut treaz noaptea” de teama că oamenii ar putea construi sisteme „mai inteligente decât noi pe care nu știm cum să le controlăm”, iar scăparea acestora din mână ar reprezenta un „risc existențial”.
Cursa pentru supremația inteligenței artificiale (AI), declanșată de recenta panică provocată de chatbotul chinez DeepSeek, riscă să amplifice pericolele existențiale ale superinteligenței, consideră Bengio, unul dintre „nașii” AI, potrivit Sky News.
Specialistul în știința calculatoarelor Yoshua Bengio, autor al primului Raport internațional privind siguranța inteligenței artificiale, avertizează că investițiile necontrolate în puterea de calcul pentru AI fără supraveghere sunt periculoase.
Computer scientist @Yoshua_Bengio said he is "kept awake at night" by the fear that humans may build systems "smarter than us that we don't know how to control".https://t.co/2XpJERdLz8 pic.twitter.com/NtxrTUszer
— Sky News (@SkyNews) February 5, 2025„Eforturile se îndreaptă către cine va câștiga cursa, mai degrabă decât către cum să ne asigurăm că nu vom construi ceva care să ne explodeze în față”, a declarat Bengio.
El este entuziast cu privire la beneficiile inteligenției artificiale pentru societate, însă îndepărtarea de la reglementarea IA de către Casa Albă a lui Donald Trump și competiția frenetică dintre marile companii de tehnologie pentru modele de AI mai puternice reprezintă o schimbare îngrijorătoare.
„Construim sisteme care sunt din ce în ce mai puternice; devin supraomenești în anumite situații”, crede Bengio.
„Pe măsură ce aceste sisteme devin mai puternice, ele devin și extraordinar de valoroase, din punct de vedere economic. Așadar, atitudinea de genul „wow, asta îmi va aduce o mulțime de bani” motivează o mulțime de oameni. Și, desigur, atunci când vrei să vinzi produse, nu vrei să vorbești despre riscuri”, a subliniat profesorul de la Universitatea Montreal.
Un alt „naș” AI nu este de acord cu Bengio
Dar nu toți „nașii” inteligenței artificiale sunt atât de îngrijorați, cum este cazul lui Yann LeCun, cercetătorul șef al Meta în domeniul inteligenței artificiale.
„Am fost amăgiți să credem că modelele lingvistice mari sunt inteligente, dar de fapt, nu sunt”, consideră LeCun.
„Nu avem mașini care să fie la fel de inteligente ca o pisică, în ceea ce privește înțelegerea lumii fizice”.
LeCun preconizează că, în următorii trei-cinci ani, inteligența artificială va avea unele aspecte ale inteligenței la nivel uman. Roboți, de exemplu, care pot îndeplini sarcini pentru care nu au fost programați sau antrenați.
„Există încă o mulțime de provocări științifice și tehnologice și este foarte probabil ca în următorii trei până la cinci ani să aibă loc încă o revoluție a inteligenței artificiale din cauza limitării sistemelor actuale”, a spus LeCun, citat de The Guardian. „Dacă vrem să construim în cele din urmă lucruri precum roboți domestici și mașini complet autonome, avem nevoie de sisteme care să înțeleagă lumea reală”.
Dar, susține el, în loc să facă lumea mai puțin sigură, modelele de inteligență artificială open-source precum DeepSeek, un chatbot dezvoltat de o companie chineză care rivalizează cu cele mai bune tehnologii americane cu o zecime din puterea de calcul, demonstrează că nimeni nu va domina pentru mult timp.
„Dacă SUA decide să renunțe la inteligența artificială din motive geopolitice sau comerciale, atunci inovația va apărea în altă parte în lume. DeepSeek a demonstrat acest lucru”, a spus LeCun.
Cei doi se află la Londra, alături de alți cinci specialiști, pentru a primi premiul Queen Elizabeth Prize for Engineering, cel mai prestigios premiu mondial pentru inginerie, în semn de recunoaștere pentru contribuțiile în inteligența artificială.
Cine sunt cei trei „Nași” ai AI
Yoshua Bengio a primit în 2018, alături de cercetătorii Yann LeCun și Geoffrey Hinton, Premiul Turing pentru munca lor la tehnologia de învățare profundă structurată („deep learning”), care face parte din familia metodelor de învățare automatizată bazată pe rețele neuronale artificiale.
Cei 3 cercetători sunt numiți colocvial „Nașii A.I.” sau „Nașii Deep learning”. Considerat „Premiul Nobel pentru informatică”, Premiul A. M. Turing este decernat anual „unei persoane alese pentru contribuțiile de natură tehnică aduse comunității informatice”, care „trebuie să aibă importanță majoră de durată în domeniul informaticii”.
Premiul este numit după Alan Mathison Turing, matematicianul britanic care este considerat de mulți oameni de știință a fi părintele informaticii teoretice și inteligenței artificiale.