Fostul ministru de externe, profesorul Andrei Marga, ridică o temă actuală - roboții și oamenii. În zilele în care roboții pot face aproape totul, mașinile autonome nu mai sunt un SF și fiecare din noi folosim într-un fel sau altul AI-ul, profesorul ne pune în față ipoteze și propune decizii pe care omenirea va trebui să le ia la un moment dat.
Până unde se poate unde merge? La infinit? Poate deveni robotul om și omul să permită asta? Concluzia ar fi că: ”Roboții vor fi tot mai mult parte a vieții noastre, dar nimic nu obligă la a-i transforma în cetățeni.”
Încetățenirea roboților?
Aspirația de a crea mașini care preiau operații, munci întregi și activități diverse ale omului este veche. Ea s-a convertit demult în creație tehnică și a dus deja la o seamă de realizări. Iar ceea ce se prefigurează este mai mult decât spectaculos. Însăși condiția umană în lume se schimbă.
Karel Capek a lansat literar imaginea robotului – personajul care execută mașinal operații. Azi, destui inși sunt instrumente de debitat, cu trup și suflet, idei fixe – adevărați roboți umani. Sunt însă în creștere rapidă roboții neumani. Aceștia își extind continuu gama, de la industrie și comerț, la creație. Să ne oprim aici asupra acestora din urmă.
Capacitatea inteligenței artificiale de a executa operații superioare celor pe care le pot face oamenii este cunoscută. Fructificând-o, s-au realizat, tehnic, într-adevăr, roboți de o complexitate tot mai ridicată. Cea mai descriptivă istorie a inteligenței artificiale (Nils J. Nilsson, The Quest for Artificial Intelligence – A History of Ideas and Achievements, Cambridge University Press, 2010, partea VII, capitolul 31) consemna că „roboții sunt peste tot. Ei au zburat pe Marte și au investigat adâncurile mărilor și chiar interiorul vulcanilor. Există roboți ai agriculturii, roboți ai fabricii, roboți ai operațiunilor și roboți ai fluxurilor de mărfuri”. Doar într-un oraș ca Pittsburg, peste treizeci de firme construiesc roboți. Tot mai mulți roboți nu mai sunt doar mașini dirijate de la distanță – unii sunt „roboți autonomi și pot acționa independent și inteligent”.
Între timp, totul s-a multiplicat. Multe munci din industrii de vârf sunt încredințate roboților. În unități comerciale, roboții preiau servirea clienților. Roboții compun melodii, scriu poezii, elaborează articole științifice și dirijează orchestre. În armate, se înmulțesc soldații care provin din rândul roboților, iar misiuni la distanță le sunt încredințate. Chiar unele comenzi sunt lăsate roboților. Se dau tot mai multe imagini cu tinere și tineri care se îmbrățișează cu roboți și promit „să-și împartă viața” cu aceștia. În însingurări generate de scăderea integrării sociale și culturale, se consideră că „mariajele” între oameni și roboți se apropie.
Pe acest fundal, câteva întrebări se agravează: au început roboții neumani să intre printre oameni? Nu cumva este deja pericolul să se pună în seama roboților răspunderea pentru decizii luate de oameni? Nu cumva dintre roboți se recrutează decidenți? Mai simplu spus, nu cumva roboți neumani pot cere și ei încetățenire?
Roboții presupun, la rândul lor, învățarea. Să observăm aici învățarea la roboții din epoca noastră și să conturăm apoi răspunsul.
Istoria acestei învățări este controversată încă, în legătură cu stabilirea întâietății cronologice a abordării învățării mașinale – de simboluri, texte, imagini, și a elaborării algoritmilor computeriali. La un moment dat, în această istorie a intervenit Jurgen Schmidthuber (Lugano) cu o reușită în crearea unei rețele neuronale care permite recunoașterea de texte și traduceri, pe baza căreia susține că Europa a ajuns, deja în 1965, la identificarea de algoritmi ai învățării. Desigur că această reușită are aplicații tehnologice și astăzi – firme precum Google, Amazon și Facebook o folosesc. Dar întreaga istorie a inteligenței artificiale rămâne încă de reconstituit, căci se cunosc prea puțin cercetările desfășurate pe parcursul deceniilor în Rusia, China, Germania, Franța, India și alte țări.
Pe cât se cunoaște, însă, istoria inteligenței artificiale este străbătută de competiția a două linii de dezvoltare, fiecare cu avantaje și insuficiențe. Este vorba de linia „simboliștilor”, care-și ancorează cercetările în premisele aflate în evoluția logicii, mai exact în elaborarea logicii simbolice, cu dezvoltările matematice și informatice de mai târziu. Este vorba apoi de linia „conecționiștilor”, care caută să exploateze cercetarea rețelelor neuronale ale creierului uman pentru a le imita în mașini. Istoria inteligenței artificiale atestă alternanța la inițiative majore a acestor linii, dar ponderea mai mare în evoluția care a dus la construcția de roboți a dobândit-o a doua.
Istoria recentă a acestei construcții este expusă ca una care începe cu Frank Rosenblatt (Cornell University), care s-a lăsat inspirat de ideea lui Warren McCulloch și Walter Pitts de a observa funcționarea neuronilor biologici în creierul uman și a aplicat-o în modelarea învățării, cogniției și memorării. El a construit un aparat capabil să recunoască semne ca imagini, pe care l-a numit „perceptron”, pe care l-a deschis aplicațiilor pe scară largă odată cu multiplicarea neuronilor pentru recunoașteri în profunzime a realităților. Neuronii au intrări și ieșiri, pe valorile 1 și 0, și se înlănțuie, performanța fiindu-le în funcție de înlănțuire și de matematica ce se aplică. Succesul construcției a încurajat la dezvoltări.
Pe baza acestei inițiative, s-a deschis programul Deep Learning, care a schimbat masiv situația inteligenței artificiale.
La imitarea neuronilor biologici a fost adăugată ideea lui David Rumelhart (San Diego University) a găsirii de algoritmi care să susțină învățarea pe scară mare. În anii 1980, Yann LeCun (AT&T) a deschis calea învățării scrisului de mână, Fei-Fei-li (Princeton University) a deschis, prin programul ImageNEt (2009), posibilitatea „vederii” de către mașină a obiectelor. Geoffrey Hinton (Carnegie Mellon) și Ronald Wilson (Northeastern University) au înaintat pe calea preluării tehnice a structurii neuronului biologic și au făcut pasul decisiv prin care „rețele neuronale profunde s-au dezvoltat, în sfârșit, într-o tehnologie aplicabilă practic” (cum scrie informaticianul de la Silicon Valley, Martin Ford, Herrschaft der Roboter, Plassen, Kulmbach, 2024, p. 118). Rețele de neuroni artificiali au început să fie produse industrial.
Azi se înaintează pe calea interpretării neuronului biologic – cu corpul celulei, nucleul acesteia, dendritele, ce preiau semnale de la alte celule, axoni, care duc impulsurile electrice la alți neuroni – ca rețea de funcții electrice și biochimice, în care substanțele sunt luate ca responsabile de anumite sentimente (de exemplu, dopamina pentru satisfacție, oxitocina pentru empatie etc.). Nu sunt cunoscute toate funcțiile, dar se înaintează pe direcția cunoașterii. Neuronul artificial este construit aidoma neuronului biologic, ca un fel de „container”, doar că în rețeaua sa circulă un lichid pus de constructor și este „antrenat”, prin exercițiu, pentru rezolvarea anumitor probleme.
Rețeaua neuronală artificială presupune „învățarea supravegheată”, care „pretinde după toate regulile o mulțime uriașă de date etichetate, dar aduce uimitoare rezultate – și duce de regulă la sisteme cu capacități supraumane de recunoaștere de modele” (p. 126). Firma Deep Mind, creată în Anglia, dar cumpărată de Google, s-a specializat, însă, într-o altă tehnică de învățare din partea rețelei neuronale – „învățarea prin consolidare (Verstarkungslernen)”, ce constă în exersarea de răspunsuri la cât mai multe eventualități. De pildă, în conducerea unui automobil, se exersează cât se poate de multe variante de situații în care șoferul are de luat decizii. Odată ce s-a ajuns la listarea concludentă a variantelor, se poate trece la aplicare, care este mașina ce se conduce fără șofer. O aplicare similară are loc și în jocurile video și în alte cazuri.
Observând tehnicile de „învățare” din partea rețelei neuronale artificiale, două fapte se impun atenției.
Pe de o parte, capacitatea de prelucrare de date a mașinilor întrece capacitatea naturală a creierului uman. Pe de altă parte, cei care creează această capacitate uriașă sunt oameni. Nici sub acest aspect, inteligența artificială nu iese de sub dependența umană.
Cheia funcționării neuronale, ne spun specialiștii, este un fel de „ventil” care selectează relațiile cu alți neuroni conform unui software care este aplicat, acesta fiind în funcție de „datele” ce se vor introduse. Iar o asemenea construcție a neuronului se amplifică în funcție de complexitatea dorită, conform unei „arhitecturi” care aplică anumiți algoritmi. Întreaga construcție ajunge însă la o asemenea complexitate încât operațiile dinăuntrul ei nu mai sunt neapărat doar cele exersate. Construcția dă rezultate peste așteptări, fiind de fapt, din alte puncte de vedere, o „cutie neagră (black box)” cu performanțe aparte.
Aici apare, de altfel, o diferență de neignorat: creierul uman are nevoie de mai puține date sau exersări pentru a da uneori același rezultat, precum mașina. „Această crasă deosebire între procesele de învățare ale unei mașini și cele ale creierului uman, care nu are nevoie pentru același scop de atât de multe date, face, pe de o parte, clar unde se lovesc de granițele lor sistemele actuale ale inteligenței artificiale, și, pe de altă parte, cum poate fi îmbunătățită încă tehnologia în viitor” (p. 131). Vor fi în continuare inovații tehnologice în materie, chiar dacă ritmul lor va fi variabil, căci se va intra pe un culoar mai strâmt.
Rămâne, desigur, viguroasă preocuparea de a construi „o mașină care la fel de bine (sau chiar mai bine) decât un om comunică, argumentează și poate ajunge la idei noi”, care „ar fi cea mai bogată în consecințe inovație din istoria umanității” (p. 137). Este viguros și optimismul celor care lucrează la progresul inteligenței artificiale. Neurologii caută deja principiile funcționării creierului uman și reușesc să contribuie la ameliorarea funcționării lui. Matematicienii lucrează la algoritmi care optimizează funcționarea proceselor neuronale. Pe aceeași direcție lucrează cei care aplică inteligența artificială în economie, finanțe și alte domenii. De pildă, programul Elemental Cognition, vrea să învețe din ceea ce este dincolo de limbajul economic – la un nivel care poate fi investigat plecând de la limbă, dar este „nivelul uman” mai adânc. „Pentru a atinge acest țel, echipa de la Elemental Cognition lucrează la un fel de sistem hibrid, care se compune din rețelele neuronale profunde, combinate cu modele de software, dar și din abordări ale învățării mașinale, care au fost dezvoltate cu metode clasice de programare în relație cu logica și gândirea rațională” (p. 144). Perspectivele sunt foarte promițătoare.
Ray Kurzweil le-a și exploatat în baza „legii creșterii exponențiale a capacității de calcul” pe care a formulat-o. Previziunea sa este că ne îndreptăm cu pași repezi spre momentul în care „gândirea umană se amestecă cu inteligența mașinilor create la origine de specia umană” (Die Intelligenz der Evolution. Wenn Mensch und Computer verschmelzen, Kieppenheuer & Witsch, Koln, 2016, p. 461). Nu va mai exista o clară deosebire între om și computer, chiar dacă funcțiile lor de gândire presupun procese celulare bazate pe carbon și hidrogen, respectiv pe „echivalente” electronice și fotonice. Omul nu va mai fi inferior computerului sub aspectul capacității de a reuni și prelucra date, și nici computerul nu va mai fi inferior omului sub aspectul complexității problemelor pe care le poate rezolva. Cunoscutul „test Turing”, care stabilește apropierea mașinii de performanțe umane, va putea fi trecut fără dificultăți.
Ne dăm însă seama că, la modul propriu, „testul Turing” se cere revăzut, căci în formularea inițială este prea simplă. Tot mai mulți cercetători observă că acest test este dependent de ceea ce stabilește un ascultător al unei convorbiri dintre o persoană și un calculator, aflați dincolo de un zid despărțitor. Or, procedeul nu mai este suficient, căci în asemenea convorbiri se poate trece testul, dar în joc să fie o simplă mimare bazată pe software (chatbot) care are prea puțin din capacitățile unui om. În formularea autorului cărții Herrschaft der Roboter, „Kurzweil poate câștiga pariul său numai dacă cel mai târziu în 2029 majoritatea judecătorilor vor fi convinși, după două ore de discuții individualizate cu fiecare dintre candidați, că sistemul de inteligență artificială este un om. Cred că trecerea unui asemenea test ar fi un indiciu convingător că inteligența artificială a atins un nivel uman” (p. 146). Foarte probabil că Rodney Brooke, fondatorul celei mai mari firme americane în robotică, „iRobot Corporation”, are dreptate când spune că vor dura aproape 180 de ani până când inteligența artificială va atinge nivelul uman. Dar și el, ca și oponenții săi, susțin că atingerea va avea loc.
Sunt evident divergențe între speranțele principalilor actori în dezvoltarea roboților. Tema atingerii de către mașini a nivelului uman stârnește multe reacții. Ea poate duce la inovații, unele salutare, altele disruptive în istorie.
Cel mai realist este ca acum să folosim inteligența artificială în probleme deja deschise și acute. Este sigur că ea va oferi mereu noutăți răscolitoare pentru industrie, tehnologie, economie, societate, cultură, sănătate, cercetarea științifică, inovație și va marca viața oamenilor prin ele. Dar, așa cum constată analize recente, ea va fi confruntată nu numai cu chestiunile propriei înaintări, ci și cu întrebări privind protejarea locurilor de muncă și economia, protecția datelor persoanelor, securitatea comunităților și a statelor, democrația și conviețuirea pe glob.
Ce perspective ne așteaptă? Rezum răspunsul meu în patru observații.
Prima observație este filosofică.
Anume, inteligența artificială stă inevitabil pe o seamă de opțiuni – interpretarea cunoașterii ca informație cuantificabilă, optica computațională, abordarea datelor după o modelare prealabilă a obiectului, reducerea comunicării la comunicație – care asigură posibilitatea unei optici inginerești de anvergură fără precedent. Această optică este mai mult decât importantă și plină de rezultate benefice în viața oamenilor. Ea nu este însă singura optică de care oamenii au nevoie. Inteligența artificială nu preia ceea ce prin tradiție numim „introspecția” și nici ceea ce o presupune pe aceasta. Dacă este să traduc în termenii sistematicii (vezi A. Marga, Vocația gândirii, Rao, București, 2024), inteligența artificială asigură succesul acțiunilor „instrumentale”, dar în afara ei rămân acțiunile „comunicativă”, „dramaturgică” și „reflexivă”.
A doua mea observație este aceea că în relația oamenilor cu roboții este nevoie de schimbare de concepție.
Anume, va trebui să ne obișnuim cu o nouă relație om-mașini, în înțelesul că nu mai rămânem singurul subiect creator de realitate – inteligența artificială adăugând-se ca una dintre „puteri”. Se spune bine că „vom trăi într-o epocă în care cele mai multe interacțiuni ale vieții noastre cotidiene vor fi nu cu alți oameni, ci cu inteligența artificială. Aceasta poate suna fascinant, îngrozitor sau absurd, dar este realitate”, ne spune unul dintre creatorii programului Deep Learning (Mustafa Suleyman, The Coming Wafe, C.H.Beck, München, 2024, p. 330). Lumea se complică pentru oameni, încât viziunile trebuie readaptate. Noțiunile de bază se cer reformulate.
A treia observație este că avem a valorifica puterea oamenilor.
Anume, oricât de evoluată ar fi inteligența artificială, oricare ar fi capacitatea de performanță a computerelor, tot oamenii îi creează și tot ei îi apasă butoanele. Roboții nu funcționează fără o asemenea apăsare. S-a spus justificat (vezi James Bridle, New Dark Age. Technology and the End of Future, Verso, New York, 2023) că un computer este mai puternic, sub aspectul performanțelor de stocare și prelucrare de date, decât creierul oricărui om, dar un om care folosește un computer este mai puternic decât orice computer.
A patra observație este juridică.
Anume, odată cu expansiunea roboticii, este clar că haosul cultural legat de ea în viața actuală a oamenilor nu ar mai trebui prelungit, iar reglementarea juridică a statutului roboților este cazul să intervină. Ea presupune clarificări civilizaționale, culturale, care rămân în bună măsură filosofice. În definitiv, este decisiv ce vor oamenii să facă din viața lor. Știm bine că dreptul în cadrele căruia trăim ia persoana umană ca ființă liberă și responsabilă de deciziile și faptele ei și conține legi ca reguli obligatorii pentru toate situațiile similar în interacțiunile umane. Roboții pot fi „înarmați” cu programe, dar nu au conștiință și nu au cum să fie responsabili. Și roboții pot respecta reguli și o fac, dacă creatorii lor prevăd așa ceva în programul lor, dar nu au cum să fie luați la rost de magistrat pentru încălcarea legilor interacțiunilor dintre oameni.
Nu este pericol ca roboții să o ia înaintea oamenilor dacă lucrurile sunt reglate de drept. Acest drept este însă solicitat să facă astfel încât răspunderea să le rămână oamenilor – inclusiv în înțelesul că ea nu se transferă computerului. Roboții vor fi tot mai mult parte a vieții noastre, dar nimic nu obligă la a-i transforma în cetățeni. (Din volumul A. Marga, Inteligența artificială și condiția umană, în curs de publicare)