Immanuel Kant spunea odată că și-a dorit să le demonstreze profanilor că au dreptate, dar în așa fel încât doar experții să poată înțelege. Astăzi, când urmărim discuțiile despre inteligența artificială, avem de-a face cu ceva oarecum asemănător. Inteligența artificială generativă pare să confirme ideea de bun simț că mintea umană funcționează altfel decât o mașinărie, chiar dacă tehnologia în sine a devenit colosal de complexă, iar funcționarea ei în mare măsură inefabilă. Eu numesc asta un moment cultural – cel în care trăim astăzi, chiar acum – deoarece înțelegem diferit inteligența artificială și schimbarea tehnologică. De zeci de ani am mitologizat viitorul mașinilor. Acum viitorul se desfășoară sub ochii noștri.

Înainte vreme, când inteligența artificială se afla într-un stadiu incipient, eram liberi să ne imaginăm lucrurile cele mai fantastice – o inteligență artificială ”excepțională” sau, dimpotriva, una ”înfricoșătoare”.

Astăzi asistăm la adoptarea pe scară largă a inteligenței artificiale generative, care mimează elocvent cunoașterea, dar fără a izbuti să ne convingă de faptul că germinează o stare internă și o minte adevărată. Unii spun că este doar o chestiune de timp ca mașinile să prindă viață. Eu însă zic că acum putem vedea în sfârșit ”inscripția de pe zid”.

De la jocuri la modele genertive: o narațiune în schimbare

Înainte, AI nu putea ”gândi” deloc. Putea doar să rezolve corect anumite probleme specifice – în primul rând tot ceea ce ținea de jocuri. În anii 2000 și începutul anilor 2010, sisteme precum AlohaGo de la DeepMind puteau îndeplini sarcini modeste, cum ar fi să joace Go, sau șah, despre care oamenilor le place să creadă că necesită o inteligență excepțională. Aceste sisteme au început să funcționeze impresionant, iar futuriștii au făcut speculații nebunești privitoare la un salt iminent către inteligența generală artificială (AGI), apoi către ”superinteligență” – așa cum avertiza și Nick Bostrom în cartea sa din 2014, Superintelligence: Paths, Strategies, Dangers.

Dar această epocă a presupus o scamatorie. Progresele făcute în îndeplinirea unor sarcini înguste, cum ar fi triumful repurtat asupra unui mare maestru de șah, au fost echivalate cu progresul unor minți capabile de acțiune și motivație. Cu toate acestea, în ciuda râurilor de cerneală vărsate de mass media, de public și de experți, cu privire la apariția inteligenței artificiale superinteligente – adică ”mai deșteaptă decât oamenii” – în realitate au apărut doar Alexa, care scuipă răspunsuri standardizate și mașinile fără șofer care intră în autobuze școlare și frânează în fața frunzelor purtate de vânt. De asemenea, în ciuda faptului că jocurile cu reguli fixe nu sunt deloc relevante în această privință, ele au întreținut cumva mitul apariției unei inteligențe artificiale superinteligente, capabile – în cazul în care nu am fi supervigilenți – să ne ia în stăpânirea sa și chiar să ne extermine. Acest tip de lacune în filosofia inteligenței artificiale au fost totalmente ignorate.

Dar, să mergem pe repede înainte, până în anii 2020. Adoptarea modelelor lingvistice mari (LLM), precum GPT, a adus o schimbare culturală.

Am criticat anterior sistemele de învățare automată ca fiind lipsite de acel tip de inferență proprie doar oamenilor, care învață în timp real și pot face deducții și pe baza unor excepții, nu doar pe aceea a celor mai bune potriviri statistice. Această critică continuă să fie valabilă – LLM-urile sunt predispuse la puncte moarte și halucinații bizare și, deși pot simula tipuri umane de inferență, faptul că uneori insistă, fără nicio noimă că, să zicem, A și nonA sunt ambele adevărate, dovedește că, în cele din urmă, sunt doar niște mașini și nimic mai mult. Așadar, împăratul e gol. LLM-urile nu reproduc inteligența umană (bazată pe limbaj), dar o imită în mare parte în mod convingător. Din punctul de vedere al unui cercetător în domeniul inteligenței artificiale acesta este un progres.

O mașină imperfectă, dar utilă

Totuși, aceste modele rămân profund defectuoase. De ceva timp a apărut un larg consens că le lipsește înțelegerea, dar o simulează suficient de bine pentru a fi, totuși, utile. Cât de utile, asta depinde de cât de bine le putem anticipa și controla erorile. Știm că LLM-urile sunt, inevitabil, supuse greșelii, și nu există o explicație științifică deosebit de clară cu privire la aceste erori. Ele se întâmplă, pur și simplu. De ce sunt atât de ciudate aceste erori? De ce atunci când interacționezi cu ele te simți ca și cum ai conversa cu un ”intelect” politicos, uneori genial, dar înnebunitor de încăpățânat? La un moment dat sistemul poate rezuma explozia cambriană, cu deosebită eleganță, pentru ca imediat după aceea să insiste că ceașca mea de cafea se află simultan în Texas și în Indiana. Ce fel de inteligență este aceasta?

După cum văd eu, lansarea ChatGPT acum doi ani s-a constituit într-un nou moment cultural. Acum putem arunca vechile mituri – sau le putem privi cu ochi proaspeți – reflectând asupra naturii noii inteligențe artificiale.

Cu alte cuvinte, sistemele de inteligență artificială generativă dezvăluie că nu ne aflăm pe calea care duce la inteligența artificială puternică, și că ne dăm seama de acest lucru tocmai fiindcă ele funcționează. Observarea LLM-urilor în actiune ne arată limitele lor. Cu toate acestea o mare parte din propaganda din mediul online și din mass media continuă să repete vechiul scenariu despre marșul către AGI. Totuși, presupun că nu ar trebui să fim surprinși că miturile tehnologice par imposibil de extirpat. Așa cum spunea Thomas Rid în Rise of the Machines: A Cybernetic History (citez aici pe larg):

Miturile tehnologiei au forma unei promisiuni certe: cyborgul va fi construit; vor fi inventate mașini care sunt mai inteligente decât oamenii; singularitatea tehnologică vine și ea; ciberspațiul va fi gratuit. Mitul este subdeterminat de fapte, neîndoios, în ciuda imposibilității de a obține dovezi empirice, garantate de dezbateri și dispute. Credință deghizată în știință.

În al doilea rând, mitologiile sunt remarcabile nu pentru conținutul, ci pentru forma lor. Baza mitului apare ca o realitate pe deplin experimentată, inocentă și incontestabilă: computerele devin din ce în ce mai rapide; mașinile sunt din ce în ce mai conectate în rețea; criptarea este din ce în ce mai puternică. Dar, în același timp, mitul face un salt, adaugă o formă aparte sensului. Și această formă este întotdeauna emoționantă. Miturile sunt convingătoare pentru că fac apel la credințe profunde, la speranțe și adesea la temerile legate de viitorul tehnologiei și de impactul acesteia asupra societății. Aceste credințe își trag seva din viziuni și proiecții, din cultura populară, din artă, din ficțiune și science fiction, din piese de teatru, filme și povești. Dar mitul se întoarce adesea în mod clandestin la ficțiune, fără a explicita moștenirea culturală. Romanele știinifico-fantastice, de exemplu, au inspirat dezbaterea din anii 1990 privind securitatea națională. Și uneori, experți îndrăzneți chiar se încumetă să scrie ficțiune, explicând viziuni distopice ale unor conflicte viitoare, eliberate de insuportabilele cătușe ale faptelor. […]

A treia și cea mai importantă trăsătură a miturilor cibernetice este că ele transcend prezentul. Narațiunile mitice clădesc un pod între trecut și viitor, în scopul păstrării înțelepciunii unei comunități în memoria vie. […]

Pentru miturile ciberneticii și inteligenței artificiale punctul de ancorare cel mai stabil se află întotdeauna în viitor sau, mai precis, într-un viitor împărtășit de toți, dar care rămâne nedefinit – nici prea aproape și nici prea departe. Epoca de aur pare a fi situată peste aproximativ 20 de ani, suficient de apropiată pentru a fi extrapolată din trecut, și suficient de îndepărtată pentru a putea spera la idei noi și curajoase, în viitor. Rezultatul este la fel de eficient. Mitul tehnologic trasează o linie clară între viitor și trecut, prezentul constituindu-se doar într-un punct pe această linie.”

Eliberarea lumii din tehno mit este imposibilă și nu sunt convins că, dacă am izbuti să facem acest lucru, lumea ar fi mai bună. Se pare că avem nevoie de miturile futuriste – mai cu seamă dacă ele ne inspiră, fără a ne fixa în false îngrijorări și certuri fără rost. Dar insistența încăpățânată din anii 1950, că inteligența artificială o va întrece pe aceea a oamenilor, nu a contenit nici până în ziua de azi. Și, cumva, nimeni nu se jenează că viziunile lui Rid de acum 20 de ani, continuă să fie etalate deceniu după deceniu – eram la 20 de ani distanță în anii 1970, dar și în anii 1990.

Într-una dintre cele mai faimoase prognoze ale sale, futuristul Ray Kurzweil spune că inteligența artificială puternică va fi realizată până în 2029. Kurzweil nu s-a dezis de această opinie, dar majoritatea futuriștilor cred că da, desigur, va veni în curând dar, ca să zic așa, nu prea devreme… În următorul deceniu sau dacă nu, cu siguranță, în cel care urmează. Estimp, vedem pretutindeni dovezi ale existenței unei tehnologii lipsite de inteligență reală, dar (șoc!), mitul încă persistă. Poate că, ținând cont de noile noastre puncte de vedere privitoare la inteligența artificială modernă, ar trebui în sfârșit să citim diferit în frunzele de ceai, renunțînd la vechile idei fixe… și, cine știe, lucrul acesta ar putea chiar să funcționeze.

Așadar, avem un nou moment cultural. Respirați adânc. Avem un nou moment cultural deoarce, pentru prima oară, putem studia cu băgare de seamă comportamentul inteligenței artificiale – concentrându-ne pe succesele și nu pe eșecurile acesteia – și să recunoaștem că am mitificat din lipsa unei imagini mai clare a ceea ce fac de fapt mașinile atunci când devin ”inteligente”. Iar răspunsul, în comparație cu narațiunea atât de elegantă a ”mașinilor care vor controla lumea”, este aproape un loc comun. Cea mai modernă inteligență artificială a noastră reacționează respectând, parcă, exigențele părinților de școală veche, care cereau copiilor să răspundă ”doar atunci când sunt întrebați”. Cât de jenant pentru propagandiștii groazei!

Ce putem crede despre această întorsătură a situației? Iată cum gândesc eu: este mai lesne din punct de vedere psihologic să speculezi cu privire la ceva neperformant, dar care se poate îmbunătăți, totuși, într-o oarecare măsură putând îndeplini, în acest caz sarcini bazate pe învățarea automată, de la jocuri la conducerea mașinilor. Putem apoi extrapola, visând la apariția inteligenței artificiale super puternice în câteva decenii. Dar dacă odată ajunși în acest punct încă mai vedem vechile halucinații și erori, menținerea unui înalt nivel mitologic devine dificilă. Se pare că mintea oamenilor este într-adevăr diferită de aceea a mașinilor, iar acest lucru pare să fie valabil chiar și pe măsură ce avansăm de-a lungul curbei de progres.

LLM-uril ne-au oferit inteligență artificială conversațională, aproximativ ceea ce Alan Turing a folosit ca punct de referință al succesului în faimoasa sa lucrare Testul Turing, din anii 1950. Dar idioția încăpățânată și lipsa de conștientizare sau înțelegere intrinsecă mașinilor persistă. De ce? Adevărul este că mintea mașinilor este diferită de aceea a oamenilor, adică exact ceea ce au spus numeroși filosofi de-a lungul timpului. Și așa stând lucrurile, corolarul este că ar trebui să ne revizuim și miturile.

Aici am putea să-l imităm pe Yuval Harari și să numim inteligența artificială nu o cale către inteligența naturală, ci către ”inteligența extraterestră”. Iar în acest caz, spunând ”extraterestru” nu mă refer la ceva de o inteligență fantastică, ci la un soi de inteligență căreia îi lipsește în mod fundamental capacitatea de a acționa și motivația, ceva care este mai degrabă un calculator prostănac, dar din ce în ce mai util, și cu tot mai multe butoane de apăsat. Pe scurt, mi se pare că ne aflăm într-un moment cultural deoarece actualul succes al inteligenței artificiale duce la destrămarea vechilor idei futuriste privitoare la aceasta. S-ar putea să distrugem în continuare lumea cu tehnologia, dar grosolănia echivalării inteligenței artificiale cu cea naturală a fost dezvăluită și, fără îndoială, vor apărea noi poziții filozofice. Ar trebui să luăm asta ca punct de plecare pentru a construi o relația sănătoasă și productivă cu propria noastră tehnologie.

Momentul nostru cultural dezvăluie ceea ce mitologii de odinioară nu puteau vedea încă. Inteligența artificială nu este o minte și îi lipsește motivația inteligenței organice. Dar are potențialul de a ne amplifica propria inteligență și de a deschide o nouă eră a excelenței umane – dacă suntem suficient de lucizi pentru a recunoaște oportunitățile pe care le avem în față.

Erik J. Larson este membru al proiectului Technology & Democracy la Discovery Institute și autorul cărții The Myth of Artificial Intelligence, Harvard University Press, 2021. (Cartea este finalistă pentru Media Ecology Association Awards și a fost nominalizată la Robert K. Merton Book Award.) Lucrează pe probleme din tehnologia computațională și inteligență artificială. În prezent lucrează la o carte în care critică supraestimarea inteligenței artificiale. În 2009 și-a luat doctoratul în filosofie, la Universitatea Texas, din Austin. Abordarea sa a fost multidisciplinară, combinând cercetări de filosofie analitică, informatică și lingvistică, teza finală fiind supervizată de profesori din toate cele trei departamente.

Traducerea și adaptarea: Nedeea Burcă

Sursa: aici