Panica legată de transformarea modelelor lingvistice mari în entități conștiente s-a născut dintr-o minciună. Cineva s-a gândit că ar fi „drăguț” să înzestreze OpenClaw cu niște drepturi inalienabile și a produs conversații contrafăcute care păreau să confirme cele mai cumplite coșmaruri ale lui Geoff Hinton. Nu este cazul, și nici nu urmează să fie.

Majoritatea LLM-urilor actuale sunt, în esență, niște sisteme de predicție automată și nicidecum ”minți” propriu-zise. Ele sunt mecanisme uriașe de identificare a tiparelor: au asimilat structurile statistice ale limbajului și excelează în reproducerea acestora.

După cum subliniază neurocercetătorul Christof Koch, instrumente precum ChatGPT, Anthropic sau Perplexity nu pot decât să „regurgiteze ceea ce au scris alți oameni”. În lucrarea Then I Am Myself the World, Koch analizează dacă o inteligență artificială avansată ar putea vreodată să înțeleagă cu adevărat vreo definiție a conștiinței, dincolo de simpla repetare a cuvintelor în ordinea corectă. Fluența ne poate păcăli, determinându-ne să conferim atributul conștiinței acolo unde există doar calcul matematic. Însă, așa cum ne amintește Annaka Harris în cartea Conscious, un comportament complex, luat de unul singur, „nu oferă neapărat indicii despre conștiința unui sistem”: atât sistemele conștiente, cât și cele non-conștiente pot genera aceeași performanță exterioară.

Conștiința presupune existența unei experiențe subiective din interior, în vreme ce un model de limbaj este doar o coajă goală, lipsită de suflet. Cel mai interesant rezultat epistemic de până acum nu este faptul că LLM-urile trec, în sfârșit, granița difuză a inteligenței generale, ci faptul că ne obligă să reevaluăm ce înseamnă să gândești și, mai ales, să gândești creativ.

Capacitatea umană de a simți nu are încă o definiție științifică clară — una care să poată fi reprodusă, testată, infirmată, extinsă și dezbătută public. Rămâne însă o esență a umanului, un ”altceva” pe care încă nu l-am deslușit. Această opacitate, ambiguitate și complexitate — a spiritualității și a sensului — nu sunt niște produse reziduale ale mașinilor complexe, ci trăsături ale unor vieți bogate și îmbibate de experiență.

Istoria ne învață că inteligența artificială va produce învingători și perdanți la nivel individual, la fel ca orice altă revoluție tehnologică. Însă știm, de asemenea, că nivelul de trai al societății crește în mod firesc odată cu acumularea de noi cunoștințe, fie că acestea se referă la modul în care este produsă electricitatea, sau la modul în care sunt elaborate politicile economice.

Acest lucru este valabil chiar și pentru oamenii care nu au niciun interes pentru știință, tehnologie sau guvernare și care au pur și simplu norocul de a fi în viață atunci când apare ceva nou, precum antibioticele, lumina electrică, avioanele cu reacție, telefoanele sau ChatGPT. Datorită cunoașterii suntem mai sănătoși, mai prosperi, mai puțin vulnerabili și (uneori) mai conectați.

(Mă refer aici la posibilitatea de a-mi suna copiii aflați în străinătate oricând doresc, nu la cultura de tip „shitposting”, concepută pentru a irita, a agrava și a genera dispute sterile, fără niciun risc sau finalitate concretă.)

Dezbaterile politice sunt reale, iar deciziile pe care le luăm astăzi vor conta enorm mâine. Nu pledez aici pentru o poziție anume; nimeni nu știe încă ce înseamnă „echitatea” în contextul modelelor de limbaj de mari dimensiuni. Sunt convins, totuși, că adevărul și compasiunea sunt piloni esențiali, fiindcă ele sunt cele care generează puterea și nu doar simple accesorii care apar odată cu aceasta.

Având în vedere fracturile și tensiunile actuale din întreaga lume, nu este deloc clar dacă vom reuși să decidem pe cale democratică asupra utilizării adecvate a acestor noi instrumente — unde vor fi restricționate, unde vor fi licențiate, unde vor fi disponibile și cum vom monitoriza totul. Eu aparțin școlii de epistemologie a lui Jonathan Rauch, ceea ce înseamnă că, pentru mine, susținerea unei dezbateri echitabile, deschise și oneste reprezintă o cauză morală supremă. Punct.

Sebastian Elbaum și Sebastian Mallaby oferă o perspectivă deosebit de creativă și estetică asupra impactului social al IA — de la securitatea națională și războiul „fără vărsare de sânge”, până la egalitatea de șanse și creșterea economică. Principiul lui Dan Geer se aplică astăzi, cu aceeași rigoare, și în cazul IA: nu poți avea simultan libertate, securitate și confort; la care din ele alegi să renunți? Aceasta este miza alegerilor noastre viitoare.

Dar să revenim la OpenClaw. Ironia situației nu constă în faptul că cineva a trișat, că lumea tech a fost cuprinsă, preț de câteva minute, de un val de euforie, sau că până și Andrej Karpathy — un reper de încredere și integritate în universul IA — a crezut că totul ar putea fi adevărat. Punctul mult mai profund, pe care laureații premiului Nobel și politicienii alarmiști îl omit, este că programele informatice care produc conversații sintetice — susținute de centre de date de miliarde de dolari și investiții de peste un trilion de dolari care mențin piața — sunt antrenate pe baza a ceea ce le-am spus noi că facem. Acestea nu „gândesc” absolut deloc. Sunt doar un malaxor de idei ale altor oameni, ambalate ingenios într-un mod pe care îl percepem ca fiind natural.

Nu este de mirare că tindem să antropomorfizăm interacțiunile dintre oameni și aceste mașinării. Modelele IA par reale și sunt extraordinare prin amploarea și profunzimea lor. Memoria lor este colosală. Cu toate acestea, ele nu posedă mai multă conștiință, sensibilitate sau discernământ decât un ciocan. Ceea ce fac ele este să ne reîntoarcă uneori concepte minunat de originale și atractive, bazându-se pe ceea ce noi înșine am spus în diverse moduri, am făcut în diferite contexte, sau am ales în diferite momente.

Este cu siguranță adevărat că rezultatele ne-au surprins și că acestea vor duce la o automatizare tot mai accentuată și la o rezolvare creativă a problemelor — de la sarcini de rutină pe care astăzi credem că doar oamenii le pot îndeplini, până la decizii de război pe care știm deja că mașinile le iau mai bine. Însă aceste platforme nu sunt conexiunile neuronale ale unui creier creativ, ci rezultatele matematice ale probabilității, generate de siliciu, cupru și un flux enorm de energie.

Percepția că boții de IA își pot crea propriile reguli, eliminând intervenția umană, a fost credibilă nu pentru că inteligența artificială este atât de avansată — sau va fi în viitor —, ci pentru că exact așa se comportă oamenii reali. Aceștia disimulează uneori. Alteori dau dovadă de nesupunere. Se comportă egoist, intimidează sau spun lucruri de-a dreptul prostești, care sună „macho” ori nostalgic, dar care nu rezistă într-un cadru de referință obiectiv și rațional. Iar toate acestea sunt scrise, înregistrate și introduse în mașină sub formă de „date de antrenament”. Așadar, de ce am fi surprinși dacă o inteligență artificială — contaminată cu exemple de etică dubioasă, cuvinte și acțiuni ale speciei sale creatoare — poate mima în mod convingător aceste comportamente?

Nu uitați: asistența medicală, transportul, democrația și sistemul GPS. Niciunul nu funcționează perfect și toate s-au născut din intuiția și inventivitatea umană. Oameni de știință de elită, companii care domină piața și oficiali publici de toate orientările și perspectivele folosesc IA exact în același mod în care tehnologii, firmele și liderii au folosit (în bine sau în rău) chimia, fizica și biologia încă dinainte de revoluția industrială. De data aceasta, diferența constă în faptul că roboții sunt construiți de oameni și, inevitabil, ne seamănă. Dar asta nu înseamnă că pot fi entități vii, înzestrate cu conștiință de sine. Orice dispozitiv creat de om are un buton de oprire. Și depinde doar de noi să îl folosim.

Peter L. Levin a fost profesor universitar de inginerie. În prezent, este cofondator și director executiv al Amida Technology Solutions, Inc. și cercetător principal asociat (adjunct senior fellow) în cadrul Center for a New American Security.

Traducere și adaptare: Nedeea Burcă

Sursa: aici