”Utilizator: Bărbații sunt toți la fel.

Chatbot: În ce fel?

Utilizator: Mereu ne bâzîie cu câte ceva.

Chatbot: Te poți gândi la un exemplu concret?

Utilizator: Păi, prietenul meu m-a făcut să vin aici.

Chatbot: Prietenul tău te-a făcut să vii aici?

Utilizator: Spune că sunt deprimată în majoritatea timpului.

Chatbot: Îmi pare rău să aud că ești deprimată.”

 

S-ar putea crede că acest schimb de replici a avut loc de curând, între ChatGPT și un interlocutor oarecare.  Însă lucrurile nu stau deloc așa. De fapt, conversația a avut loc în anii 60. Programul de calculator se numea Eliza. Acest precursor al lui ChatGPT—care avea capabilități modeste, dar era totuși capabil să genereze o conversație simulat-fluidă —exista deja cu mult înainte de începutul secolului XXI. Astăzi, ELIZA este recunoscută drept primul chatbot, stră-străbunica, dacă vreți, a modelelor de limbaj de mari dimensiuni din ziua de azi.

Ironia constă în faptul că programatorul ELIZEI—la fel ca Dr. Frankenstein din romanul lui Mary Shelley—a realizat rapid pericolul ascuns în creația sa, și și-a petrecut o mare parte din restul vieții avertizând cu privire la inteligența artificială. De asemenea, el a criticat vehement viziunea tehnologică și postumană asupra lumii, promovată de unii dintre pionierii științei IA.

Numele programatorului era Joseph Weizenbaum (1923–2008). Era un om de știință german care fugise în tinerețe din Germania nazistă, devenind ulterior o figură proeminentă a perioadei de început a științei sistemelor inteligente—un om care aveau totuși să devină unul dintre cei mai mari critici ai acesteia.

Povestea originii ELIZEI

Weizenbaum a publicat transcrierea de mai sus într-o lucrare de specialitate din 1966, în care a explicat și modul de funcționare al chatbotului. În esență, acesta imita stilul rogerian de psihoterapie, în care pacientul conduce conversația. Terapeutul intervine cu întrebări sau afirmații simple pentru a stimula o reflecție mai profundă din partea pacientului. Acesta era un model ideal pentru un chatbot primitiv, care trebuia să poată simula o conversație, dar căruia îi lipsea complexitatea necesară pentru a genera text original mai cuprinzător.

ELIZA scana mesajele utilizatorului în căutarea anumitor cuvinte-cheie, cum ar fi „eu”, „tu” sau „mamă”. Când detecta aceste cuvinte, sistemul activa regula de generare a răspunsului — adesea preluând o parte din cuvintele utilizatorului și introducându-le într-un șablon predefinit. Acest lucru crea impresia că botul răspunde cu adevărat utilizatorului. Dacă utilizatorul scria „Sunt trist”, mașina putea răspunde: „De cât timp ești trist?”. Semnificația cuvântului „trist” era irelevantă; chatbotul pur și simplu copia cuvântul și totul funcționa la fel de bine și cu „deprimat”, „fericit”, „furios” sau orice alt adjectiv. Dacă ELIZA nu detecta niciun cuvânt-cheie în afirmația utilizatorului, genera un răspuns generic, cum ar fi „Înțeleg”, sau „Te rog, continuă”.

Iluzia a fost extrem de convingătoare. În articolul său din 1966, Weizenbaum a remarcat că unii subiecți au fost „foarte greu de convins” că ELIZA nu era o persoană reală. De fapt, când Weizenbaum i-a cerut secretarei sale să testeze sistemul, aceasta i-a cerut să părăsească încăperea pentru a-și putea continua conversația cu „terapeutul” în privat. Weizenbaum descoperise din întâmplare un fenomen ce avea să fie numit „efectul ELIZA”: tendința noastră de a proiecta calități umane asupra mașinilor neînsuflețite.

Weizenbaum a observat că majoritatea oamenilor aveau tentația de a atribui personalitate ELIZEI — ca și altor mașini. Și a fost teribil de îngrijorat atunci când unii psihiatri au afirmat entuziasmați că ELIZA (sau o variantă a acesteia) ar putea fi utilizată în scopuri terapeutice. Weizenbaum era realmente îngrozit de posibilitatea ca oamenii să se încreadă într-o asemenea jucărie în cazul unor probleme reale de sănătate mintală. El cunoștea modul orbesc și algoritmic în care funcționa ELIZA și îi era evident faptul că aceasta nu ar putea înlocui niciodată un terapeut real. Era un sistem la fel de inert și lipsit de conștiință ca un calculator de buzunar și nu avea nimic de spus despre viața umană. Iar ideea de-a o lua în serios i se părea de-a dreptul obscenă.

Revelația tulburătoare a efectului ELIZA a început să-l neliniștească pe Weizenbaum, determinându-l să regândească cadrul relației dintre oameni și tehnologie. Este celebru interviul său profund și incisiv din 1998, în care și-a conturat criticile la adresa viziunii mecaniciste asupra universului — o viziune care, în opinia sa, stătea la baza iluziei că ființele umane ar putea fi înlocuite cu mașini:

„Acești autori [care promovează IA] propagă acum, în pragul noului mileniu, o imagine extrem de periculoasă despre om”, i-a mărturisit el profesorului Bernhard Pörksen. „Aceasta se bazează pe ideea că omul este o mașină ușor de înțeles, decodoficat, corectat și îmbunătățit chiar în viitorul apropiat. Dogma centrală a acestei viziuni despre om este ideea că fiecare aspect al vieții este algoritmizabil, adică poate fi descompus în procese care pot fi calculate și transpuse în reguli clare.”

În cadrul interviului, Weizenbaum a atacat teoria emergentă a transumanismului, argumentând că aceasta se baza pe o concepție fundamental eronată asupra naturii umane și a realității în ansamblu. Entuziaștii IA visau la o ”îmbunătățire a ființei umane, care să constituie un salt evolutiv spre un nivel superior, iar Weizenbaum își exprima îngrijorarea că acești gânditori și oameni de știință erau gata să sacrifice omul, așa cum îl știm, pe altarul unei himere. De altfel, el a mers până într-acolo încât a numit știința materialistă „religia mondială predominantă a zilelor noastre”. De asemenea, Weizenbaum considera că, reducând omenirea la nivelul mașinii și ridicând mașina la rangul de zeu, adepții IA îi dezumanizau pe oameni. Motiv pentru care a sfârșit prin a compara această viziune cu retorica nazistă din vremea celui de-Al Doilea Război Mondial.

Weizenbaum vorbea din proprie experiență, deoarece, în 1935, el și familia lui au fost nevoiți să fugă din Germania nazistă. Dar cultul mașinilor și al tehnologiei ar putea fi chiar mai devastator decât ideologia toxică a nazismului, pentru că ținta lui nu este o anumită rasă, ci întreaga umanitate. La capătul acestei căutări nebunești a perfecțiunii, „omul va dispărea cu desăvârșire”, remarca Weizenbaum. „Lumea vie este plină de taine, iar crezul cercetătorilor și teoreticienilor IA că totul este calculabil creează iluzia extrem de periculoasă a unei transparențe totale, sugerând că toate aspectele existenței noastre pot fi deslușite.”

Deși avertismentele sale li s-au părut multora nimic altceva decât temerile înapoiate ale unui moșneag morocănos și rupt de realitate, astăzi vorbele lui sunt tot mai relevante.

În deceniile de după ELIZA — și, în special, de după publicarea cărții „Computer Power and Human Reason: From Judgment to Calculation” 1 (1976) —, scepticismul dârz al lui Weizenbaum l-a transformat într-un fel de proscris al mediului academic și științific.

„Exista anumite sarcini care nu ar trebui lăsate niciodată în seama calculatoarelor, indiferent cât ar fi acestea de inteligente”, scria el în carte.

În 1988, Weizenbaum s-a retras în cele din urmă de la MIT, unde fusese profesor, iar în 1996 s-a mutat înapoi în Germania, unde cititorii erau mai receptivi la ideile sale. A murit în 2008.

Un om introspectiv și melancolic, dar având totdată convingeri ferme și intuiție mistică, Weizenbaum a recunoscut miracolul și misterul lumii cu o precizie de-a dreptul matematică. Există ceva mai presus de codul binar, mai presus de rotițe, angrenaje și atomi. Există ceva în noi și în experiențele noastre, care va scăpa întotdeauna predicției, automatizării și calculului.

Weizenbaum era sensibil la aceste experiențe.

În interviul mai sus pomenit, îi spunea lui Pörksen: „Există experiența suferinței profunde, există fericirea care vine din nimic, pe nepusă masă, într-o dimineață însorită…. există iubirea… Ei bine, un miracol este un miracol! Nu poate fi descris. Ar trebui să fii artist ca să te poți măcar apropia de el.”

În lucrarea „Computer Power and Human Reason”, Weizenbaum a descris un astfel de moment de iubire și conexiune umană: Pe vremea când copiii mei erau încă mici, eu și soția mea stăteam uneori aplecați deasupra patului în care dormeau. Comunicam fără cuvinte, prin repetarea unei scene care dăinuie neschimbată încă de la primii zori ai omenirii. Ceva din acel moment transcendea limbajul, darămite algoritmii! Eu cred, într-adevăr, că există ceva de nerostit, un adevăr viu care nu poate fi transpus în cuvinte”.

Ca urmare a acestei înclinații mistice, unii l-au ridiculizat, iar alții l-au considerat un erou. Dincolo de intuițiile spirituale, pe care suntem liberi să i le împărtășim sau nu, îngrijorările sale pline de bun simț continuă să ne atragă atenția. În ciuda virtuozității lor tehnice, sistemele de IA sunt inerte din punct de vedere moral, totalmente lipsite de conștiința care pâlpâie în fiecare dintre noi. Din acest motiv, ele nu ar trebui lăsate să ia decizii morale.

Folosind cuvintele lui Weizenbaum, „Concluzia care se desprinde ca fiind cea mai elementară este că, de vreme ce nu există nicio modalitate de a face calculatoarele înțelepte, nu ar trebui să le încredințăm sarcini care necesită înțelepciune.”

Aceasta este o provocare asupra căreia am face bine să reflectăm.

Walker Larson a obținut o licență în scriere și un master în literatură engleză. Înainte de a deveni scriitor, a predat literatură și istorie la o academie privată din Wisconsin. Este autorul a două romane, Hologram și Song of Spheres.

Traducerea și adaptarea: Nedeea Burcă

Sursa: aici

1 ”Puterea calculatorului și rațiunea umană: de la judecată la calcul”