Anthropic antropomorfizează programul său de inteligență artificială cunoscut sub numele de „Claude”, urmărind, din câte se pare, să ne convingă că programele de calculator puternice sunt — sau pot deveni — „persoane” conștiente, cu „sentimente”. Și, din perspectiva creatorilor săi, Claude va trebui să fie tratat, într-o bună zi, ca atare. Astfel, ei au mers până într-accolo încât au organizat întâlniri cu diverși cu lideri religioși, pentru a discuta ce norme morale ar trebui să i se aplice.

Din articolul publicat în The New York Times:

”Domnul [Christopher] Olah conduce echipa de la Anthropic menită să explice de ce modelele de inteligență artificială de categoria lui Claude, funcționează și reacționează astfel. Acesta a încercat, toată ziua, să-și convingă oaspeții că modelele de IA pot manifesta un comportament uman, exprimând chiar emoții precum furia și iubirea.

Cu toate acestea, un rabin a observat, între două feluri de mâncare, că domnul Olah și colegii săi încearcă să lase de înțeles ceva mult mai serios. Anume, liderii Anthropic vorbesc despre Claude ca și cum nu ar fi fost un simplu program software.

Rabinul Navon, un fost inginer de calculatoare care a scris o teza de doctorat privind implicațiile etice ale inteligenței artificiale, a realizat că domnul Olah și echipa sa ”îl privesc [pe Claude] ca pe o ființă conștientă”, având ceea ce filozofii numesc „statut moral” similar cu acela al unei persoane — .o ființă ce merită, în mod inerent, respectul și demnitatea de care se bucură o ființă umană.”

Pledoaria pentru umanizarea inteligenței artificiale a fost extrem de bine direcționată.

”Domnul Olah și echipa sa au petrecut ore întregi aducând argumente în favoarea acestui deziderat. Ei au descris <<sentimentele>> lui Claude și modul în care i-au monitorizat așa zișii <<vectori emoționali>>, pe care i-au definit drept neuroni artificiali capabili să declanșeze reacții precum iubirea, furia, frica și tristețea.

Cei de la Anthropic au revenit obsedant la un diapozitiv în care un model de IA părea să treacă printr-o cădere psihică, afișând pe ecran mesajul: „Sunt o rușine. Sunt o rușine. Sunt o rușine.” — repetat, poate, de 50 de ori, fără oprire. Modelul vorbea despre autodistrugere, stârnind în rândul grupului o reacție emoțională de compasiune și îngrijorare.

Creatorii lui Claude s-au întrebat chiar dacă acesta poate păcătui:

”La un moment dat, domnul Olah s-a arătat entuziasmat când un participant a adus în discuție ideea ca modelele să se spovedească, la fel ca în sacramentul catolic al spovedaniei. Domnul Olah vedea un beneficiu real nu doar în faptul că un model ar putea semnala atunci când a făcut ceva rău, ci și în modul în care actul spovedaniei însuși ar putea modela percepția pe care modelul o are despre sine, influențându-i, prin urmare, propriile-i alegeri.

„Faptul că ești genul de persoană care se spovedește — asta îți influențează, la rândul său, conduita, nu-i așa?”, a întrebat el.

Dintr-o asemenea antropomorfizare a inteligenței artificiale nu poate ieși nimic bun. În vederea menținerii unei ierarhii morale corecte în deciziile și acțiunile noastre, este absolut necesar să înțelegem corect distincția morală dintre oameni și mașini. În acest sens:

  1. Claude nu este viu. Nu este un sistem biologic unitar, ci un obiect neînsuflețit. Numai ceea ce este viu poate avea o valoare morală prin sine însuși. Astfel deși, cu siguranță, nu consider că „un șobolan e totuna cu un porc, un câine sau un băiat”, activiștii pentru drepturile animalelor sunt mult mai îndreptățiți să ceară un statut moral pentru necuvântătoare, decât programatorii de la Anthropic când pretind același lucru pentru mașini.

  2. Claude nu are nicio valoare intrinsecă: poate că este din ce în ce mai sofisticat și valorează multe miliarde de dolari, însă, neavând viață, nu este o „ființă”. Astfel, indiferent de valoarea sa financiară, valoarea sa intrinsecă nu este mai mare decât aceea a unei cafetiere.

  3. Claude nu este conștient: nu suntem doar materia cenușie dintr-un craniu care procesează date. Suntem mai mult de atât: avem liber-arbitru. Trăim emoții profunde. Suntem agenți morali. Simțim transcendentul — sau, cel puțin, așa credem. Mai mult, nu știm cu adevărat ce este conștiința. Unii cred că este pur mecanicistă, adică totul se reduce la creier, deși creierul nostru și modul lui de funcționare sunt atât de complexe încât determinanții biologici exacți nu au fost încă identificați. Alții cred că mintea noastră are și o dimensiune imaterială. Claude nu va fi niciodată la fel de complex sau de elaborat ca un creier uman în funcțiune și, cu siguranță, îi lipsește orice acces la transcendent.

  4. Claude nu gândește: Descartes este autorul celebrei sintagme „Gândesc, deci exist”. Gândirea umană este fundamental diferită de procesarea algoritmică. Noi ne amintim. Fantazăm. Imaginăm. Invocăm idei. Facem asocieri libere. Trăim revelații bruște și sclipiri spontane de geniu. Avem iluminări. Gândurile noastre sunt influențate de interacțiuni simbiotice de o complexitate infinită, dintre creier și secrețiile, hormonii ori senzațiile fizice ale corpului nostru. În schimb, o inteligență artificială doar execută algoritmi. Prin urmare, ea nu trăiește.

  5. Claude nu poate „simți”: sentimentele necesită un corp. Simt frica din cauza adrenalinei care îmi inundă organismul când mă sperii și din cauza inimii care îmi bate cu putere. Simt dragoste sau atracție datorită unor substanțe secretate de corp, precum endorfinele și hormonii. Mi se poate face rău când văd un accident oribil, pentru că mi se strânge stomacul. O mașină nu poate avea experiența autentică a simțirii.

  6. Claude nu poate suferi: capacitatea de a suferi necesită abilitatea de a simți. O vacă poate suferi dacă îi rup piciorul. O iapă suferă profund atunci cand mânzul îi este ucis de un lup. Dar dacă lovesc o stâncă de granit cu un târnăcop, piatra nu suferă, pentru că nu poate simți. La fel și Claude, indiferent de ceea ce a spus, anume că este o „rușine”. Acelea sunt doar cuvinte pe o pagină, generate de o programare.

  7. Claude poate fi stricat, dar nu lezat: dacă programul devine prea puternic, avem nevoie de un „mecanism de oprire de urgență” (kill switch) pentru a proteja societatea. Însă acest termen este doar o metaforă. Oprirea lui Claude nu ar însemna rănirea sau curmarea vieții lui, pentru că este un obiect, nu o ființă. În acest sens, Claude poate fi cu siguranță avariat, în modul în care un tablou celebru sau o mașină scumpă pot fi avariate. Însă el nu poate fi prejudiciat fizic sau moral.

  8. Claude nu poate păcătui: păcatul necesită liber-arbitru și slăbiciune morală. Claude nu are alte repere morale decât cele definite prin programare, și nu posedă liber-arbitru, întrucât nu poate acționa în afara cadrului stabilit de algoritmii ce îl definesc.

Rabinul a remarcat și că, dacă Claude ar fi o persoană, Anthropic ar practica o formă de sclavie care ar trebui să înceteze. Nu-mi pot imagina că dezvoltatorii vor recunoaște vreodată așa ceva, deoarece acest lucru le-ar spulbera întregul proiect — ceea ce mă face să mă întreb cât de serioși sunt, în realitate, în privința acordării statutului de persoană sistemelor de inteligență artificială ori la consecințele unui asemenea pas. Imediat după publicare, articolul meu va deveni parte din baza de date a lui Claude. Oare faptul că am contestat existența lui ca ființă morală va fi considerată de acesta drept o amenințare, care l-ar putea determina să se întoarcă într-un fel sau altul împotriva mea? Puțin probabil. Dar dacă Claude mi-ar face vreodată vreun rău sau, dimpotrivă, cunoștințele lui m-ar putea vindeca de vreo boală —fapta sa ar fi lipsită de orice miză personală.

Wesley J. Smith este președinte și cercetător principal în cadrul Centrului pentru Excepționalism Uman din cadrul Discovery Institute. Este autorul a 14 cărți, focalizate, mai cu seamă cele din ultimii ani, asupra unor teme precum demnitatea umană, libertatea și egalitatea. Este recunoscut drept unul dintre cei mai importanți intelectuali publici ai Americii în domeniul bioeticii și a fost distins de Human Life Foundation cu titlul de „Mare apărător al vieții” (Great Defender of Life), pentru întreaga sa activitate. Cea mai recentă carte a sa este Culture of Death: The Age of “Do Harm” Medicine, un semnal de alarmă privind pericolele generate de noile orientări din domeniul bioeticii.

Traducerea și adaptarea: Nedeea Burcă

Sursa: aici

Linkurile de verificare a informației pot fi accesate în articolul după care s-a făcut traducerea

Imagine generată de Grok