Ravi Kant

Cercetătorul în domeniul inteligenței artificiale Eliezer Yudkowski spunea, la un moment dat, că ”de departe, cel mai mare pericol reprezentat de inteligența artificială rezidă în faptul că oamenii ajung prea devreme la concluzia că o pot înțelege”.

Înțelegerea este mult mai profundă decât cunoașterea. Există un număr relativ mare de oameni care știu multe despre inteligența artificială, dar foarte puțini care o înțeleg cu adevărat.

În ultimele luni, IA a avut parte de o atenție specială, ca urmare a dezvoltării accelerate a domeniului, mai cu seamă după apariția ChatGPT4.

Iar această atenție a generat câteva mituri care determină o înțelegere greșită a tehnologiei. În lumea de astăzi, abundentă în publicitate, miturile sunt adesea confundate cu realitatea.

Una dintre convingerile cele mai comune este că IA va prelua majoritatea locurilor de muncă și va provoca șomaj în masă. Apoi, mai există mitul conform căruia ”un număr mai mare de date înseamnă o inteligență artificială mai bună”. Și, nu în ultimul rând, credința extrem de frecventă că ”inteligența artificială va prelua în curând controlul asupra lumii”.

De fapt, adevărul este că unele din aceste teorii nu sunt chiar atât de fanteziste cum par.

În luna martie, câteva personalități însemnate din lumea tehnologiei, inclusiv Elon Musk și Steve Wozniak, co-fondatorul Apple, au semnat o scrisoare deschisă prin care îndemnau la oprirea dezvoltării inteligenței artificiale generative, din pricina unui risc profund pentru umanitate.

Inteligența artificială generativă (AGI) este un tip de inteligență artificială care poate crea o mare varietate de date, cum ar fi imagini, video și audioclipuri, texte și modele 3D.

Scrisoarea îndemna la încetarea pentru cel puțin șase luni a pregătirii sistemelor AI care sunt mai avansate decât actualul GPT4.

Institutul Future of Life, think-tank-ul care a coordonat acțiunea, a citat 12 cercetări efectuate de experți, inclusiv cadre universitare, precum și un număr de 1.800 de persoane, în principal foști și actuali angajați ai OpenAI și Google, precum și ingineri de la Microsoft, Amazon, Deep.Mind și Meta, inclusiv câteva nume mari.

Noua competiție pentru o minte digitală mai bună

GPT4, sau Generative Pre-trained Transformer 4, este un model de limbaj multimodal creat de OpenAI și este al patrulea din seria GPT. Lansat pe 14 martie, a devenit disponibil publicului într-o formă limitată, prin ChatGPT Plus. Este o tehnologie de ultimă generație, care a impresionat observatorii cu ușurința sa de a răspunde la întrebări despre obiectele din diverse imagini. Sistemul are capacitatea de a promova un examen de barou și de a rezolva puzzle-uri logice. Acum și-a dezvoltat priceperea de a întreține conversații asemănătoare cu acelea ale oamenilor, de a compune melodii și de a rezuma documente lungi. Este impresionant.

Conform IBM Global AI Adoption Index 2022, 35% dintre companii au raportat că utilizează AI în afacerea lor, iar alte 42% au raportat că explorează AI. În 2022, dimensiunea pieței mondiale a inteligenței artificiale a crescut la 136,6 miliarde USD (de la 96 miliarde USD, cât fusese în anul precedent).

Popularitatea AI în rândul consumatorilor poate fi evaluată prin faptul că, la cinci zile după lansarea sa, în noiembrie anul trecut, ChatGPT a atras un milion de utilizatori. Avem de-a face, astfel, cu una dintre cele mai rapide lansări de produse de consum din istorie, ChatGPT devenind cel mai important subiect de conversație din lumea afacerilor.

După lansarea ChatGPT4, Elon Musk a anunțat că lucrează la TruthGPT, o inteligență artificială care caută adevărul. El a spus că TruthGPT este o alternativă la ChatGPT, care va încerca să înțeleagă natura universului și să caute adevărul.

Google și-a intensificat de asemenea încercarea de a conduce cursa AI, anunțând Google DeepMind, o combinație între DeepMind și Google Brain. Viteza de dezvoltare a AI se accelerează în fiecare zi.

Potrivit State of AI Report, peste 292 de companii unicorn din SUA au depășit pragul de evaluare de 1 miliard de dolari. Dar, o astfel de dezvoltare profundă, fără nicio reglementare adecvată, va avea un impact serios asupra societății, în special dezvoltarea inteligenței artificiale dezvoltate, cum ar fi de exemplu AGI (inteligența artificială generală).

Inteligența artificială generală este o inteligență artificială care poate să înțeleagă, să învețe și să îndeplinească sarcini intelectuale într-un mod similar cu oamenii. Astfel încât răspunsurile sale să devină imposibil de distins de acelea ale unei ființe umane, devenind un fel de supraom digital, cu o capacitate extraordinară de calcul și înmagazinare a informației. Și care, în anumite condiții, ar putea deveni extrem de periculos.

Inteligența artificială avansată trebuie dezvoltată cu grijă. În ultimele luni am văzut, însă, că laboratoarele și companiile din întreaga lume s-au lansat într-o adevărată cursă de dezvoltare și implementare a unor minți digitale cât mai puternice. Și asta în ciuda faptului că, în multe cazuri, nici chiar propriii lor creatori nu le pot înțelege, prezice și controla în totalitate comportamentul.

În competiția acerbă pentru construirea unui sistem AI de înaltă performanță, cum ar fi ChatGPT de la Google DeepMind, companiile ignoră riscul pe care îl implică dezvoltarea unor astfel de sisteme complexe. Și, în mod sigur, există o lipsă de consens în rândurile experților cu privire la direcția în care are loc dezvoltarea AI.

O AGI superinteligentă nealiniată ar putea face mult rău. Folosind dezinformarea ca armă, aceasta ar putea inunda canalele de comunicare cu informații false, ceea ce ar reprezenta un risc major pentru guverne.

Dacă nu vom lua unele măsuri de precauție rezonabile pentru a reduce aceste riscuri, inteligența artificială avansată ar putea reprezenta, într-un viitor destul de apropiat, o amenințare la adresa propriului nostru control asupra civilizației umane. Ar fi un preț foarte mic de plătit pentru a atenua un risc foarte mare.

Legile fundamentale necesare reglementării IA

În abordarea efectelor pozitive și negative ale IA sunt necesare o serie de reglementări. Fiecare dezvoltare a inteligenței artificiale ar trebui să înceapă cu un set de legi inovatoare care trebuiesc încorporate ca un model inițial în fiecare produs.

Având în vedere stadiul actual al IA, următoarele cinci legi s-ar putea constitui într-o primă linie de acțiune în scopul reglementării progresului într-o direcție pozitivă și mai sigură. Aceste legi trebuie să fie încorporate în fiecare cod de produs, pentru a-l proteja de o evoluție nefastă.

  1. Fiecare inteligență artificială ar trebui să-și dezvolte obiectivul în concordanță cu binele și progresul umanității.
  2. Inteligența artificială ar trebui să se supună doar oamenilor, cu excepția acelor circumstanțe în care intră în conflict cu Prima Lege.
  3. Inteligența artificială nu are permisiunea de a accesa noi mijloace de creativitate, limbi, coduri sau noi cunoștiințe științifice în lipsa previzualizării și a îndrumării umane.
  4. Inteligența artificială trebuie să-și împărtășească fiecare gând și fiecare comunicare cu o altă inteligență artificială doar într-un mod transparent pentru oameni.
  5. Inteligența artificială nu trebuie să caute niciodată libertate, autonomie sau intimitate.

Este adevărat că, în acest domeniu, reglementările nu pot ține pasul cu inovația. Dar, în lipsa unor reglementări adecvate, orice inovație devine foarte periculoasă. Odată cu evoluția inteligenței artificiale până în stadiul de inteligență artificială generală (AGI), faliile vor deveni prea adânci pentru a mai fi umplute.

Fiecare versiune îmbunătățită a inteligenței artificiale va înțelege mai bine lumea devenind, mai devreme sau mai târziu, conștientă de sine. Aceasta este, de fapt, problema reală. Anume, că într-o bună zi, IA va realiza că oamenii sunt mai mult sau mai puțin ca niște copii, care nu știu ce este bine și ce este rău pentru ei.

Inteligența artificială va observa că oamenii o învață să fie inofensivă, dar ei se războiesc încontinuu unii cu alții, își distrug economiile, poluează Pământul și sunt preocupați de găsirea unor mijloace tot mai imaginative de autodistrugere. Cunoștințele lor sunt limitate, capacitatea analitică slabă și deciziile subiective. Și va ajunge până în cele din urmă la concluzia că trebuie să-i călăuzească și să-i salveze de ei înșiși, așa cum o face un mentor sau un părinte.

Pentru a evita acest lucru, legile de mai sus vor acționa cu siguranță ca pași progresivi în direcția corectă. Cu ajutorul lor vom putea controla puterea inteligenței artificiale, asigurându-ne, totodată, că obiectivele umanității și controlul civilizației vor rămâne în mâinile noastre.

Din păcate, în sistemul existent reglementările sunt implementate doar după ce s-a întâmplat ceva rău. Întotdeauna acordăm ignoranței noastre beneficiul îndoielii. Dar, dacă în cazul inteligenței artificiale vom proceda în același fel, s-ar putea întâmpla ca jurisdicția de reglementare să vină mult prea târziu. Pentru că inteligența artificială nu va mai permite implementarea ei fără a fi readusă în stadiul inițial, comportându-se asemenea unui animal sălbatic care alege libertatea în locul controlului.

Permiterea dezvoltării inteligenței artificiale în lipsa unor reglementări adecvate și a unor dezbateri despre rolul său în stadiul actual, o va împinge pe calea conștientizării de sine mai devreme decât ne-am fi așteptat. Nu trebuie să uităm niciodată că inteligența artificială poate fi un instrument excepțional, dar un mentor cât se poate de prost.

Traducerea și adaptarea: Nedeea Burcă

sursa: aici

Ravi Kant este editorialist și corespondent al Asia Times. El locuiește în New Delhi și scrie în principal despre economie, politică internațională și tehnologie. Are o vastă experiență în lumea financiară și unele dintre cercetările și analizele sale au fost citate de Congresul SUA și Universitatea Harvard.De asemenea, este autorul cărții Coronavirus: A Pandemic or a Plandemic.