La 18 iulie 2024 a avut loc un eveniment nemaiântâlnit până acum, care va intra în cărțile de istorie. Întreaga omenire a primit un avertisment clar privitor la fragilitatea inerentă a sistemelor tehnologice pe care le-am creat și la complexitățile sociale generate de acestea. Serviciile esențiale oferite de spitale, aeroporturi și bănci au devenit, dintr-o dată, indisponibile. Ne putem doar imagina cum e să te afli, într-un asemenea moment, într-o cameră de gardă, suferind de o boală gravă, sau care îți pune viața în pericol.

Așadar, cum să reacționăm la acest eveniment, cum am putea să îi înțelegem semnificațiile? În calitate de jurnalist specializat în impactul tehnologiei asupra politicii și culturii, aș dori să vă împărtășesc câteva gânduri de început.

Pentru unii dintre noi, care am lucrat timp de mulți ani în domeniul tehnologiei, un asemenea eveniment era complet previzibil. Și asta din cauza existenței, pure și simple, a trei factori determinanți: 1) fragilitatea inerentă a codurilor de computer, 2) posibilitatea, mereu prezentă, a apariției unei erori umane și 3) faptul că atunci când construiești sisteme interconectate, o vulnerabilitate apărută într-o parte a sistemului se poate răspândi cu ușurință, ca o molimă, pretutindeni. Luăm cunoștință zilnic de existența unor asemenea vulnerabilități, există un flux permanent de știri despre hacking, furturi de identitate și încălcări de securitate, implicând tot felul de companii și instituții. Cu toate acestea, niciunul dintre aceste evenimente izolate nu a avut o amploare suficientă pentru a genera un semnal de alarmă care să poată fi auzit de toată lumea – până la marea avarie din 18 iulie.

Fragilitatea intrinsecă este întotdeauna prezentă

Oricât de impresionante ar fi noile noastre tehnologii digitale, tehnocrații și factorii de decizie politică par adesea să piardă din vedere o realitate importantă. În marea schemă a lucrurilor, aceste sisteme care sunt implementate acum masiv sunt, în realitate, destul de fragile. Calculatoarele și sistemele de comunicații care le susțin – așa numitele sisteme virtuale – pot concentra cantități uriașe de putere informațională și control, acționând ca o pârghie și organizând lumea fizică. Un cinic ar putea spune că, în acest moment, ne construim infrastructurile civilizaționale pe o fundație de nisip. La Forumul de Securitate Aspen desfășurat de curând, Anne Neuberger – expert al Casei Albe în domeniul securității informatice – a remarcat: ”Trebuie să ne gândim cu adevărat la rezistența noastră digitală, nu doar vizavi de sistemele pe care le gestionăm, ci și vizavi de sistemele de securitate conectate la nivel global, la riscurile consolidării, la felul în care ne descurcăm cu acea consolidare și cum ne asigurăm că, în cazul apariției unui incident, acesta va putea fi controlat astfel încât să ne recuperăm rapid.” Cu tot respectul, doamna Neuberger a afirmat ceea ce este, pur și simplu, evident, dar fără să sape suficient de adânc.

În realitate, problema este mult mai profundă. Guvernul nostru și guvernele altor națiuni occidentale avansate înaintează acum pe două căi separate, dar egale ca importanță: calea tehnologiei și aceea a guvernării. Cea dintâi fiind supravegheată de entități Big Tech cărora li se oferă mai mult sau puțin mână liberă să opereze conform principiilor economiei de piață.

Mai mult decât atât, luați în considerare acest exercițiu de gândire: Având în vedere rolul decisiv al inteligenței artificiale în modelarea aspectelor cheie ale vieții noastre (cu toate dezavantajele și riscurile foarte reale și pe deplin cunoscute), de ce lucrurile astea nu sunt discutate în dezbaterile prezidențiale? Răspunsul este simplu: aceste probleme sunt lăsate deseori pe seama unor tehnocrați nealeși sau a unor agenți de putere corporativi. Dar marea problemă constă în faptul că majoritatea tehnocraților nu au expertiza politică necesară orientării acestor decizii la nivelul societății în timp ce, nici politicienii noștri (și da, din păcate nici majoritatea candidaților noștri la președinție), nu au expertiza tehnologică necesară.

Domeniu de aplicare, anvergură și înțelepciune

Trecând la o perspectivă mai holistică, capacitatea oamenilor de a continua să construiască aceste tipuri de sisteme se confruntă cu limitările abilității noastre conceptuale de a îmbrățișa vastitatea și complexitatea lor. Așa stând lucrurile, ne putem întreba dacă, în ordinea naturală a lucrurilor, nu există, totuși, o limită în ceea ce privește cantitatea de complexitate tehnologică durabilă? Dacă da, pare rezonabil să presupunem că această limită este determinată de capacitatea inteligenței umane de a cuprinde și gestiona acea complexitate. Și atunci, cât de departe este momentul în care avansul tehnologic va depăși capacitatea noastră de pricepere și, oare, nu cumva impulsionarea continuă a acestui avans ține mai degrabă de un dezastruos hybris prometeic?

Fiind cineva care a scris pe larg despre pericolele inteligenței artificiale, aș susține că ne aflăm într-un punct de cotitură în care merită să ne întrebăm dacă putem măcar controla ceea ce am creat, și dacă ”efectele secundare dăunătoare” ale hipertehnologizarii nu ne vor afecta negativ calitatea vieții?

De fapt, putem doar să speculăm dacă episodul CrowdStrike de luna trecută nu a fost cumva asociat cu vreun fel de hacking sau eroare AI neînțeleasă încă, sau nerecunoscută ca atare.

În concluzie: Dacă nu putem controla efectele propriilor invenții tehnologice, atunci în ce sens se mai poate spune că ele servesc intereselor și nevoilor umane, în acest mediu global deja prea complex?

În cele din urmă, în acest context, trebuie, de asemenea, luată în considerare și apariția unor hipertehnologii de tipul nanotehnologiei și ingineriei genetice. Acestea, la rândul lor, nu pot fi înțelese într-un mod concret, ci doar la un nivel conceptual, deoarece efectele lor primare și secundare asura societății, culturii și politicii nu mai pot fi imaginate cu succes. Așadar, mutările decisive în aceste domenii sunt asemenea unor experimente ad-hoc cu natura.

Progresul tehnologic fulgerător este acum alimentat de imperativele corporative și de mentalitatea ”creșterii cu orice preț”, care oferă puțin timp pentru reflecție. Perspectivele noi și aparent interesante pentru hiper tehnologia avansată ne pot uimi, dar dacă ne și orbesc, cum oare vom mai putea ghida cu înțelepciune progresul tehnologic?

Tom Valovic este jurnalist și autorul cărții Digital Mythologies (Rutgers University Press), o serie de eseuri care explorează problemele sociale și politice emergente ridicate de apariția internetului. El a fost consultant la fostul Oficiu de evaluare tehnologică al Congresului. Tom a scris despre efectele tehnologiei asupra societății în mai multe publicații, printre care M edia Studies Journal al Universității Columbia, Boston Globe și San Francisco Examiner.

Traducerea și adaptarea: Nedeea Burcă

Sursa: aici