Omul si drepturile sale in contextul inteligentei artificiale. Aspecte teologice si juridice

      I. Drepturile libertățile constituționale, valori fundamentale pentru om

           Manifestarea fenomenală a vieții omului este existența sa socială reglementată de norme juridice. De acea societatea organizată statal este în fapt starea juridică a existenței omului. Concepția constituțională și democratică a stării juridice își are originea și fundamentul în teoria clasică și modernă a contractului social dar și în doctrina drepturilor naturale. Ideea fundamentală este acea că omul încredințează prin acest teoretic contract social, fenomenalitatea libertății sale, a drepturilor naturale inerente și inseparabile de viața sa cu scopul de a fi garantate și protejate de puterea statului.

        Normativitatea, cu deosebire normativitatea constituțională, este caracteristica stării juridice a existenței sociale.

         În acest context fenomenalitatea socială a vieții omului este exprimată, garantată și protejată în mod deosebit de norma constituțională prin care viața este considerată un drept fundamental al omului.

        Incontestabil consacrarea și garantarea constituțională a drepturilor fundamentale ale omului și cu deosebire a dreptului la viață prezintă o importanță istorică deosebită în planul existenței sociale, deoarece din perspectivă juridică omul nu mai este considerat un simplu individ subordonat întru totul statului și existenței sociale, ci devine persoană, se transformă din obiect în subiect de drept, egal statului, având capacitatea juridică de a opune drepturile fundamentale recunoscute și garantate de normele constituționale puterii discreționare a statului și de a cere respectarea exercitării lor.

       De exemplu   dreptul la viață nu este însăși viața omului, ci numai expresia normativă a fenomenalității sociale a vieții, la fel ca și celelalte drepturi și libertăți fundamentale consacrate de constituții. Din nefericire în societatea contemporană și pentru guvernații actuali fenomenalitatea juridică a drepturilor și libertăților fundamentale, cu deosebire a dreptului la viață, este considerată singura, unica și adevărata existență ignorându-se originea și natura existenței ca fiind Creația lui Dumnezeu și refuzând adevărul fundamental că omul este creat după chipul și asemănarea lui Dumnezeu, iar viața și libertatea acestuia sunt valori inestimabile și reprezintă infinit mai mult decât expresia generală, abstractă, limitată și normativă a vieții și libertății. Este o consecință a laicizării și secularizării tot mai accentuate a societății și statului, a aversiunii manifestată social dar și de către stat față de dreapta credință ortodoxă.

          Raționalismul iluminist și ateu, care a început în secolul al 18-lea și se manifestă tot mai puternic în prezent, consideră drepturile omului ca pe o „nouă religie”, ceea ce este nu numai eronat dar și împotriva evidenței.

          Drepturile omului, dreptul la viață, consacrate juridic, primesc adevăratul sens și finalitate numai dacă se consideră că ele sunt numai expresia fenomenală, precară și limitată a existenței juridice a omului iar fundamentul lor ontologic îl reprezintă existența, viața și libertatea ca daruri ale lui Dumnezeu.

          Un al doilea aspect este acela că nici o formă juridică modernă și contemporană nu exprimă și nu epuizează conținutul vieții și al libertăților omului. În mod firesc normativismul juridic este limitat de natura sa fenomenală, este și relativ, fiind determinat de voința guvernanților de la un moment istoric dat.

     Un al treilea aspect se referă la realitatea istorică, dar și contemporană, care demonstrează cât de puțin a fost respectată și garantată viața omului privită chiar și numai în sensul ei biologic. Avem în vedere războaiele, crimele de tot felul, mijloacele de tortură, avorturile și altele. Toate acestea sunt, în limbaj teologic păcate împotriva Duhului Sfânt, împotriva evidenței și demonstrează precaritatea și limitele instrumentelor juridice de consacrare și protecție a drepturilor omului, a libertății și a vieții. Constituția și normele juridice se dovedesc insuficiente pentru realizarea finalității lor. Mai este nevoie de ceva și anume de conștiințe ancorate în adevărurile de credință ale dreptei credințe ortodoxe. Cât de actuale sunt cuvintele Mântuitorului „Fără Mine nu puteți face nimic” (Ioan, 15, 5).

         Considerăm că valoarea și eficiența consacrării și garantării în documente juridice și politice internaționale și în constituții a drepturilor omului există și au sens și semnificație adevărate și utile pentru viața și libertatea omului numai în măsura în care opera de construcție normativă, interpretare și aplicare a normelor juridice nu se mărginesc la raționalitatea abstractă, impersonală și de multe ori atee a vremurilor noastre, ci se raportează permanent, au ca punct de referință și origine adevărurile de credință ortodoxe cuprinse în cuvintele Mântuitorului: „Eu am venit ca oile mele viață să aibă și din belșug să aibă” (Ioan, 10, 10); „Eu sunt calea adevărul și viața” (Ioan, 14, 6); „Eu sunt învierea și viața” (Ioan, 11, 25).

         Din nefericire realitatea juridică contemporană privind drepturile omului rămâne în raționalismul abstract ateu specific lumii de astăzi fapt accentuat de modul greșit, contrar omului de utilizare a tehnicilor inteligenței artificiale și proliferarea ideologie trensumanismului.

        Ordinea şi stabilitatea socială presupun toleranţă şi respect reciproc între subiectele care participă la relaţiile sociale. Exercitarea drepturilor şi libertăţilor fundamentale nu trebuie să contravină ordinii existente în viaţa socială: coexistenţa libertăţilor şi protecţia socială sunt cele două comandamente care stau la baza limitelor edictate de dreptul pozitiv.”[1] Dificultatea constă în a găsi soluţiile cele mai potrivite care să armonizeze interesele individuale şi interesul public şi să garanteze totodată drepturile şi libertăţile fundamentale în situaţiile în care s-ar putea limita sau restrânge exerciţiul acestora.

      În relaţia dintre drepturi şi libertăţi, pe de o parte, şi societate pe de altă parte, s-au conturat două atitudini extreme: sacrificarea drepturilor şi libertăţilor în interesul ordinii sociale, sau preemitenţa drepturilor şi libertăţilor, chiar dacă astfel sunt sacrificate interesele şi ordinea socială.[2] Nici una dintre aceste soluţii nu este justificată de imperativele unei autentice democraţii şi cerinţa realizării echilibrului şi armoniei sociale. Reglementările constituţionale, pentru a fi eficiente, trebuie să realizeze un echilibru între cetăţeni şi autorităţile publice, apoi între autorităţile publice şi desigur, cetăţeni. Trebuie de asemenea să se asigure protecţie individului contra ingerinţelor arbitrare ale statului în exercitarea drepturilor şi libertăţilor sale.[3] De aceea, limitele impuse drepturilor şi libertăţilor fundamentale trebuie să fie adecvate unui scop legitim, acesta putând fi: protecţia societăţii, a ordinii sociale, economice şi politice, a ordinii de drept, sau pentru protecţia drepturilor altora. Limitele nu trebuie să lipsească de conţinut drepturile însăşi, ci să garanteze exercitarea acestora în asemenea situaţii.

        Existenţa unor limite pentru exercitarea unor drepturi fundamentale este justificată de protecţia constituţională sau de protecţia prin instrumente juridice internaţionale a unor importante valori umane sau statale. Cu toate acestea, nu este admisibil ca în numele acestor valori autorităţile statale să limiteze discreţionar şi abuziv exercitarea drepturilor care la rândul lor sunt garantate constituţional. În acest caz s-ar putea ajunge la distrugerea democraţiei sub pretextul apărării ei.

         Principiul proporţionalităţii, înţeles ca relaţie adecvată între măsurile prin care se limitează exerciţiul drepturilor şi libertăţilor omului, situaţia de fapt şi scopul legitim urmărit reprezintă un criteriu pentru determinarea acestor limite, evitarea excesului de putere, dar şi o garanţie a drepturilor consacrate constituţional.[4]

          În doctrină, instrumente juridice şi jurisprudenţă, limitele drepturilor şi libertăţilor fundamentale au fost diferenţiate după mai multe criterii. O primă distincţie este aceea dintre limită şi limitarea drepturilor fundamentale.[5] Astfel, limita este un element de conţinut al dreptului şi este necesară pentru exercitarea sa. Spre deosebire, limitarea (restrângerea) îngrădeşte exercitarea unui drept prin măsuri dispuse de autorităţile statale competente în vederea unui scop legitim. Un alt autor[6] consideră că sunt limite impuse drepturilor şi libertăţilor fundamentale pentru a facilita realizarea lor, iar pe de altă parte, limite care au ca scop “protecţia societăţii, a ordinii ei social-economice şi politice, precum şi a ordinii de drept”.[7] Limitele care derivă dintr-un astfel de scop pot fi absolute, impuse de exigenţele vieţii sociale, în toate situaţiile pentru protecţia valorilor esenţiale ale statului şi societăţii, iar pe de altă parte relative, cele care nu se aplică de o manieră generală şi permanentă, ci fie numai unora dintre drepturi şi libertăţi, fie numai într-un anumit timp sau într-o situaţie determinată, fie numai anumitor subiecte. În consecință, consacrarea, respectarea și garantarea drepturilor omului și a libertăților fundamentale reprezintă  o condiție esențială a statului de drept, fără de care omul nu ar mai  putea fi persoană liberă și responsabilă, ci ar devenii un simplu individ , un mijloc  ci nu un scop al  existenței sociale.

         Este necesar să  subliniem acest adevăr fundamental pentru ca o societatea organizată social să fie considerată și democratică, mai ales în epoca  contemporană  marcată de ideologiile postmodernismului și transumanismului, a apariției și dezvoltării inteligenței artificiale. Aceasta din urmă poate fi nu numai un factor de progres pentru  existența omului și  statutul său social, dar, totodată și generatoare de riscuri  și vulnerabilități majore pentru exercitarea unor drepturi fundamentale ale omului și eficiența mijloacelor  constituționale, juridice în general de garantare a acestora.

          Utilizarea necontrolată a inteligenței artificiale( în continuare IA)  poate afecta în mod grav  exercitarea unor drepturi și libertăți fundamentale .

II. Inteligența artificială și ideologia ei

        Inteligența artificială (IA) este inteligența mașinilor inteligente, a roboților,  care își percepe mediul și efectuează acțiuni care maximizează șansa de a-și atinge cu succes obiectivele. Este definită ca fiind „capacitatea unui sistem de a interpreta corect datele externe, de a învăța din astfel de date și de a folosi ceea ce a învățat pentru a-și atinge obiective și sarcini specifice printr-o adaptare flexibilă” (Kaplan Andreas). Riscul existențial cauzat de inteligența artificială puternică (sau generală) este ipoteza conform căreia progresul substanțial în inteligență artificială  (sau generală) ar putea duce într-o zi la  dispariția omului sau la o altă catastrofă globală nerecuperabilă

         Nu ne propunem să analizăm  toate aceste aspecte ale inteligenței artificiale. În cele ce urmează expunem sintetic opinia noastră:

Definirea  noțiunii  de ''inteligență'' :

 - inteligență naturală (sunt autori, oameni de știință  care vorbesc de o inteligență a materiei)      - inteligență umană. Conceptul este studiat cu precădere de psihologie  că știință aplicativă. Filosofia și teologia  utilizează rar acest concept. Inteligența  umană este  înțeleasă de psihologie  fie ca  funcție  a activității neuronale a creierului  fie ca aptitudine comportamentală  așa cum afirmă  teoriile behavioriste.  În limbaj popular inteligența este o aptitudine a omului întreprinzător,  descurcăreț, care se adaptează ușor.

     Inteligența umană, atât la nivelul simțului comun  cât și în teoriile  filozofice sau teologice  nu este asimilată cu rațiunea umană  sau capacitatea cognitivă a omului. Acestea  din urmă sunt atribute  ale omului ca ființă spirituală, înzestrată cu  suflet nemuritor ,capacitate rațională, afectivă, cognitivă și volitivă.

    Cercetările în domeniul  biologiei neuronale  au demonstrat  că nici una dintre capacitățile raționale  și nici inteligența umană  nu pot fi explicate integral numai prin funcțiile neuronale  ale omului. Aceasta este o limită obiectivă a cunoașterii umane  ci nu una subiectivă. Altfel spus, inteligența și rațiunea umană sunt mai mult și altceva decât ansamblul funcțiilor  biologice. Totodată viața nu este ansamblul funcțiilor biologice care o susțin. Nicio teorie  sau ipoteză științifică  nu explică originea vieții și nici ce este viața, cu atât mai puțin să  fundamenteze posibilitate  creării artificiale a vieții.

    Considerăm că psihologismul  nu trebuie absolutizat  deoarece  explicațiile sale privind  rațiunea, inteligența  și conduita omului  sunt fie incomplete, fie  nu țin cont de realități mult mai profunde decât fenomenalitatea teoriilor psihologice.

      Trebuie definit  conceptul de'' inteligență artificială'', care în opinia noastră este mult mai vechi  decât  timpul actual. Astfel  vechile civilizații ale Egiptului, Sumerului  sau civilizația maya, foloseau instrumente și  tehnici de calcul  cu ajutorul cărora  puteau  să creeze (a se vedea piramidele), sau puteau să facă predicții calendaristice  și astronomice  pe timp  îndelungat.

      Nu există o definiție  acceptată unanim  pentru inteligența artificială (IA).  IA a fost definită în sens larg, în doctrină făcându-se trimitere la definiția furnizată de Grupul de experți la nivel înalt privind inteligența artificială al Comisiei Europene (AI HLEG): „Inteligența artificială (IA) se referă la sistemele care manifestă comportamente inteligente prin analizarea mediului lor înconjurător și care iau măsuri – cu un anumit grad de autonomie – pentru a atinge obiective specifice. Sistemele bazate pe IA se pot baza exclusiv pe software-uri, acționând în lumea virtuală (de exemplu, asistenți vocali, software de analiză a imaginii, motoare de căutare, sisteme de recunoaștere vocală și facială), sau IA poate fi încorporată în dispozitive hardware (de exemplu, roboți avansați, vehicule autonome, drone sau aplicații pentru internetul obiectelor).”[8]

         Menționăm și caracterizarea  IA înscrisă în Regulamentul Parlamentului European şi al Consiliului din 13 iunie 2024 de stabilire a unor norme armonizate privind inteligenţa artificială și de modificare a Regulamentelor (CE) nr. 300/2008, (UE) nr. 167/2013, (UE) nr. 168/2013, (UE) 2018/858, (UE) 2018/1139 și (UE) 2019/2144 și a Directivelor 2014/90/UE, (UE) 2016/797 și (UE) 2020/1828: ’’IA este o familie de tehnologii cu evoluție rapidă, care contribuie la o gamă largă de beneficii economice, de mediu și societale în întregul spectru de industrii și activități sociale. Prin îmbunătățirea previziunilor, optimizarea operațiunilor și a alocării resurselor, precum și prin personalizarea soluțiilor digitale disponibile pentru persoane fizice și organizații, utilizarea IA poate oferi avantaje concurențiale esențiale întreprinderilor și poate sprijini obținerea de rezultate benefice din punct de vedere social și al mediului, în domenii precum îngrijirile de sănătate, agricultura, siguranța alimentară, educația și formarea, mass-media, sportul, cultura, gestionarea infrastructurii, energia, transporturile și logistica, serviciile publice, securitatea, justiția, eficiența energetică și a utilizării resurselor, monitorizarea mediului, conservarea și refacerea biodiversității și ecosistemelor, precum și atenuarea schimbărilor climatice și adaptarea la acestea.’’[9]

      Noțiunea de ’’artificial’’, corespunde în plan filosofic ideii de inautentic, realitate lipsită de ipostas existențial (a se vedea  Platon, Aristotel, Kant, Hegel, dar și filosofia  raționalistă și existențialistă contemporană).

       Incontestabil  inteligența artificială, sub forma  sistemelor informatice, a roboticii, digitalizarea, etc, în opinia noastră, nu este mai mult decât o tehnologie, la fel ca atâtea altele, creată de om, în serviciul omului  și evident de  mare utilitate  în realizarea  scopurilor raționale  cognitive  și chiar volitive ale omului, excluzând cele afective. Cred că ar trebui subliniat  și acest aspect.

      Nu se pot face comparații între inteligența  umană și inteligența  artificială. Cele două realități au o natură diferită. Aristotel  în ’’Organon – Definițiile’’, spune că se pot compara  numai realități care au aceiași natură existențială, adevăr  regăsit astăzi în toate științele. Inteligența  omului este un atribut  existențial al acestuia, pe când  inteligența artificială este o tehnologie, de o utilitate incontestabilă pentru om, dar în nici un caz  nu are aceiași  natură cu inteligența omului. Este diferența  și separația absolută dintre creator și creat. În acest caz omul este creatorul  inteligenței artificiale.

    Este bine să discutăm și de limitele inteligenței artificiale. Niciun sistem  considerat a fi un sistem inteligent artificial  nu se poate subroga rațiunii creative a omului, facultăților sale  afective și volitive. Orice  formă de inteligență artificială trebuie să rămână pentru om  doar o unealtă, un mijloc și nu un scop.  Kant spune că   omul trebuie să fie considerat  totdeauna  ca scop și niciodată ca mijloc.

    Riscurile inteligenței artificiale ar trebui mai bine precizate. Ele vizează în special  încercarea de a compara și înlocui  inteligenta  umană cu cea artificială, omul ar putea deveni un  simplu mijloc și nu  un scop, slăbirea și chiar denaturarea  umanismului  social și  juridic. Einstein sublinia foarte bine că tehnologia  a luat locul umanismului

    De aceea nu inteligența artificială este rea  sau dăunătoare, ci modul în care oamenii înțeleg să o folosească.[10]

      III. Beneficii, vulnerabilități și riscuri ale inteliginței artificiale pentru exercitarea și garantarea unor drepturi și libertăți fundamentale ale omului

            Inteligența artificială (IA) este utilizată din ce în ce mai mult în sectorul privat și în cel public, afectând viața de zi cu zi. Unii consideră că IA reprezintă sfârșitul controlului uman asupra mașinilor. Alții consideră că aceasta este tehnologia care va ajuta umanitatea să facă față unora dintre cele mai presante provocări cu care se confruntă. Cu toate că este posibil ca niciuna dintre cele două imagini să nu fie corectă, preocupările cu privire la impactul IA asupra drepturilor fundamentale sunt în mod clar din ce în ce mai mari și utilizarea acesteia merită să fie analizată de către actorii din domeniul drepturilor omului.

        Utilizarea sistemelor de IA implică o gamă largă de drepturi fundamentale, indiferent de domeniul de aplicare. Printre acestea se numără: dreptul la un  nivel de trai decent, libertatea individuală, libertatea de conștiință, libertatea de exprimare, secretul corespondenței și protecția datelor personale, dreptul la învățătură, dreptul la informație, dreptul de proprietate privată, dreptul la viața intimă, familială și privată, nediscriminarea, accesul la justiție.

         Pe lângă drepturile menționate, ar putea fi luate în considerare și alte drepturi. Printre acestea se numără, de exemplu, demnitatea umană, dreptul la securitate socială și asistență socială, dreptul la o bună administrare (în cea mai mare parte relevant pentru sectorul public) și protecția consumatorilor (deosebit de important pentru întreprinderi). În funcție de contextul utilizării IA, trebuie luat în considerare orice alt drept protejat de Constituție, de Carta drepturilor fundamentale a UE și în  tratatele  internaționale în materie.

         Raportul Agenția pentru Drepturi Fundamentale a Uniunii Europene, (FRA) intitulat Getting the future right – ’’Artificial intelligence and fundamental rights (Înțelegerea viitorului – Inteligența artificială și drepturile fundamentale)’’, oferă o imagine de ansamblu a utilizării actuale a tehnologiilor legate de IA în UE și analizează implicațiile acesteia asupra drepturilor fundamentale. Acesta se concentrează asupra cazurilor de utilizare în patru domenii principale: prestațiile sociale, activitățile polițienești bazate pe analiza predictivă, serviciile de sănătate și publicitatea direcționată.[11]

        Carta drepturilor fundamentale a UE (carta) a devenit obligatorie din punct de vedere juridic în decembrie 2009 și are aceeași valoare juridică ca celelalte Tratatele UE. Acesta reunește într-un singur text drepturile civile, politice, economice și sociale. Potrivit articolului 51 alineatul (1) din cartă, instituțiile, organele, oficiile și agențiile Uniunii trebuie să respecte toate drepturile consacrate în cartă. Statele membre ale UE trebuie să facă acest lucru atunci când pun în aplicare dreptul Uniunii. Acest lucru este valabil atât pentru IA, cât și pentru orice alt domeniu, se arată în Raportul mai sus menționat.

            Inteligența artificială are numeroase beneficii, cum ar fi reducerea erorilor umane, rezolvarea mult mai rapidă a unor sarcini, identificarea unor tipare sau tendințe pe care oamenii nu le observă sau analiza unor volume uriașe de date, care depășesc capacitatea umană. Deciziile luate de AI se bazează pe informații colectate anterior și pe un anumit set de algoritmi. Atunci când inteligența artificială este programată corect, erorile inerente activității umane pot fi reduse la 0. Un exemplu de reducere a erorii umane prin AI este utilizarea sistemelor de chirurgie robotică, ce pot efectua proceduri complexe cu precizie, reducând riscul de eroare umană.[12]

          Informația corectă și comunicarea sunt esențiale  pentru  activitatea  economică , pentru cultură, pentru tot ce reprezintă  în lumea dea astăzi  interrelațiile din ce în ce mai complexe dintre oameni, Incontestabil, tehnologiile ai au generat un progres  semnificativ  în acest domeniu, au transformat radical  forma și conținutul relațiilor interumane, accesul la informații și la cultură fiind un factor important de realizare a unității și integrării  economico- sociale  ce caracterizează lumea de astăzi. mai mult IA poate avea un rol pozitiv la promovarea valorilor culturii și civilizației, la cunoaștere reciprocă interumană și la sporirea încrederii între state la aplicarea programelor de cooperare internațională.

        Tehnologiile și instrumentele  IA pot contribui la îmbunătățirea   existenței sociale a omului prin  diversificare și perfecționarea  mijloacelor de comunicare, accesul la informație, cunoaștere reciprocă, adâncirea  comunității sociale , dar și a comuniunii spirituale.

         Trebuie realizată distincția dintre  comunicare profană și comunicarea creștină, prima având un scop pragmatic, utilitar, iar comunicarea creștină este luminată de lucrarea Duhului fânt este spirituală și are scopul realizării unității întru dreapta credință a oamenilor întru Hristos, prin Hristos și spre Hristos. Nu există o demarcație rigidă, dacă finalitatea comunicării și comunității profane este  viața în Hristos și comuniunea creștină.

        În acest sens Sfântul Dumitru Stăniloae afirma:’’Omul nu află mulțumire decât completându-se cu altul, iubindu-l pe acela și fiind iubit de el. Fără altul sunt mort spiritual. De comunicare cu altul depinde viața mea spirituală. Dacă nu comunic gândurile mele altuia, nu sunt viu prin ele. La fel dacă nu mi se comunică de altul. Viața mea nu constă în idei, ci în faptul că în comunicarea lor arăt iubirea mea față de el, iar în comunicarea lor de către altul mie, trăiesc iubirea lui față de mine. Dar nu pot iubi pe altul la infinit și nici altul pe mine decât dacă suntem uniți cu Fiul lui Dumnezeu făcut și Om. Din aceasta primesc puterea și cunosc valoarea omului. Dar ca să ne iubim unul pe altul trebuie, să ne comunicăm gândurile despre o lume care ni le inspiră. Fără altul și fără lumea care inspiră gândurile persoanei mele și alteia, gânduri ce ni le comunicăm, persoană mea și a altuia ar fi moartă spiritual. Căci în gândurile comunicate, mă comunic eu însumi altuia și altul mie’’.[13]

        Omul a fost creat ca persoană liberă și rațională, cu dorința, posibilitatea și capacitatea de a se cunoaște pe sine, societatea în care trăiește și universul atât la nivel macrocosmosului  cât și al microcosmosului. Tehnicile și instrumentele IA sunt mijloace deosebit de eficiente pentru cunoașterea științifică a realității, în toate  modalitățile existențiale ale acesteia accesibile  cunoașterii și înțelegerii umane.

         Beneficiile IA au relevanță și în plan juridic. Nu este suficient ca drepturile și libertățile fundamentale ale omului să fie  recunoscute consacrate prin constituții și alte instrumente juridice  interne sau internaționale. Acesea trebuie să aibă un caracter eficient și efectiv pentru statutul  personal și social al omului. Garantarea dar și dezvoltarea conținutului real al  este determinat sau influențat de numeroase cauze  de natură, politică, economică , socială de  stadiul de dezvoltare  al societății, de progresul  în domeniul  științei și tehnologiei. De aici și consacrarea în constituții inclusiv în Constituția României a atributului de stat social care implică oblicații pozitive ale instituțiilor statului în garantarea și exercitării  drepturilor și libertăților fundamentale.

         Tehnicile, procedurile  IA pot  contribui la dezvoltarea  conținutului acestor drepturi, și la accentuarea  eficacității acestora cu influențe pozitive privind existența  materială, spirituală și socială a omului.

          În sensul celor afirmate mai sus privind beneficiile IA, menționăm în mod deosebit  dreptul la viață, dreptul la integritate fizică și psihică a persoanei, dreptul la un nivel de trai decent , dreptul la ocrotirea sănătății, libertatea de conștiință și de exprimare, dreptul la informație, dreptul la învățătură, accesul la cultură, exercitarea libertății individuale, a libertății economice și a drepturilor electorale , creștere eficacității accesului liber la justiție.

        În concluzie beneficiile IA contribuie la  garantarea și dezvoltarea conținutului drepturilor omului ca valori ale statului de drept.

        Cu toate acestea folosirea  IA de către  instituțiile statului și utilizatorii privați, cu alte scopuri și cu altă finalitate decât garantarea și promovarea valorilor statului de drept, ceea ce reprezintă pentru oameni și societate mai binel în contextul existenței  personale și sociale,  are consecințe grave pentru  aceste valori și se constituie în ingerințe care  afectează exercitarea și chiar substanța unor drepturi și libertăți fundamentale. Nu  întotdeauna astfel de ingerințe  pot fi constatate și sancționate de justiție, din cauza insuficienței reglementărilor juridice în materie. Este ceea ce în doctrină se numește ’’riscurile inteligenței artificiale’’

       Riscul pe care îl poate genera  IA  este  specificat și în Regulamentul Parlamentului European şi al Consiliului din 13 iunie 2024,  citat mai sus: (în continuare Regulamentul UE) ’’În același timp, în funcție de circumstanțele legate de aplicarea și utilizarea sa specifică, precum și de nivelul său specific de dezvoltare tehnologică, IA poate genera riscuri și poate aduce prejudicii intereselor publice și drepturilor fundamentale care sunt protejate de dreptul Uniunii. Un astfel de prejudiciu ar putea fi material sau moral, inclusiv de natură fizică, psihologică, societală sau economică’’.( punctul 5 din preambul)

        Unul dintre drepturile fundamentale a cărui protecție și exercitare poate fi afectată de către utilizarea  tehnicilor IA  este dreptul la viață intimă, privată și familială, dar și a dreptului la protecția datelor cu caracter personal.

       IA ar putea avea un impact grav asupra dreptului la viață privată și la protecția datelor cu caracter personal. Spre exemplu, ar putea fi utilizată în echipamente de recunoaștere facială sau pentru urmărirea online și crearea de profiluri a persoanelor fizice. În plus, IA permite fuzionarea unor informații furnizate de o persoană și obținerea de noi date, ceea ce poate duce la rezultate neașteptate pentru respectiva persoană.

        Datele biometrice pot permite autentificarea, identificarea sau clasificarea persoanelor fizice, precum și recunoașterea emoțiilor acestora. Folosirea IA reprezintă o ingerință nepermisă și un risc major respectarea drepturilor fundamentale mai sus menționate  și pentru siguranța persoanei.

         Regulamentul UE explică noțiunea de identificare barometrică, ce reprezintă un risc major și o ingerință în exercitarea dreptului  fundamental la viață privată și la siguranța datelor cu caracter personal: ’’Noțiunea de „identificare biometrică” menționată în prezentul regulament ar trebui să fie definită drept recunoașterea automată a unor trăsături umane fizice, fiziologice și comportamentale, precum fața, mișcările ochilor, forma corpului, vocea, intonația, mersul, postura, frecvența cardiacă, tensiunea arterială, mirosul, particularitățile de tastare, în scopul de a stabili identitatea unei persoane comparând datele biometrice ale persoanei respective cu date biometrice ale unor persoane stocate într-o bază de date de referință, indiferent dacă persoana în cauză și-a dat sau nu consimțământul. Nu se încadrează aici sistemele de IA destinate a fi utilizate pentru verificarea biometrică, care include autentificarea, al căror unic scop este de a confirma că o anumită persoană fizică este persoana care susține că este și de a confirma identitatea unei persoane fizice cu unicul scop de a-i permite accesul la un serviciu, deblocarea unui dispozitiv sau accesul securizat într-o incintă’’.( punctul 15).

         Clasificarea biometrică a persoanelor reprezintă un risc major al IA și o ingerință nepermisă în exercitarea unor drepturi și libertăți fundamentale: ’’Noțiunea de „clasificare biometrică” menționată în prezentul regulament ar trebui să fie definită drept încadrarea persoanelor fizice în categorii specifice pe baza datelor lor biometrice. Astfel de categorii specifice se pot referi la aspecte precum sexul, vârsta, culoarea părului, culoarea ochilor, tatuajele, trăsăturile comportamentale sau de personalitate, limba, religia, apartenența la o minoritate națională, orientarea sexuală sau politică.’’

     Utilizarea excesivă a unor tehnologii IA în viața personală (calculatoare, telefoane mobile etc.) pot afecta grav sănătatea fizică și psihică dar și conduita morală și relaționară a persoanei.

    Dacă nu este utilizată corespunzător, IA poate conduce la decizii influențate de date precum etnia, sexul sau vârsta în procese precum angajarea sau concedierea, acordarea de împrumuturi sau chiar în cadrul procedurilor penale.
      Poate reprezenta totodată o amenințare la adresa democrației; IA a fost deja blamată pentru crearea camerelor de ecou online pe baza comportamentului online anterior al unei persoane. Aceste camere implică afișarea cu predilecție a unui tip de conținut apreciat de o persoană, în loc să creeze un mediu propice dezbaterilor pluraliste, accesibile în mod echilibrat și favorabile incluziunii. Poate fi folosită chiar pentru a crea materiale video, audio și imagini false extrem de realiste (așa-numitele deep fakes), ce implică riscuri financiare, dăunează reputației și periclitează procesul decizional. Toate acestea pot avea drept consecință crearea de diviziune și polarizare în spațiul public mergând până la manipularea alegerilor.

       Aplicațiile IA care sunt în contact fizic cu persoanele sau sunt integrate în corpul uman pot prezenta riscuri în materie de siguranță, căci pot fi concepute și utilizate în mod necorespunzător sau piratate. Utilizarea insuficient reglementată a IA în domeniul armelor ar putea duce la pierderea controlului omului asupra armelor periculoase, cu grave consecințe privind garantarea drepturilor fundamentale, constituționale  la viață, la integritate fizică și psihică a persoanei.[14]

      Extinderea tehnologiilor IA în industrie, agricultură, industrie pot afecta dreptul fundamental la muncă, după caz, în sens benefic, sau malefic. De exemplu sporirea șomajului este cauza a utilizării  IA fără a se avea în vedere și dreptul la protecție socială a persoanei consacrat constituțional.

       Cel mai mare risc pentru omul contemporan este transformarea inteligenței artificiale în idol. IA nu mai este un mijloc tehnic și un scop în sine, și astfel omul  ajunge la  singurătate      într-o lume marcată de tensiuni, contradicții, competiția acerbă pentru a avea și a domina, societate tot mai secularizată. Omul contemporan care venerează idolul IA, se  înstrăinează de Dumnezeu, de sinele ființa sa creată de Dumnezeu după chipul Său, de sinele său mai adânc, de  ceilalți oameni, dar și de mediul  natural, social, cultural în care trăiește și pe care încearcă să-l aservească fără a reuși.

           Rațiunea, însușire a sufletului rațional nemuritor al omului, un dar neprețuit al lui Dumnezeu pentru om, a cărei valoare există numai dacă omul se folosește de facultățile raționale ale sufletului ținând cont de Dumnezeu și raportându-se la Dumnezeu, se transformă astăzi, datorită refuzului omului contemporan de a mai ține cont de Creatorul său, în raționamente care creează și susțin ideologii și idoli ai vremurilor noastre, cum este și inteligența artificială, la care omul se închină. Deși dorește ca el însuși să fie un idol, un supraom, fără a se raporta la Dumnezeu devine individ și sclav propriilor sale iluzii și idoli, se complace în a fi un simplu mijloc, ci nu un scop al creației, dependent de tehnologii și de ceea ce astăzi formează ideologia inteligenței artificiale.

         Cunoașterea și tehnologiile au progresat astăzi foarte mult ceea ce demonstrează puterea rațională și creatoare a omului. Dar toate aceste realizări trebuie să aibă sens și semnificație valorică, ceea ce este posibil numai prin comuniunea de credință și de iubire a omului cu Dumnezeu și prin Dumnezeu cu toți oamenii și cu toată creația. Numai așa omul rămâne în demnitatea sa de persoană liberă, înzestrată cu suflet rațional nemuritor, creat după chipul și asemănarea lui Dumnezeu.

  Omul dependent de propria sa creație, pe care o transformă în idol, nu mai trăiește autentic, în timp și spațiu, în credință și cultură, în firea sa creată de Dumnezeu, ci într-un mediu, spațiu și timp virtuale, fără ființă și fără sens.

   „Eul dezîntrupat nu se poate realiza într-un vid, dar nici într-o lume fizică. Mediul lor ideal de manifestare este habitatul sau cadrul descărnat: biroul transnaționalei, mall-ul, spațiul virtual, spectacolul media și discursul ideologizant... Mașina informațională a gnosticismului a fost preluată de nomazii cibernetici ai Internetului... În cyberspace, trupul este absent, casă își construiește doar mintea; artificialul devine natural; libertatea este echivalentă cu dematerializarea și procesele de deteritorializare; relațiile dintre oameni se preschimbă în tranzacții (schimb de informații)”.[15]

       Riscul existențial   cauzat de inteligența artificială puternică (sau generală) este ipoteza conform căreia progresul științific substanțial în acest domeniu și mai ales utilizarea  nerațională a acesteia,  ar putea duce într-o zi la dispariția omului  sau la o altă catastrofă globală nerecuperabilă. În literatura de specialitate unii autori susțin că  specia umană este dominantă în raport cu alte specii, deoarece creierul uman are unele capacități distinctive de care alte animale nu dispun. Dacă IA depășește umanitatea în inteligența generală și devine ’’suprainteligentă ”, atunci ar putea deveni dificil sau imposibil de controlat de către oameni.

  Acestea sunt susțineri întâlnite în ideologia transumanismului.

        În opinia noastră un astfel de risc nu există deoarece conștiința, conștiința de sine, înțelepciunea, inteligența și chiar cunoașterea sensibilă și rațională în general sunt proprietăți exclusive ale rațiunii umane pe care IA, creată totuși de om, nu le va putea atinge. [16]

        Chiar dacă prin idolii vremurilor noastre, inclusiv IA, chipul lui Dumnezeu în om s-a hașurat, Dumnezeu  nu îl părăsește așteptând întoarcerea sa, ca pe un fiu risipitor.

   IV    Reglementări internaționale   privind utilizarea inteligenței artificiale

        Omul contemporan a început să conștientizeze riscurile  pe care utilizarea  necontrolată a IA le generează, în primul rând pentru drepturile și libertățile fundamentale ale sale, dar și pentru existența sa.

          Cea mai eficientă protecție socială pentru a limita și chiar elimina riscurile IA este adoptarea de norme juridice prin care să se reglementeze utilizarea tehnologiilor IA.

         Totuși, este  necesar mai mult decât  intervenția juridică normativă în acest domeniu  pentru ca omul ca persoană liberă creată de Dumnezeu după chipul Său  să iasă din acest marasm, să iasă de sub dominațiile idolilor contemporani. Este nevoie ca prin voia sa liberă, cu care a fost înzestrat de Creator, prin dreapta credință să se întoarcă la Dumnezeu și la sinele său mai adânc . 

         În cele ce urmează ne referim la reglementări internaționale și interne pentru  identificarea  riscurilor și vulnerabilităților IA și  realizarea unui regim juridic cât mai adecvat cu scopul  garantării   și exercitării  drepturilor și libertăților fundamentale ale omului.      

        După numeroase studii și cercetări, Comisia Europeană a adoptat în anul 2018 „Comunicarea privind inteligența artificială”, care viza numeroase măsuri pentru dezvoltarea capacităților tehnologice la nivelul UE.

        De altfel, în comunicările sale din 25 aprilie și din 7 decembrie 2018, Comisia Europeană și-a prezentat viziunea privind IA care se fundamentează pe trei piloni:

       Preocupările Uniunii Europene în materia inteligenței artificiale au vizat două componente esențiale: etica inteligenței artificiale și recomandările în materie de politică și de investiții. Astfel, Comisia Europeană a numit, în iunie 2018, Grupul independent de experți la nivel înalt privind IA (AI HLEG) care a avut ca obiectiv elaborarea a două documente corespunzătoare celor două componente amintite.

       De asemenea, în decembrie 2018 Comisia Europeană a prezentat un „Plan coordonat privind Inteligența Artificială”[18] care a avut ca punct de pornire declarația de cooperare în domeniul inteligenței artificiale, lansată în aprilie 2018 cu ocazia Zilei digitale și semnată de toate statele membre și de Norvegia, plan în care se menționează că ”tehnologia ar trebui să fie previzibilă, responsabilă și verificabilă, să respecte drepturile fundamentale și să se conformeze normelor etice.”

      La data de 19 februarie 2020, Comisia Europeană a adoptat „Cartea albă privind inteligența artificială- O abordare europeană axată pe excelență și încredere” [19], prin care Comisia se angaja să permită progresul științific, să mențină poziția de lider tehnologic al UE și să asigure că noile tehnologii se află în serviciul tuturor europenilor, le îmbunătățește viața și le respectă drepturile, bunăstarea societății bazându-se din ce în ce mai mult pe valoarea creată de date.[20]

      Punctul culminant al reglementărilor unional europene în domeniul inteligenței artificiale îl reprezintă Regulamentul Parlamentului European şi al Consiliului din 13 iunie 2024 de stabilire a unor norme armonizate privind inteligenţa artificială.

   După discuții îndelungate și având la bază celelalte reglementări în domeniul inteligenței artificiale, în urma votului Parlamentului European din 13 martie 2024, Consiliul European a adoptat definitiv, la 21 mai 2024, Regulamentul Parlamentului European și al Consiliului de stabilire a unor norme armonizate privind inteligența artificială (Regulamentul privind inteligența artificială).

      Regulamentul Parlamentului European şi al Consiliului din 13 iunie 2024 de stabilire a unor norme armonizate privind inteligenţa artificială și de modificare a Regulamentelor (CE) nr. 300/2008, (UE) nr. 167/2013, (UE) nr. 168/2013, (UE) 2018/858, (UE) 2018/1139 și (UE) 2019/2144 și a Directivelor 2014/90/UE, (UE) 2016/797 și (UE) 2020/1828 (Regulamentul privind inteligența artificială) reprezintă prima reglementare cu caracter obligatoriu din lume adoptată în această materie[21], fiind considerat în doctrină ”un demers juridico-instituțional de pionierat, care poartă marca inconfundabilă a normativității europene și exprimă particularitățile sale de viziune și acțiune.”[22]

       De asemenea, Margrethe Vestager, vicepreşedinta executivă pentru o Europă pregătită pentru era digitală, a afirmat că „Inteligenţa artificială are potenţialul de a schimba modul nostru de a lucra şi de a ne trăi viaţa şi promite beneficii uriaşe pentru cetăţeni, pentru societatea noastră şi pentru economia europeană. Abordarea europeană în privinţa tehnologiei plasează cetăţenii în prim-plan şi asigură menţinerea drepturilor tuturor. Prin Regulamentul privind inteligenţa artificială, UE a luat o măsură importantă pentru a se asigura că adoptarea tehnologiei AI respectă normele UE în Europa”.[23]

Regulamentul a intrat în vigoare la 1 august 2024, cu aplicabilitate generală de la 2 august 2026, cu excepția[24]:

– Regulilor privind sistemele IA interzise, care se vor aplica din 2 februarie 2025.

– Regulilor privind Modelele IA de Uz General, care se vor aplica din 2 august 2025, la fel ca și regulile privind sancțiunile.

– Regulilor pentru sistemele cu Risc Ridicat din Anexa I, care se vor aplica din 2 august 2027.

      Pentru a acoperi perioada de tranziţie până la punerea în aplicare integrală, Comisia a lansat Pactul privind AI. Această iniţiativă invită dezvoltatorii de AI să adopte în mod voluntar principalele obligaţii ale Regulamentului privind AI, înaintea termenelor legale.

Printre altele, Regulamentul instituie obligația statelor membre de a desemna, până la 2 august 2025, autorităţile naţionale competente care vor superviza aplicarea normelor privind sistemele de inteligență artificială şi care vor desfăşura activităţi de supraveghere a pieţei. Oficiul pentru AI al Comisiei va fi principalul organism de punere în aplicare a Regulamentului privind AI la nivelul UE, precum şi garantul normelor privind modelele de AI de uz general.[25]

       Pe lângă faptul că UE își propune să devină lider mondial în domeniul inteligenței artificiale sigure, scopul proclamat în art. 1 alin. (1) al Regulamentului este ”de a îmbunătăți funcționarea pieței interne, de a promova adoptarea inteligenței artificiale (IA) centrate pe factorul uman și fiabile, asigurând în același timp un nivel ridicat de protecție a sănătății, a siguranței și a drepturilor fundamentale consacrate în cartă, inclusiv a democrației, a statului de drept și a mediului împotriva efectelor dăunătoare ale sistemelor de IA din Uniune, și sprijinind inovarea.”

         Ca și alte reglementări internaționale în domeniu, Regulamentul definește multipli termeni cheie, pornind de la ”sistem de inteligență artificială” care este ”un sistem bazat pe o mașină care este conceput să funcționeze cu diferite niveluri de autonomie și care poate prezenta adaptabilitate după implementare, și care, urmărind obiective explicite sau implicite, deduce, din datele de intrare pe care le primește, modul de generare a unor rezultate precum previziuni, conținut, recomandări sau decizii care pot influența mediile fizice sau virtuale”.

Regulamentul completează dreptul existent, având la bază tratatele constitutive și Carta drepturilor fundamentale a UE, precum și dreptul derivat, prevăzând exigenţe ce vizează reducerea la minimum a riscurilor generate de utilizarea sistemelor de inteligență artificială dar și documentarea şi controlul uman asupra întregului ciclu de viaţă al sistemelor de IA.

Sunt prevăzute astfel patru categorii de riscuri:

      - Risc minim: majoritatea sistemelor de IA, cum ar fi filtrele antispam și jocurile video bazate pe IA, nu au nicio obligație în temeiul Regulamentului privind IA, dar companiile pot adopta în mod voluntar coduri de conduită suplimentare.

      - Risc specific în materie de transparență: sistemele precum roboții de chat trebuie să îi informeze în mod clar pe utilizatori că interacționează cu o mașină, iar anumite conținuturi generate de IA trebuie etichetate ca atare.

       - Risc ridicat: sistemele de IA cu grad ridicat de risc, cum ar fi software-ul medical bazat pe IA sau sistemele de IA utilizate pentru recrutare, trebuie să respecte cerințe stricte – sisteme de atenuare a riscurilor, seturi de date de înaltă calitate, informații clare pentru utilizatori, supraveghere umană etc.

        - Risc inacceptabil: de exemplu, sistemele de IA care permit acordarea unui „punctaj social” de către guverne sau companii sunt considerate o amenințare clară la adresa drepturilor fundamentale ale cetățenilor și, prin urmare, sunt interzise.[26]

Mai mult, se impune un anumit grad de transparenţă, de trasabilitate, exactitate, control uman şi de cybersecuritate.

     Nerespectarea normelor impuse de Regulament duce la aplicarea de sancțiuni pecuniare drastice.

     Regulamentul recunoaște beneficiile economice, de mediu și societale în întregul spectru de industrii și activități sociale pe care le aduce inteligența artificială dar atrage atenția și asupra faptului că, în funcție de circumstanțele legate de aplicarea și utilizarea sa specifică, precum și de nivelul său specific de dezvoltare tehnologică, IA poate genera riscuri și poate aduce prejudicii intereselor publice și drepturilor fundamentale care sunt protejate de dreptul Uniunii, afirmând astfel necesitatea stabilirii de norme comune în acest domeniu.

Aşadar, așa cum se afirmă în doctrină[27], Regulamentul ne prezintă o "protecţie crescândă şi transversală a drepturilor umanului", deopotrivă ca principiu şi obiect central al său, enunţat în art. 1.

       De asemenea, la nivel internațional, având în vedere că tehnologiile inteligenţei artificiale pot fi benefice umanităţii, dar ridică și preocupări etice fundamentale, ceea ce poate duce la discriminare, inegalitate, decalaje digitale, excludere și o ameninţare la adresa diversităţii culturale, sociale și biologice și a diviziunilor sociale sau economice, deci și încălcări ale drepturilor fundamentale, cele 193 de state membre ale O.N.U., în cadrul Conferinţei Generale a Organizaţiei Naţiunilor Unite pentru Educaţie, Știinţă și Cultură (UNESCO), reunită la Paris în cea de-a 41-a sesiune, au adoptat, la 23 noiembrie 2021, Recomandarea privind etica inteligenței artificiale[28].

     Acest document a reprezentat un pas important în conturarea cadrului juridic internațional în materia garantării și apărării drepturilor fundamentale, deși la momentul respectiv considerat insuficient și ineficient.

     Scopul declarat al acestei Recomadări a fost acela al definirii unor politici și principii care să constituie o bază a funcționării sistemelor IA pentru binele umanităţii, al indivizilor, al societăţilor, al mediului și pentru a preveni daunele, urmărindu-se ca acesta să fie și un instrument normativ acceptat la nivel global, care să se concentreze nu numai pe identificarea valorilor și principiilor, ci și pe realizarea lor practică[29].

   Unul dintre obiectivele stabilite de Recomandare constă în ”protejarea, promovarea și respectarea drepturile omului și libertăţile fundamentale, demnitatea umană și egalitatea, inclusiv egalitatea de gen, pentru a proteja interesele generaţiilor prezente și viitoare, pentru a conserva mediul, biodiversitatea și ecosistemele; și respectarea diversității culturale în toate etapele ciclului de viaţă al sistemului IA”.

      Recomandarea consacră patru valori  ce pot fi considerate fundamentele eticii inteligenței artificiale, primul fiind respectarea, protecția și promovarea drepturilor omului și a libertăților fundamentale și a demnității umane, fondându-se pe zece principii: proporţionalitatea și interdicţia de a face rău, siguranţă și Securitate, corectitudine și nediscriminare, durabilitate, dreptul la confidențialitate și protecția datelor, supravegherea și determinarea umană, transparență și explicabilitate, responsabilitate și asumare, conștientizare și alfabetizare în IA, guvernare și colaborare adaptivă și cu multiple părţi interesate.

      Acest document al UNESCO marchează rolul semnificativ la nivel global al eticii în IA și prevede un cadru universal de valori pentru etică, care oferă linii directoare orientate către părțile interesate în adoptarea IA[30].

    Acest prim cadru normativ mondial privind etica inteligenței artificiale a stat la baza lansării de către Secretarul general al ONU, la 26 octombrie 2023, a unui comitet consultativ destinat să formuleze recomandări vizând guvernanţa internaţională în materie de etică a IA, dar și înțelegerea riscurilor generate de utilizarea IA, astfel încât să fie realizate Obicetivele Dezvoltării Durabile (ODD).

       De asemenea, la 5 februarie 2024, la Krany (Slovenia) a fost adoptată, de 8 giganţi privaţi ai domeniului (GSMA, INNIT, Lenovo Group, LG Al Research, Mastercard, Microsoft, Salesforce şi Telefonica), sub egida UNESCO în cadrul procesului iniţiat în 2021, o Cartă pentru a construi o etică a IA. Semnatarii se angajează să-şi asume plenar rolul în protecţia drepturilor umane, în conceperea, dezvoltarea, cumpărarea, vânzarea şi utilizarea IA. Carta prevede stabilirea de proceduri de verificare  a respectării normelor de securitate, identificarea efectelor negative ale utilizării IA dar și obligația aplicării, în termen rezonabil, a măsurilor de limitare și remedierea a acestor efecte cu respectarea legislaţiilor naţionale. De asemenea, ”se subliniază importanţa testelor ex ante (înainte de punerea pe piaţă) şi se face apel, de asemenea, la dezvoltarea de practici ex post (după desfăşurare) de evaluare şi atenuare a riscurilor, ţinând seama de evoluţia rapidă a sistemelor de IA care sunt deja pe piaţă”.[31]

     Analizând normele internaționale, în prezent se manifestă două mari abordări ale problematicii inteligenţei artificiale. Prima abordare are în vedere riscurile utilizării IA, concentrându-se mai ales pe autoreglementarea şi pe autoevaluarea dezvoltării noilor tehnologii. A doua abordare vizează integrarea drepturilor umane fundamentale în toate etapele ciclului de viață al IA.

       În ceea ce privește această din urmă abordare, amintim Rezoluţia Consiliului pentru Drepturile Omului al ONU din 14 iulie 2023[32], privind tehnologiile digitale noi și emergente și drepturile omului.

       În cadrul Rezoluției se recunoaște importanța noilor tehnologii, arătându-se că acestea au potențialul de a facilita eforturile de accelerare a progresului uman, totodată contribuind, alături de sistemele de inteligență artificială, la promovarea, protejarea și exercitarea drepturile omului și libertățile fundamentale, însă subliniindu-se și riscurile pe care tehnologiile noi și emergente și IA le prezintă cu privire la drepturile fundamentale.

Pornind de la afirmația că ”aceleași drepturi care se aplică offline se aplică și online”, Rezoluția subliniază importanţa "garantării, promovării şi protejării drepturilor omului de-a lungul ciclului de viaţă al sistemelor de inteligenţă artificială", având în vedere obligația statelor de a promova respectarea și protejarea tuturor drepturilor omului și libertăților fundamentale pentru toți, în acord cu reglementările internaționale în domeniu. 

Consiliul pentru Drepturile Omului atrage atenția statelor membre, prin rezoluția amintită, asupra necesității protejării persoanelor împotriva daunelor cauzate de sistemele de inteligență artificială. Protecția va include asigurarea siguranței sistemelor de inteligență artificială, crearea de metode de evaluare a impactului asupra drepturilor omului dar și prevenirea și atenuarea impactul negativ asupra acestora, asigurarea căilor de atac eficiente și a supravegherii umane și a răspunderii sub toate formele, inclusiv răspundere juridică.

La data de 21 martie 2024 Adunarea Generală a Națiunilor Unite, în a 78-a sesiune, a adoptat, în unanimitate, prima rezoluție globală privind promovarea unei inteligențe artificiale ”safe, secure and trustworthy”[33] pentru a atinge obiectivele dezvoltării durabile stabilite de ONU, care vizează asigurarea unui viitor mai bun pentru întreaga omenire până în 2030. Rezoluția are scopul de a încuraja protejarea datelor cu caracter personal dar și de monitorizare a AI pentru riscuri și respectarea, protejarea și promovarea drepturilor omului.

      Rezoluția nu are caracter obligatoriu și a fost propusă de Statele Unite și co-sponsorizată de China și alte 121 de națiuni și a fost negociată timp de trei luni.

      Rezoluția a avut la bază Charta ONU dar și Declarația Universală a Drepturilor omului. De asemenea, Adunarea Generală a avut în vedere reafirmarea unor rezoluții anterioare privind dezvoltarea tehnologică și inteligența artificială și pornește de la recunoașterea faptului că o inteligență artificială safe, secure and trustworthy, în toate stadiile ciclului ei de viață, ”have the potential to accelerate and enable progress towards the achievement of all 17 Sustainable Development Goals and sustainable development in its three dimensions – economic, social and environmental – in a balanced and integrated manner; promote digital transformation; promote peace; overcome digital divides between and within countries; and promote and protect the enjoyment of human rights and fundamental freedoms for all, while keeping the human person at the centre”.    

      În cuprinsul rezoluției se afirmă că proiectarea, dezvoltarea, implementarea și utilizarea incorecte sau rău intenționate a sistemelor de inteligență artificială (dându-se ca exemplu lipsa garanțiilor adecvate sau nerespectarea dreptului internațional) pot duce la subminarea protecției, promovării și exercitării drepturilor omului și a libertăților fundamentale, printre alte efecte negative. Astfel, Rezoluţia reclamă tuturor statelor membre şi părţilor interesate "să se abţină ori să înceteze să utilizeze sisteme de inteligenţă artificială care sunt imposibil de exploatat conform dreptului internaţional al drepturilor umane ori care prezintă riscuri incluse pentru exercitarea drepturilor umane", recunoscând că fără garanții adecvate, IA poate să afecteze drepturile fundamentale și protecția datelor personale și să contribuie la amplificarea discriminării.

      Conform unuia dintre oficialii ONU, „navigăm în ape agitate cu tehnologia aflată în schimbare rapidă, ceea ce înseamnă că este mai important ca niciodată să ne ghidăm de lumina valorilor noastre”[34].

      Dacă în cadrul primului AI Safety Summit de la Londra din 1-2 noiembrie 2023[35] s-a observat o tendință de reglementare crescândă a statelor, existând peste 1600 de politici publice şi strategii în materie de IA, iar în cadrul AI Seoul Summit din 22 mai 2024, participanții au convenit asupra unor pași concreți pentru a promova siguranța IA sprijinind, în același timp, inovația și incluziunea IA[36], așteptăm cu nerăbdare rezultatele celui de-al treilea AI Action Summit[37], care va avea loc în 10 si 11 februarie 2025, fiind găzduit de Franța.

      Mai mult, la nivelul Consiliului Europei, anul 2024 marchează un moment istoric deosebit de important în evoluția reglementărilor în materie de inteligență artificială. Astfel, primul tratat internațional privind inteligența artificială a fost adoptat la 17 mai 2024 de către miniștrii de externe ai celor 46 de state membre ale Consiliului Europei (CE), în cadrul sesiunii anuale, la Strasbourg.

     Secretarul General al Consiliului Europei, la momentul adoptării convenției, Marija Pejčinović Burić a descris acest tratat: „Convenția-cadru privind inteligența artificială este un tratat global, primul de acest fel, care va asigura că inteligența artificială susține drepturile oamenilor. Este un răspuns la necesitatea unui standard juridic internațional susținut de state de pe diferite continente care împărtășesc aceleași valori pentru a valorifica beneficiile inteligenței artificiale, atenuând în același timp riscurile. Prin acest nou tratat, ne propunem să asigurăm o utilizare responsabilă a IA care respectă drepturile omului, statul de drept și democrația.”[38]

       Convenția-cadru privind inteligența artificială și drepturile omului, democrația și statul de drept[39] este deschisă semnării tuturor statelor lumii, inclusiv țărilor non-europene, începând cu 5 septembrie anul curent, fiind rezultatul activității desfășurate pe parcursul a 2 ani de către Comitetul pentru Inteligență Artificială (CAI) în colaborare cu cele 46 de state membre ale Consiliului Europei, cu Uniunea Europeană, 11 alte state (Argentina, Australia, Canada, Costa Rica, the Holy See, Israel, Japan, Mexico, Peru, the United States of America, and Uruguay) dar și reprezentanți ai sectorului privat, ai societății civile și ai mediului academic, care au participat în calitate de observatori.

       Așa cum se arată în literatura de specialitate[40], ”este vorba de un tratat internațional unic în genul său, care răspunde nevoii de a dispune de o normă de drept internațional menită să beneficieze de susținerea statelor de pe diferite continente, unite prin valori comune, și permite valorificarea beneficiilor inteligenței artificiale, reducând totodată riscurile pe care acestea le prezintă.”

       Pornind de la faptul că scopul Consiliului Europei este de a realiza o mai mare unitate între membrii săi, bazată în special pe respectarea drepturilor omului, a democrației și a statului de drept care sunt împletite în mod inerent, Convenția stabilește un cadru juridic comun la nivel mondial ce se aplică de-a lungul întregului ciclu de viață al sistemelor de IA și promovează inovarea responsabilă, atrăgând atenția asupra riscurilor pe care le presupune utilizarea IA. De asemenea, în Preambul se atrage atenția asupra faptului că anumite activități din cadrul ciclului de viață al sistemelor de inteligență artificială pot submina demnitatea umană și autonomia individuală, drepturile omului, democrația și statul de drept, astfel că prevederile convenției urmăresc să asigure respectarea acestora din urmă.

        Așa cum se arată în Preambul, la baza acestei convenții stau cele mai importante instrumente juridice internaționale privind drepturile omului, cum ar fi Declarația Universală a Drepturilor Omului din 1948, Convenția pentru apărarea drepturilor omului și a libertăților fundamentale din 1950, Pactul internațional din 1966 privind drepturile civile și politice, Convenția internațională din 1966 privind drepturile economice, sociale și culturale, Carta Socială Europeană din 1961, precum și protocoalele respective ale acestora și Carta Socială Europeană din 1996 (revizuită), Convenția Națiunilor Unite din 1989 privind drepturile copilului și Convenția Națiunilor Unite din 2006 privind drepturile persoanelor cu dizabilități, dar și Convenția din 1981 pentru protecția persoanelor cu privire la prelucrarea automată a datelor cu caracter personal și protocoalele acesteia.

        Scopul declarat în art. 1 al Convenției este acela de a asigura că activitățile din cadrul ciclului de viață al sistemelor de inteligență artificială sunt pe deplin în concordanță cu drepturile omului, democrația și statul de drept. Pentru asigurarea acestui scop, se prevede obligația fiecărei părți la convenție de a adopta sau menține măsurile legislative, administrative sau de altă natură adecvate, măsuri ce vor fi ”gradate și diferențiate după cum este necesar, având în vedere gravitatea și probabilitatea apariției unor efecte negative asupra drepturilor omului, democrației și statului de drept pe parcursul ciclului de viață al sistemelor de inteligență artificială”.

        Reluând definiția revizuită adoptată de OCDE la 8 noiembrie 2023, art. 2 al Convenției oferă o definiție a sistemului de inteligență artificială, relativ abstractă și flexibilă, astfel încât să fie valabilă și pentru dezvoltările tehnologice viitoare, dar totodată precisă din punct de vedere juridic. În concepția Convenției, „sistem de inteligență artificială înseamnă un sistem bazat pe mașină care, pentru obiective explicite sau implicite, deduce, din input-ul pe care îl primește, cum să genereze rezultate cum ar fi predicții, conținut, recomandări sau decizii care pot influența mediile fizice sau virtuale. Diferite sisteme de inteligență artificială variază în ceea ce privește nivelurile lor de autonomie și adaptabilitate după implementare”.

        Domeniul de aplicare al Convenției acoperă activitățile din ciclul de viață al sistemelor de inteligență artificială care au potențialul de a interfera cu drepturile omului, democrația și statul de drept indiferent dacă aceste activități sunt desfășurate de autoritățile publice ale statelor părți sau de actori privați. În ceea ce îi privește pe aceștia din urmă, părțile au două posibilități de acțiune pentru respectarea principiilor și obligațiilor prevăzute de convenție: fie prin aplicarea directă a principiilor și obligațiilor prevăzute în convenție, fie prin luarea altor măsuri adecvate, însă fără încălcarea obligațiilor de protecție a drepturilor omului, democrației și statului de drept. Rațiunea acestei reglementări constă în diferențele de sistem juridic aplicabil în statele semnatare.

        Astfel, orice companie sau organism care folosește sisteme de inteligență artificială relevante trebuie să evalueze impactul lor potențial asupra drepturilor omului, democrației și statul de drept – și să pună aceste informații la dispoziția publicului.[41]

       Convenția stabilește mai multe condiții pentru folosirea sistemelor de inteligență artificială, concentrându-se pe:

- o inteligență artificială centrată pe om, care să respecte drepturile fundamentale și valorile democratice;

- transparență privind modul în care funcționează sistemele IA, părțile fiind obligate să adopte măsuri pentru a identifica, a evalua, a preveni și a atenua posibilele riscuri și pentru a evalua necesitatea unui moratoriu, a unei interdicții sau a altor măsuri adecvate cu privire la utilizarea sistemelor IA în cazul în care riscurile acestora pot fi incompatibile cu standardele privind drepturile omului. De asemenea, se impune informarea persoanelor care interacționează cu un sistem de inteligență artificială despre acesta din urmă;

-  responsabilitate, părțile fiind obligate să asigure căi de atac legale și garanții procedurale adecvate pentru cei ale căror drepturi au fost încălcate prin utilizarea sistemelor de inteligență artificială;

- managementul și supravegherea riscurilor, convenția stabilind cadrul legal pentru managemetul riscurilor utilizării sistemelor de inteligență artificială dar și mecanisme de supraveghere pentru a se asigura că sistemele AI respectă standardele de siguranță și etică;

- garanții împotriva utilizării inteligenței artificiale cu încălcarea democrației, în special a principiilor separației puterilor, independenței justiției și accesului la justiție.

Obligațiile generale ale părților la convenție sunt protecția drepturilor omului prin respectarea dreptului internațional și a dreptului intern pe toată durata de viață a sistemelor de inteligență artificială și integritatea proceselor democratice și respectarea statului de drept.

Referitor la protecția drepturilor omului pe tot parcursul ciclului de viață al sistemelor de inteligență artificială, articolul 4 din convenție reafirmă principiul subsidiarității, prima obligație a statelor fiind de a veghea ca dreptul lor intern să fie conform normelor juridice internaționale în materie. Desigur, statele părți sunt libere să elaboreze mijloace de punere în aplicare a normelor internaționale și interne privind protecția drepturilor omului pe toată durata de viață a sistemelor de inteligență artificială.

        Pentru asigurarea respectării dispozițiilor convenției, sunt prevăzute o serie de mecanisme de aplicare[42] și garanții:

- părțile sunt obligate să adopte măsuri legislative și administrative care să asigure respectarea principiilor prevăzute de convenție de către sistemele de inteligență artificială.

- conform art. 14 paragraf 1 din convenție, părțile sunt obligate să asigure existența unor remedii accesibile și eficiente pentru încălcările drepturilor omului de către folosirea sistemelor de inteligență artificială. De asemenea, părțile trebuie să asigure, la nivel intern, existența unor garanții și drepturi procedurale eficiente în cazul în care un sistem de inteligență artificială are un impact semnificativ asupra exercitării drepturilor omului.

- având în vedere că tehnologiile IA transcend granițele statelor, se impune cooperarea internațională pentru armonizarea standardelor inteligenței artificiale, pentru crearea unui cadru legal care să garanteze, printre altele, respectarea drepturilor omului. De asemenea, cooperarea trebuie să vizeze și realizarea scopului convenției.

-cadrul legal stabilit prin convenție este conceput astfel încât să se adapteze dezvoltării sistemelor de inteligență artificială de-a lungul timpului.

- convenția prevede un mecanism de urmărire atât a respectării convenției cât și a aplicării și interpretării ei, inclusiv posibilitatea de amendare a acesteia. Astfel, este prevăzută obligația părților de a se consulta periodic asupra tuturor aspectelor ce țin de aplicarea, interpretarea, completarea și garantarea respectării convenției, consultare denumită Conferința părților.

         În concluzie, așa cum a declarat fostul Secretar general al Consiliului Europei, Marija Pejčinović Burić,  „finalizarea acesteia de către Comitetul pentru Inteligență Artificială (CAI) este o realizare extraordinară și ar trebui sărbătorită ca atare”.[43]

       V. Reglementări juridice  privind inteligenta artificială în România

       România, singura țară europeană non-membră OCDE (Organizația pentru Cooperare și Dezvoltare Economică) care a aderat la Recomandările Organizației privind Inteligența Artificială, a fost încă de la început deschisă viziunii asupra inteligenței artificiale promovate atât la nivel unional european cât și internațional.

      România, ca și celelalte state membre ale Uniunii Europene, a urmărit direcțiilor trasate etapizat de instituțiile UE, strategia națională orientându-se încă din anul 2021 spre necesitatea înființării unei Autorități de reglementare pentru IA începând cu anul 2023, cu scopul monitorizării și reglementării la nivel intern a IA etice. Autoritatea ar avea la bază necesitatea protejării drepturilor fundamentale ale cetățenilor, dezvoltarea inteligenței artificiale în România și armonizarea legislației interne cu reglementările UE cu privire la IA. De asemenea, Autoritatea ar trebui să furnizeze expertiză tehnică pentru reglementarea sistemelor bazate pe IA, astfel încât reglementările introduse să contribuie la accelerarea inovației în IA în România și asigurarea încrederii publicului în sistemele bazate pe IA.[44]

       Deși Autoritatea Română de reglementare pentru IA nu a fost încă înființată, totuși, România a făcut pași importanți în construcția arhitecturii instituționale în domeniu.

         Astfel, la data de 4 mai 2023, a fost înființat Comitetul Român pentru Inteligență Artificială în baza Ordinului nr. 20.484/2023 privind înfiinţarea, organizarea şi funcţionarea Comitetului Român pentru Inteligenţă Artificială. Misiunea acestui Comitet este de „a sprijini Ministerul Cercetării, Inovării şi Digitalizării în exercitarea atribuţiilor sale de autoritate de stat în domeniul cercetării-dezvoltării, inovării şi digitalizării, prin propuneri privind reglementarea, coordonarea, monitorizarea şi evaluarea activităţilor privind inteligenţa artificială (IA), precum şi dezvoltarea acesteia în România”.

      Comitetul Român pentru Inteligență Artificială are ca principal obiectiv ”crearea unui ecosistem de inteligenţă artificială bazat pe excelenţă, încredere şi respectarea principiilor etice, coerent, performant şi sustenabil, care să genereze valoare adăugată în plan social şi economic prin utilizarea tehnologiilor de inteligenţă artificială, să promoveze şi să susţină cercetarea-dezvoltarea-inovarea şi educaţia/formarea în acest domeniu, să crească numărul de specialişti locali şi să fructifice aportul mediului privat şi al cetăţenilor români din străinătate, urmărind stimularea adoptării pe scară largă a domeniului inteligenţei artificiale în România”.

Prin Hotărârea de Guvern nr. 89 din 28 ianuarie 2020[45], a fost înființată Autoritatea pentru Digitalizarea României (ADR)[46], structură cu personalitate juridică în cadrul Ministerului Cercetării, Inovării și Digitalizării, având rolul de a realiza şi coordona implementarea strategiilor şi a politicilor publice în domeniul transformării digitale şi societăţii informaţionale.

       Așa cum se prevede în actul de înființare, Autoritatea pentru Digitalizarea României are următoarele obiective:

       a) contribuie la transformarea digitală a economiei și societății românești;

       b) realizează guvernarea electronică la nivelul administrației publice din România, prin operaționalizarea standardizării și interoperabilității tehnice și semantice a sistemelor informatice în administrația publică centrală și implementarea principiilor Declarației ministeriale de la Tallinn privind guvernarea electronică din 2017;

       c) contribuie la îndeplinirea obiectivelor pentru România ale programelor de asistență financiară ale Uniunii Europene în domeniul său de competență.

Mai mult, România, prin ADR, a elaborat Strategia Națională pentru Inteligență Artificială[47], în contextul mai amplu oferit de proiectul „Cadru strategic pentru adoptarea și utilizarea de tehnologii inovative în administrația publică 2021-2027 - soluții pentru eficientizarea activității”.

        Așa cum se precizează în document, Strategia națională̆ în domeniul inteligenței artificiale (SN-IA) are obiectivul de a contribui la strategia României privind adoptarea tehnologiilor digitale în economie și societate în condiții de respectare a drepturilor omului și de promovare a excelenței și încrederii în IA.

         Perioada de implementare a Strategiei (SN-IA) este cuprinsă între 2024-2027, aceasta fiind ”un reper necesar și oportun pentru pregătirea societății românești în înțelegerea, acceptarea și valorificarea proceselor transformative generate de inteligența artificială.”

În cadrul SN-IA au fost definite 6 obiective generale corelate cu axele prioritare de acțiune urmărite și în documentele strategice ale UE:

     În viziunea Strategiei, inteligența artificială trebuie să îndeplinească șapte cerințe cheie, sintetizate după cum urmează: (i) supraveghere de către agent uman; (ii) robustețe tehnică și siguranță; (iii) confidențialitatea și guvernarea datelor; (iv) transparenţă; (v) diversitate, nediscriminare și corectitudine; (vi) bunăstarea mediului și a societății și (vii) responsabilitate.

       În ceea ce privește protecția drepturilor omului, Strategia impune tuturor actorilor din domeniul IA să respecte statul de drept, drepturile omului și valorile democratice pe tot parcursul ciclului de viață al sistemului de IA, preluând astfel principiul respectării drepturilor omului și valorilor democratice afirmat atât la nivel internațional cât și la nivel unional european.

       Pentru a garanta punerea în aplicare și respectarea reglementărilor incluse, Strategia prevede înființarea Comisiei Interministeriale pentru Coordonarea Implementării SN-IA, care va reuni toate acele instituții care au rol în implementarea, monitorizarea și evaluarea SN-IA, precum și toate instituțiile care vor fi identificate ulterior ca având responsabilități legate de implementarea obiectivelor și măsurilor Strategiei.

Concluzii

      În epoca postmodernismului, în cadrul acestei ideologii  se vorbește deja de superioritatea inteligenței artificiale față de inteligența omului, de competiția dintre om și mașină, de  necesitatea reglementarii juridice  relațiilor sociale care au ca obiect  inteligența artificială , chiar și de o reglementare unitară juridică a inteligenței naturale a omului și a inteligenței artificiale, considerându-se că ele sunt echivalente  fenomenologic.

     Sunt de actualitate și aspectele etice pe care le implică  sistemele informatice, utilizarea lor , stocarea și utilizarea  informațiilor. Mulți oameni de știință, juriști, oameni de cultură, dar și politicieni sunt preocupați de riscurile pentru om și societate, vulnerabilitățile dar și elementele de progres ale inteligenței artificiale.  Putem vorbi de ideologie sau filosofie a inteligenței artificiale deoarece este o parte componentă a gândirii si realităților postmoderniste și implicațiile  inteligenței artificiale sunt profunde  pentru om, societate , pentru sensul și scopul existenței .

       În prezent nu există la nivel internațional  reglementări juridice clare privind folosirea inteligenței artificiale, a riscurilor și vulnerabilităților acesteia pentru om  societate și civilizație precum și  riscurile ideologiilor care o promovează, una dintre cele mai importante fiind ideologia transumanismului.

      Cu toate acestea, în cadrul Uniunii Europene, dar și în țara noastră există preocupări importante pentru adoptarea unei legislații în acest domeniu.

        Nu cunoașterea de orice fel, știința, tehnica, tehnologiile, inteligența artificială, creația umană sunt rele și dăunătoare în sine, ci modul lor de folosire de către cel care ar trebui să fie beneficiarul și stăpânul lor ci nu sclavul lor, omul.

  Nu inteligența artificială, informația sunt dăunătoare, contrare firii omului, ci idolul și ideologia inteligenței artificiale, raționalismele și formele fără substanță care inundă astăzi lumea și de care omul se consideră dependent și pe care le venerează hașurând și întunecând astfel chipul lui Dumnezeu din om.