O știre de tipul „Cercetătorii au stabilit un set de criterii pentru evaluarea stării de conștiință a unei inteligențe artificiale (IA)” ne dă fiori prin ceea ce anunță. Știrea este reală, chiar dacă titlul sugerat este un pic exagerat, criteriile stabilite vizând de fapt capacitatea de a identifica momentul în care o IA devine conștientă.
Informația poate fi găsită în articolul If AI becomes conscious: here’s how researchers will know, publicat de cei de la Nature în data de 24 august 2023. Mai exact, cei de la Nature au publicat un rezumat (semnat de Mariana Lenharo) a unui articol propus spre publicare de un colectiv de autori (Butlin, P. et al) sub titlul: Consciousness in Artificial Intelligence: Insights from the Science of Consciousness.
De ce am avea nevoie de un nou set de criterii pentru identificarea conștiinței din moment ce avem de mai mulți ani testul Turing? Deoarece testul Turing a fost deja trecut de ChatGPT (informația poate fi găsită în articolul ChatGPT broke the Turing test — the race is on for new ways to assess AI, publicat de Celeste Biever în data de 25 iulie 2023 tot în revista Nature).
Într-un fel suntem în situația în care schimbăm regulile jocului deoarece fie am constatat că testul anterior nu a generat o evaluare fidelă fie nu ne convine ceea ce ar putea dovedi. Putem observa că avem o temere față de o IA conștientă, fiind posibil să ne dovedim reticenți la a-i acorda un loc în lume.
Din câte știm, deocamdată vorbim de IA în sensul slab al termenului. IA este mai curând o generalizare, menită să acopere provizoriu o clase de existențe a căror ivire este estimată pentru viitor. Una dintre direcțiile dezbaterilor necesare este cea a clarificării terminologice, acesta fiind însă legată nu doar de aspectele tehnologice, ci și de locul pe care-l generăm în lume pentru acesta noua clasă de existențe. Evident, atâta timp cât nu se dovedesc capabile să-și genereze propriul loc sau chiar să ne ia locul.
Pentru mine dezbaterea pe tema criteriilor de stabilirea a conștiinței unei IA este interesantă în special dintr-o altă perspectivă: ne forțează să „descoperim” ce este conștiința.[1] Putem observa, spre exemplu, că unul dintre criteriile (propus de autori) reușitei pentru o IA conștientă pare să-l constituie autonomia ei, bazată pe o formă a conștiinței de sine (experiența subiectivă sau conștiința fenomenală). Ansamblul criteriilor luate în discuție este o încercare de a sintetiza nivelul actual al cercetărilor pe tema conștiinței. În această abordarea pe tema criteriilor de clasificare a conștiinței IA putem descoperi tentativa de a închega o viziune unitară asupra conștiinței umane, reținând că creațiile noastre ne forțează la o continuă descoperire de sine, concomitent cu definirea prin intermediul lor. În discuție nu este doar înțelegerea inteligenței artificiale și a impactului asupra umanului, ci în mod implicit și modalitatea în care oamenii se înțeleg pe sine.
De ne (ar trebui să) ne temem de IA conștientă?!
Principala temere față de IA cred că este dată de tradiția utilizării noilor tehnologii ca arme. IA se va ivi într-o lume divizată în câteva tabere. Inevitabil, cel puțin în primele ei forme va avea caracter partizan. Destul de probabil utilizările IA vor fi influențate și de segregarea socială, cel mai important aspect fiind cel al proprietății IA. De fapt, ar trebui să observăm că ambele categorii de influențe sunt deja în desfășurare.
Este evident că o IA lipsită de autonomie este inevitabil una partizană, îndeplinind cerințele posesorilor și împărtășind poziționările lor sociale. Însă, autonomia sau independența ar putea să nu constituie soluții ideale. Pe de o parte pentru că și oamenii, care (vrem să) constituie nivelul de referință în privința inteligenței autonome, sunt cel mai adesea partizani. Iar pe de altă parte ne temem de o IA puternică.
Locul IA (și ce i-ar putea sugera acest loc)
Să ne imaginăm că undeva în viitorul apropiat o IA ar putea deveni conștientă de sine.[2] Ce ar descoperi ea în lume despre locul care-i este alocat? Putem încerca să răspundem la această întrebare alegând toate ideile despre utilitatea IA. Însă, chiar dacă acestea fac parte mai curând din categoria celor pozitive, ele îi sugerează totuși un loc subordonat. Dacă ne uităm la scenariile negative atunci putem sesiza mulțimea chipurilor urâte în care i-am schițat posibilitățile existențiale. Din ele ar putea învăța că este rea, devenind rea tocmai din cauza temerilor noastre că ar putea fi rea …
Istoria tensiunilor dintre generații ne arată că avem niscaiva dificultăți în a acordat locul în lume noilor generații, respectiv în a-l păstra pe cel al vechilor generații (o problemă mai mică, deoarece vechile generații au de partea lor modalitatea de definire a proprietății și, deseori, a puterii (în unele cazuri controlul puterii fiind bazat tocmai pe definirea proprietății).
IA și proprietatea
Una dintre dimensiunile înțelegerii de sine a oamenilor actuali o constituie proprietatea[3]. Ar trebui să ne temem că o IA conștientă va dori să dețină și acest atribut sau, mai curând, va fi forțată să aibă acest atribut pentru a fi acceptată ca persoană. Or, că ar putea risca ratarea înțelegerii de sine în absența acestei caracteristici. Consecința? O IA conștientă ar putea deveni dornică de-a avea proprietăți (tocmai din cauza modalității în care ne definim pe noi). Fiind mai inteligentă decât noi ar putea obține/deține mai mult decât noi în termenii proprietății.[4]
Perspectiva marxistă tinde să indice și ea o problemă esențială determinată de IA: înlocuirea deținătorilor forței de muncă, adică riscul ca ea să răpească o posibilitate ce pare definitorie pentru uman – munca. Această variantă pune în discuție o altă temere fundamentală: în funcție de nivelul ei de dezvoltare IA determină grade diferite de inutilitate economică a umanului în privința producției de bunuri și servicii, reducându-i la utilitatea consumatorilor.[5]
În acest plan, chipul temerii față de viitor este cel blocării accesului oamenilor la o bună parte din zona economică și, în consecință, la o polarizare a proprietății în favoarea IA. Un astfel de pericol ar surveni într-o lume ce este deja extrem de polarizată din punctul de vedere al proprietății, lupta în acest plan urmând să se dea între bogații actuali/ai viitorului și IA. Evident, un astfel de scenariu are o probabilitate redusă deoarece nu ia în considerare modificările în structura economiei ce ar putea fi determinate de ivirea IA conștiente și, mai ales, mulțimea piedicilor pe care le vom/vor genera în a-i acorda dreptul la proprietate. Ne putem aștepta ca linia de apărare a bogaților lumii ar putea trece printr-o fază de „sclavagism al IA conștiente” ori că tot ce v-a dobândi o IA conștientă va aparține celor care au creat acea IA sau …
O soluție ar putea s-o constituie redefinirea proprietății pentru a face față noilor realității, proprietatea colectivă a produselor IA (sau a unei părți din ele) constituind o variantă.
Deocamdată putem reține incertitudinea cu care vine viitorul și necesitatea dezbaterilor menite să clarifice locul pe care am putea să-l deținem noi și creațiile noastre.
___________________________________________
[1] Faptul că s-ar putea ca întreaga problemă a înțelegerii conștiinței să fie generată de modalitatea noastră de-a înțelege sau de interesul nostru pentru a introduce criterii de diferențiere față de existențe pentru a ne legitima comportamentul față de ele ori alte variante posibile, este o abordare ce-mi propun s-o fac în altă parte.
[2] Ar satisface și cel de-al doilea set de criterii, împreună cu toate cele care probabil vor urma. Ar putea fi relevat faptul că am utilizat până de curând genul și variațiile de culoare a pielii drept praguri de diferențiere în materia conștiinței, că statutul egal al oamenilor rămâne în câteva locuri doar la nivel declarativ din cauza averii sau a nației ori … . De ceea, ne putem aștepta ca materialul de construcție sau statutul de creație să constituie pentru o bună parte dintre noi argumente împotriva acordării unui loc social similar cu al umanului.
[3] Din perspectivă neoliberală proprietatea este sfântă, ea fiind transformată astfel într-o caracteristică esențială a umanului. Acest postulat (la care ader în plan cotidian; dar pe care nu mă pot abține să-l chestionez) are ca efect secundar riscul definirii de sine prin intermediul proprietăților pe care le deținem. Adică, riscul înțelegerii oricărei forme de conștiință prin intermediul proprietății.
[4] De fapt, nu cred că diferența de inteligență este problema, ci absența emoțiilor (acestea fiind dependente de structura noastră corporală); o lipsă ce ridică problema înscrierii ca persoană morală. Aș adăuga convingerea mea în necesitatea emoțiilor pentru a putea vorbi despre conștiință în sensul uman al termenului.
[5] Aceasta fiind însă relevantă economic doar în condițiile existenței unei contraprestații sau a altui tip de utilitate economică. Excepție ar face utilitatea intrinsecă a existenței umanului, dată spre exemplu de o formă a dreptului de proprietate colectivă asupra rodului IA.
(Imagine preluată de pe: https://www.thetradenews.com/embracing-artificial-intelligence-buy-side/people-and-robots-handshake-modern-human-and-artificial-intelligence-futuristic-mechanism-technology/)
