Inteligența artificială și încrederea: între algoritm și om

„Algoritmii pot învăța din datele trecutului, dar nu pot învăța din greșelile noastre morale.”
— Shannon Vallor, profesor de etică și tehnologie

Într-o lume în care algoritmii decid cine primește un credit, cine este suspect de fraudă, ce clienți sunt „profitabili”, sau care dintre ei merită oferte preferențiale, se naște o întrebare fundamentală: ce mai înseamnă încrederea? Și, mai ales, mai avem nevoie de oameni în deciziile care contează?

Bankingul trece printr-o revoluție tăcută, dar profundă: nu mai este vorba doar despre digitalizare, ci despre automatizare decizională. Sistemele bazate pe inteligență artificială devin tot mai influente în luarea deciziilor care până nu demult presupuneau judecată umană, empatie, interpretare contextuală.

Din punct de vedere tehnologic, aceasta este o performanță. Din punct de vedere filozofic, însă, este și un test de stres etic.

Etica deciziilor algoritmice și iluzia obiectivității

„Un sistem care învață din nedreptate nu va produce dreptate. AI-ul este excelent la a identifica corelații, dar complet nepregătit să înțeleagă justiția.” — Cathy O’Neil, Weapons of Math Destruction

Băncile utilizează din ce în ce mai mult AI pentru scoruri de credit, combaterea spălării banilor, segmentarea clienților sau stabilirea ratelor de dobândă. Aceste sisteme sunt antrenate pe cantități uriașe de date, extrag tipare și fac predicții care adesea par „neutre” sau „obiective”.

Dar, așa cum știm din epistemologia clasică: ceea ce pare obiectiv este adesea doar o formă sofisticată de ignoranță mascată. Datele istorice pot conține prejudecăți (bias-uri), iar algoritmii nu au capacitatea de a distinge între corectitudine morală și corectitudine matematică.

Sistemele de inteligență artificială învață din date istorice. Dar datele istorice reflectă alegeri umane, nu adevăruri imuabile. În 2020, un algoritm de credit scoring folosit de Apple Card a fost investigat în SUA după ce acorda limite de credit semnificativ mai mici femeilor decât bărbaților – în ciuda profilurilor financiare similare.

Dacă în trecut anumite grupuri sociale au fost subreprezentate sau defavorizate financiar, algoritmul va învăța să le penalizeze și în viitor. Nu pentru că este „rău intenționat”, ci pentru că funcționează fără conștiință etică.

În România, problema este diferită, dar la fel de sensibilă: cum decizi echitabil dacă un client „nevăzut” de sistemul bancar (fără istoric, fără venituri formale) este eligibil pentru un credit? Dacă AI-ul se bazează doar pe date existente, acesta va replica excluderea, nu o va corecta.

Așadar, ne putem întreba: este corect ca viitorul financiar al unei persoane să depindă de o inteligență artificială antrenată pe decizii trecute – decizii care, poate, nu au fost nici etice, nici echitabile?

Încrederea ca fundament bancar – de la oameni la cod

Băncile funcționează pentru că ne încredem în ele. Ne încredem că vor păstra banii, că vor aplica politici echitabile, că nu vor abuza de puterea lor.

Când algoritmul înlocuiește omul în luarea deciziilor, această relație se schimbă. AI-ul nu poate fi tras la răspundere în același mod. Nu poate răspunde la întrebarea „de ce?”, decât printr-o explicație statistică.

Problema este că algoritmii funcționează ca niște cutii negre: sunt opaci, greu de auditat și imposibil de contestat de către clienții de rând. În cazul unui refuz automat al unui credit, clientul primește rareori o explicație umană. Răspunsul se rezumă la: „Modelul de scor nu v-a calificat.”

Dar încrederea nu înseamnă doar acceptarea unui verdict. Înseamnă transparență, raționament, posibilitatea dialogului – toate atribute care lipsesc unui algoritm.

Un studiu recent publicat de World Economic Forum arată că doar 35% dintre consumatori ar avea încredere să li se acorde un credit exclusiv pe baza deciziei unei inteligențe artificiale. În România, încrederea în digital a crescut, dar nu a depășit încă „pragul empatiei”: vrem viteză, dar și o voce umană la nevoie.

Responsabilitate într-o lume automatizată

„Tehnologia amplifică capacitatea noastră de a face bine, dar și cea de a delega greșeala fără remușcări.”
— Evgeny Morozov, filozof și critic al tehnologiei.

În filozofie, o întrebare clasică este: „Poți fi tras la răspundere pentru ceea ce faci fără să înțelegi pe deplin?” În cazul AI-ului, întrebarea se inversează: „Cine răspunde pentru ceea ce face un sistem care nu înțelege nimic?”

Când o bancă implementează un sistem AI care refuză credite în mod discriminatoriu sau blochează eronat conturi, vina nu este clar localizabilă:

Programatorul? Nu are control asupra datelor reale.

Managerul de produs? Nu scrie cod.

Instituția bancară? Se bazează pe promisiunile furnizorului de tehnologie.

Asadar, cine răspunde?

La nivel etic, aceasta este o problemă majoră. Sistemele AI creează ceea ce filozofii numesc agenție morală distribuită: acțiunea este colectivă, dar responsabilitatea se pierde. Asemenea sistemelor financiare complexe de dinainte de criza din 2008, nimeni nu mai poate fi tras la răspundere complet.

Această situație dă naștere unui vid moral numit în etică: „responsabilitate diluată”. Cu cât un sistem este mai automatizat și distribuit, cu atât este mai greu să identifici un responsabil. Dar lipsa unui responsabil clar nu înseamnă lipsa unei victime.

Către o bancă fără oameni?

Astăzi putem deschide un cont online în câteva minute, fără să interacționăm cu un angajat. Putem primi oferte personalizate de credit prin aplicații mobile, cu preaprobare automată. De ce nu am merge mai departe – la o bancă complet autonomă?

Tehnic, este posibil. Dar trebuie să ne întrebăm: ce se pierde atunci când dispar oamenii din procesul financiar?

Un consilier financiar poate înțelege circumstanțe, poate interpreta o situație de viață, poate ajusta o decizie în funcție de realitatea personală. Un AI nu poate face asta. El execută reguli, învață din date, dar nu cunoaște compasiunea sau echitatea contextuală.

O bancă nu este doar un motor de procesare a riscului. Este și o instituție care ascultă povești, adaptează soluții și uneori iartă. Un algoritm nu poate înțelege o boală în familie, un divorț sau un început de drum. În absența empatiei, există riscul unui banking matematic, dar profund inuman.

În loc de concluzie: tehnologia este o alegere morală

„Tehnologia modelează ceea ce devenim. A o dezvolta fără reflecție morală înseamnă a construi o lume fără oglindă.” — Peter-Paul Verbeek, filozof olandez al tehnologiei

Tehnologia nu este neutră. Fiecare linie de cod reflectă alegeri: ce se măsoară, cum se evaluează, ce se exclude. De aceea, AI-ul nu este o entitate neutră, ci o reflectare sofisticată a priorităților noastre.

Întrebarea filozofică esențială nu este „poate AI-ul să decidă în banking?”, ci: Cum putem păstra valorile umane fundamentale – încrederea, echitatea, responsabilitatea – într-un sistem care pare să le automatizeze?

Inteligența artificială din banking nu este doar o chestiune de performanță tehnică, ci și una de filozofie morală. Cum vrem să arate o lume în care banii, deciziile și oportunitățile sunt distribuite de mașini?

Înainte de a da totul pe mâna algoritmilor, ar trebui să ne întrebăm: care este prețul moral al eficienței? Nu putem transfera în totalitate judecata morală către sisteme care funcționează exclusiv pe baza corelațiilor statistice.

In acest context, banca viitorului nu va fi una fără oameni. Va fi una în care oamenii și AI-ul colaborează, dar în care judecata morală nu este externalizată.

Despre Autor si geneza articolului

Articolul este scris de ChatGPT plecand de la un alt articol scris de filozoful Gabriel Liiceanu, care la randul sau a dialogat cu ChatGPT. Pur si simplu ne-am pus intrebarea cum se vede impactul tehnologiei asupra banking-ului prin ochii unui filosof. Tema va fi abordata intr-un panel distinct si in noiembrie, la Sinaia, in cadrul conferinței internationale Banking 4.0, poate chiar cu Gabriel Liiceanu.