CEO AI Talks: Zdenek Romanek (Raiffeisen Bank) și Cristian Popescu (AWS) discută despre încrederea în AI

În cel mai recent episod al emisiunii CEO AI Talks by Raiffeisen Bank și Economedia, directorii Zdenek Romanek (CEO Raiffeisen Bank România) și Cristian Popescu (Country Lead Enterprise Business la Amazon Web Services România) au abordat întrebarea: poate fi inteligența artificială de încredere atunci când lucrează cu datele tale?

Potrivit celor doi, încrederea nu se declară, ci se demonstrează zilnic, prin controale, guvernanță și designul infrastructurii. Răspunsurile implică supraveghere umană, procese clare, arhitecturi securizate și o delimitare fermă între experiment și operaționalizare.

Încrederea se câștigă zilnic

Zdenek Romanek a subliniat că banca nu are încredere oarbă în nimeni, ci gestionează datele clienților cu mare atenție pentru a câștiga încrederea în fiecare zi, în fiecare operațiune. Cristian Popescu a adăugat că abordarea este „technology-first”, iar încrederea se demonstrează prin controale, protejarea datelor și vizibilitate pe întregul proces.

Fără compromis între securitate și viteză

În ceea ce privește adoptarea AI, Romanek a negat existența unui compromis real: AI poate aduce viteză și eficiență fără a sacrifica încrederea clienților. El a evidențiat că tehnologia oferă capabilități noi, reglementarea asigură un cadru corect, iar transparența aduce credibilitate – toate trei fiind necesare pentru a livra valoare reală.

Confidențialitatea, nenegociabilă

Referitor la acuratețea AI versus confidențialitate, Romanek a explicat că AI nu este niciodată perfect, iar acest lucru trebuie anticipat în design. Confidențialitatea, în schimb, este nenegociabilă și trebuie gestionată în întreaga infrastructură. Popescu a confirmat că nu există un compromis între cele două: confidențialitatea este permanentă, iar AI-ul se îmbunătățește continuu.

Implementarea AI: strategie și guvernanță

Pentru implementarea AI în companie, Romanek a atras atenția că AI greșește cu încredere, deci procesele și infrastructura trebuie să anticipeze acest lucru încă din faza de design. Popescu a adăugat că o strategie clară de date este esențială, alături de flexibilitate pentru a absorbi noile evoluții tehnologice.

Amândoi au convenit că supravegherea umană pe întregul lanț de furnizare al AI este crucială pentru a putea „dormi liniștiți”. În cazul unei greșeli a AI, Popescu a spus că, dacă există mecanisme solide de învățare, nu ar renunța la tehnologie; doar lipsa guvernanței l-ar face să renunțe.