Inteligența Artificială (IA) este adesea văzută ca o tehnologie revoluționară, capabil de a oferi eficiență, precizie și deschiderea de noi oportunități strategice. Cu toate acestea, în timp ce companiile beneficiază de avantajele IA, aparește de asemenea o provocare critică și, uneori, neglijat: echitatea algoritmică. Viziuni ascunse în aceste sisteme pot compromite nu doar eficiența deciziilor de afaceri, dar na urma consecințelor legale, etice și sociale semnificative.
Prezența prejudecăților algoritmice poate fi explicată prin natura însăși a IA, în special în învățarea automată. Modelele sunt antrenate cu date istorice, și când aceste date reflectă prejudecăți sau distorsiuni sociale, algoritmii perpetuează în mod natural aceste prejudecăți. În afară de prejudecățile din informație, algoritmul în sine poate aduce o dezechilibrare în ponderarea factorilor realizată, sau în datele folosite ca proxy, adică, date care înlocuiesc informațiile originale, dar nu sunt ideale pentru acea analiză.
Un exemplu emblematic al acestui fenomen se găsește în utilizarea recunoașterii faciale, în special în contexte sensibile precum securitatea publică. Diverse orașe braziliene au adoptat sisteme automatizate cu scopul de a crește eficiența acțiunilor polițienești, dar mai multe analize demonstrează că aceste algoritmi comit frecvent erori semnificative, mai ales atunci când se identifică indivizi din grupuri etnice specifice, ca oameni negri. Studii ale cercetătoarei Joy Buolamwini, facultatea MIT, s-a semnalat că algoritmii comerciali prezintă rate de eroare de peste 30% pentru femeile de culoare, în timp ce pentru bărbații albi, rata scade drastic la mai puțin de 1%
Legislația braziliană: mai multă rigiditate în viitor
În Brazilia, além da Lei Geral de Proteção de Dados (LGPD) também está em tramitação o Marco Legal da IA (PL nº 2338/2023), care stabilește linii directoare generale pentru dezvoltarea și aplicarea IA în țară.
Deși încă nu a fost aprobat, această propunere de lege deja semnalează drepturile pe care companiile vor trebui să le respecte, dreptul la informații prealabile (a informa când utilizatorul interacționează cu un sistem de IA), dreptul la explicația deciziilor automatizate, dreptul de a contesta deciziile algoritmice și dreptul la nediscriminare din cauza prejudecăților algoritmice.
Aceste puncte vor necesita ca companiile să implementeze transparență în sistemele de IA generativă, lăsând clar când un text sau un răspuns a fost generat de o mașină) și mecanisme de audit pentru a explica cum modelul a ajuns la o anumită ieșire
Guvernanța algoritmică: soluția pentru prejudecăți
Pentru companii, viciile algoritmice depășesc sfera etică, devin probleme strategice relevante. Algoritmii părtinitori au potențialul de a distorsiona decizii esențiale în procesele interne, cum ar fi recrutarea, concesiune de credit și analiză de piață. De exemplu, un algoritm de analiză a performanței filialelor care supraestimează sistematic regiunile urbane în detrimentul regiunilor periferice (din cauza datelor incomplete sau a prejudecăților) poate duce la investiții prost direcționate. Astfel, viesurile ascunse afectează eficacitatea strategiilor bazate pe date, făcând ca executivii să ia decizii bazate pe informații parțial greșite
Aceste prejudecăți pot fi corectate, dar depinde de o structură de guvernanță algoritmică, cu accent pe diversitatea datelor utilizate, transparența proceselor și includerea echipelor diversificate și multidisciplinare în dezvoltarea tehnologică. Prin investirea în diversitate în echipele tehnice, de exemplu, companiile pot identifica mai repede sursele potențiale de prejudecăți, asigurându-se că perspective diferite sunt luate în considerare și că deficiențele sunt detectate devreme
În plus, utilizarea instrumentelor de monitorizare continuă este esențială. Aceste sisteme ajută la detectarea derapajului de prejudecăți algoritmice în timp real, permițând ajustări rapide și minimizând impactul negativ.
Transparența este o altă practică esențială în atenuarea prejudecăților. Algoritmii nu ar trebui să funcționeze ca niște cutii negre, ci mai degrabă ca sisteme clare și explicabile. Când când companiile aleg transparența, câștigă încrederea clienților, investitori și reglementatori. Transparența facilitează auditurile externe, încurajând o cultură a responsabilității împărtășite în gestionarea IA
Alte inițiative includ aderarea la cadre și certificări pentru guvernanța responsabilă a IA. Aceasta include crearea de comitete interne de etică în IA, definirea politicilor corporative pentru utilizarea acestora, și a adopta standarde internaționale. De exemplu, frameworks como: a ISO/IEC 42001 (gestão de inteligência artificial, a ISO/IEC 27001 (segurança da informação) e ISO/IEC 27701 (privacidade) ajudam a estruturar controles nos processos de dados usados por IA generativa. Un alt exemplu este setul de practici recomandate de NIST (Institutul Național de Standarde și Tehnologie) din SUA care ghidează gestionarea riscurilor algoritmice, acoperind detectarea prejudecății, verificări de calitate a datelor și monitorizare continuă a modelelor
Consultanțele specializate joacă un rol strategic în acest context. Cu expertiză în inteligența artificială responsabilă, guvernanță algoritmică și conformitate reglementară, aceste companii ajută organizațiile nu doar să evite riscuri, dar forma echității în avantaj competitiv. Activitatea acestor consultanțe variază de la evaluări detaliate ale riscurilor, până la dezvoltarea politicilor interne, trecând prin instruiri corporative despre etica în IA, asigurându-se că echipele sunt pregătite să identifice și să atenueze posibilele prejudecăți algoritmice
În acest fel, mitigarea prejudecăților algoritmice nu este doar o măsură preventivă, ci mai degrabă o abordare strategică. Companiile care se preocupă de echitatea algoritmică demonstrează responsabilitate socială, își întăresc reputația și se protejează împotriva sancțiunilor legale și a crizelor publice. Algoritmii imparțiali tind să ofere perspective mai precise și echilibrate, îmbunătățind eficiența deciziilor de afaceri și consolidând poziția competitivă a organizațiilor pe piață
De Sylvio Sobreira Vieira, CEO și Șef Consultanță la SVX Consultoria
