Veštačka inteligencija (VI) se često smatra revolucionarnom tehnologijom, sposoban da pruži efikasnost, preciznost i otvaranje novih strateških prilika. Međutim, dok dok se kompanije koriste prednostima veštačke inteligencije, javlja se i kritički izazov i, ponekad, zapostavljen: algoritamska pravednost. Skriveni pristrasnosti u tim sistemima mogu ugroziti ne samo efikasnost poslovnih odluka, ali da pravne posledice, značajne etičke i društvene.
Prisutnost algoritamskih pristrasnosti može se objasniti prirodom same veštačke inteligencije, posebno u učenju mašina. Modeli se obučavaju sa istorijskim podacima, i kada ti podaci odražavaju predrasude ili društvene iskrivljenosti, algoritmi prirodno nastavljaju da perpetuiraju te pristrasnosti. Pored pristrasnosti u informacijama, sam algoritam može doneti dekompenzaciju u ponderisanju faktora koji se vrši, ili u podacima korišćenim kao proxy, odnosno, podaci koji zamenjuju originalne informacije, ali nisu idealne za tu analizu.
Emblematičan primer ovog fenomena može se naći u upotrebi prepoznavanja lica, posebno u osetljivim kontekstima kao što su javna sigurnost. Različiti brazilski gradovi usvojili su automatizovane sisteme s ciljem povećanja efikasnosti policijskih akcija, ali analize pokazuju da ovi algoritmi često prave značajne greške, posebno prilikom identifikacije pojedinaca iz specifičnih etničkih grupa, kao crni ljudi. Istraživanja istraživačice Joy Buolamwini, uradi MIT, ukazali su da komercijalni algoritmi imaju stopu greške veću od 30% za crnkinje, dok muškaraca belaca, stopa drastično pada na manje od 1%
Brazilska legislativa: veća strogoća u budućnosti
U Brazilu, além da Lei Geral de Proteção de Dados (LGPD) também está em tramitação o Marco Legal da IA (PL nº 2338/2023), koje postavlja opšte smernice za razvoj i primenu veštačke inteligencije u zemlji.
Iako još nije odobreno, ovaj zakonodavni projekat već signalizira prava koja će kompanije morati da poštuju, kao: pravo na prethodne informacije (obavestiti kada korisnik interaguje sa sistemom veštačke inteligencije), pravo na objašnjenje automatizovanih odluka, pravo na osporavanje algoritamskih odluka i pravo na nediskriminaciju zbog algoritamskih pristrasnosti.
Ove tačke će zahtevati da kompanije implementiraju transparentnost u sistemima generativne veštačke inteligencije (na primer, ostavljajući jasno kada je tekst ili odgovor generisan mašinski) i mehanizme revizije da objasne kako je model došao do određenog izlaza
Algoritamska uprava: rešenje za pristrasnosti
Za kompanije, algoritamske pristrasnosti idu dalje od etičke sfere, postaju relevantni strateški problemi. Pristrasni algoritmi imaju potencijal da iskrivljuju ključne odluke u unutrašnjim procesima kao što je zapošljavanje, dodela kredita i analiza tržišta. Na primer, algoritam analize performansi filijala koji sistematski precenjuje urbane oblasti na račun perifernih oblasti (zbog nepotpunih podataka ili predrasuda) može dovesti do loše usmerenih investicija. Tako, skriveni interesi umanjuju efikasnost strategija zasnovanih na podacima, čineći da izvršni direktori donose odluke zasnovane na delimično pogrešnim informacijama
Ove pristrasnosti se mogu ispraviti, ali će zavisiti od strukture algoritamskog upravljanja, sa fokusom na raznolikosti podataka koji se koriste, transparentnost procesa i uključivanje raznolikih i multidisciplinarnih timova u tehnološki razvoj. Ulaganjem u raznolikost u tehničkim timovima, на пример, preduzeća brže identifikuju potencijalne izvore pristrasnosti, osiguravajući da se razmatraju različite perspektive i da se greške rano otkriju
Pored toga, korišćenje alata za kontinuirano praćenje je od suštinskog značaja. Ovi sistemi pomažu u otkrivanju odmaknutih algoritamskih pristrasnosti u realnom vremenu, omogućavajući brze prilagodbe i minimizirajući negativan uticaj.
Transparentnost je još jedna suštinska praksa u ublažavanju pristrasnosti. Algoritmi ne bi trebali da funkcionišu kao crne kutije, već kao jasni i objašnjivi sistemi. Kada kompanije biraju transparentnost, stiču poverenje klijenata, investitori i regulatori. Transparentnost olakšava spoljne revizije, podsticanje kulture zajedničke odgovornosti u upravljanju veštačkom inteligencijom
Druge inicijative uključuju pridruživanje okvirima i sertifikacijama za odgovorno upravljanje veštačkom inteligencijom. To uključuje formiranje unutrašnjih etičkih komiteta za veštačku inteligenciju, definisati korporativne politike za njihovu upotrebu, i usvojiti međunarodne standarde. Na primer, frameworks como: a ISO/IEC 42001 (gestão de inteligência artificial, a ISO/IEC 27001 (segurança da informação) e ISO/IEC 27701 (privacidade) ajudam a estruturar controles nos processos de dados usados por IA generativa. Drugi primer je skup praksi koje preporučuje NIST (Nacionalni institut za standarde i tehnologiju) iz SAD-a koji usmerava upravljanje algoritamskim rizikom, pokrivanje detekcije pristrasnosti, provere kvaliteta podataka i kontinuirano praćenje modela
Specijalizovane konsultantske firme igraju stratešku ulogu u ovoj situaciji. Sa stručnostima u odgovornoj veštačkoj inteligenciji, algoritamska uprava i regulatorna usklađenost, ove kompanije pomažu organizacijama ne samo da izbegnu rizike, ali da transformacije jednakosti u konkurentsku prednost. Delovanje ovih konsultantskih firmi obuhvata detaljne procene rizika, do razvoja unutrašnjih politika, prolazeći kroz korporativne obuke o etici u veštačkoj inteligenciji, osiguravajući da timovi budu spremni da identifikuju i ublaže moguće algoritamske predrasude
Na taj način, mitigacija algoritamskih pristrasnosti nije samo preventivna mera, već strategijski pristup. Kompanije koje se brinu o algoritamskoj pravednosti pokazuju društvenu odgovornost, jačaju svoju reputaciju i štite se od pravnih sankcija i javnih kriza. Nepristrasni algoritmi teže da pruže preciznije i uravnoteženije uvide, povećavajući efikasnost poslovnih odluka i jačajući konkurentsku poziciju organizacija na tržištu
По Сильвио Собрейра Виейра, CEO i šef konsultacija SVX konsultacije
