Umjetna inteligencija (UI) često se smatra revolucionarnom tehnologijom, sposoban pružiti učinkovitost, preciznost i otvaranje novih strateških prilika. Međutim, dok dok se tvrtke koriste prednostima AI, javlja se i kritički izazov i, ponekad, zanemaren: algoritamska pravednost. Skriveni pristranosti u tim sustavima mogu ugroziti ne samo učinkovitost poslovnih odluka, ali će imati pravne posljedice, značajne etičke i društvene.
Prisutnost algoritamskih pristranosti može se objasniti prirodom same IA, posebno u učenju mašina. Modeli se treniraju s povijesnim podacima, i kada ti podaci odražavaju predrasude ili društvene iskrivljenosti, algoritmi prirodno nastavljaju perpetuirati te pristranosti. Osim pristranosti u informacijama, sam algoritam može donijeti dekompenzaciju u ponderiranju faktora koji se provodi, ili u podacima korištenim kao proxy, to jest, podaci koji zamjenjuju izvorne informacije, ali nisu idealni za tu analizu.
Emblematski primjer ovog fenomena može se pronaći u upotrebi prepoznavanja lica, posebno u osjetljivim kontekstima poput javne sigurnosti. Različiti brazilski gradovi usvojili su automatizirane sustave s ciljem povećanja učinkovitosti policijskih akcija, ali analize pokazuju da ti algoritmi često čine značajne greške, posebno pri identifikaciji pojedinaca iz specifičnih etničkih grupa, kao crnci. Istraživanja istraživačice Joy Buolamwini, do MIT, ukazali su da komercijalni algoritmi imaju stopu grešaka iznad 30% za crnkinje, dok muškaraca bijelaca, stopa drastično pada na manje od 1%
Brazilsko zakonodavstvo: veća strogoća u budućnosti
U Brazilu, além da Lei Geral de Proteção de Dados (LGPD) também está em tramitação o Marco Legal da IA (PL nº 2338/2023), koje postavlja opće smjernice za razvoj i primjenu AI u zemlji.
Iako još nije odobreno, ovaj zakonodavni projekt već signalizira prava koja će poduzeća morati poštovati, pravo na prethodnu informaciju (obavijestiti kada korisnik interagira s AI sustavom), pravo na objašnjenje automatiziranih odluka, pravo na prigovor algoritamskim odlukama i pravo na nediskriminaciju zbog algoritamskih pristranosti.
Ove točke zahtijevat će od tvrtki da implementiraju transparentnost u sustavima generativne AI, jasno naznačavanje kada je tekst ili odgovor generiran od strane stroja) i mehanizmi revizije za objašnjenje kako je model došao do određenog izlaza
Algoritamska uprava: rješenje za pristranosti
Za tvrtke, algoritamske pristranosti idu dalje od etičke sfere, postaju relevantni strateški problemi. Pristrani algoritmi imaju potencijal iskriviti ključne odluke u unutarnjim procesima poput zapošljavanja, dodjela kredita i analiza tržišta. Na primjer, algoritam analize performansi podružnica koji sustavno precjenjuje urbane regije na račun perifernih regija (zbog nepotpunih podataka ili predrasuda) može dovesti do loše usmjerenih ulaganja. Tako, skriveni pritisci umanjuju učinkovitost strategija temeljenih na podacima, uzimajući u obzir da izvršni direktori donose odluke na temelju djelomično netočnih informacija
Ove pristranosti mogu se ispraviti, ali će ovisiti o strukturi algoritamskog upravljanja, s naglaskom na raznolikost podataka koji se koriste, transparentnost procesa i uključivanje raznolikih i multidisciplinarnih timova u tehnološki razvoj. Ulaganjem u raznolikost u tehničkim timovima, na primjer, tvrtke brže prepoznaju potencijalne izvore pristranosti, osiguravajući da se razmatraju različite perspektive i da se greške rano otkriju
Osim toga, korištenje alata za kontinuirano praćenje je ključno. Ovi sustavi pomažu u otkrivanju algoritamskih pristranosti u stvarnom vremenu, omogućujući brze prilagodbe i minimizirajući negativan utjecaj.
Transparentnost je druga bitna praksa u ublažavanju pristranosti. Algoritmi ne bi trebali funkcionirati kao crne kutije, već kao jasni i objašnjivi sustavi. Kada tvrtke biraju transparentnost, stječu povjerenje klijenata, investitori i regulatori. Transparentnost olakšava vanjske revizije, poticanje kulture zajedničke odgovornosti u upravljanju AI
Druge inicijative uključuju pridruživanje okvirima i certifikatima za odgovorno upravljanje AI-jem. To uključuje osnivanje internih etičkih odbora za AI, definirati korporativne politike za njihovu upotrebu, i usvojiti međunarodne standarde. Na primjer, frameworks como: a ISO/IEC 42001 (gestão de inteligência artificial, a ISO/IEC 27001 (segurança da informação) e ISO/IEC 27701 (privacidade) ajudam a estruturar controles nos processos de dados usados por IA generativa. Drugi primjer je skup praksi koje preporučuje NIST (Nacionalni institut za standarde i tehnologiju) iz SAD-a koji usmjerava upravljanje algoritamskim rizikom, pokriće otkrivanje pristranosti, provjere kvalitete podataka i kontinuirano praćenje modela
Specijalizirane konzultantske tvrtke igraju stratešku ulogu u ovoj situaciji. S stručnostima u odgovornoj umjetnoj inteligenciji, algoritamska uprava i regulatorna usklađenost, te tvrtke pomažu organizacijama ne samo da izbjegnu rizike, ali transformirati jednakost u konkurentsku prednost. Aktivnost ovih konzultantskih tvrtki obuhvaća detaljne procjene rizika, do razvoja unutarnjih politika, prolazeći kroz korporativne obuke o etici u AI, osiguravajući da timovi budu spremni identificirati i ublažiti moguće algoritamske predrasude
Na taj način, mitigacija algoritamskih pristranosti nije samo preventivna mjera, već strateški pristup. Tvrtke koje se brinu o algoritamskoj pravednosti pokazuju društvenu odgovornost, jačaju svoju reputaciju i štite se od pravnih sankcija i javnih kriza. Nepristrani algoritmi imaju tendenciju pružati preciznije i uravnoteženije uvide, povećanje učinkovitosti poslovnih odluka i jačanje konkurentske pozicije organizacija na tržištu
Za Sylvio Sobreira Vieira, CEO i voditelj savjetovanja u SVX savjetovanju
