Umetna inteligenca (UI) se pogosto obravnava kot revolucionarna tehnologija, zmožna zagotavljati učinkovitost, natančnost in odpiranje novih strateških priložnosti. Vendar, medtem ko podjetja izkoriščajo prednosti umetne inteligence, se pojavi tudi kritični izziv in, včasih, zanemar: algoritemska pravičnost. Skriti pristranskosti v teh sistemih lahko ogrozijo ne le učinkovitost poslovnih odločitev, ampak povzročiti pravne posledice, etične in družbene pomembnosti.
Prisotnost algoritmičnih pristranskosti je mogoče razložiti z naravo same umetne inteligence, še posebej pri učenju strojev. Modeli so usposobljeni z zgodovinskimi podatki, in ko so ti podatki odražajo predsodke ali družbene izkrivljenosti, algoritmi naravno nadaljujejo te pristranskosti. Poleg pristranskosti v informacijah, sam algoritem lahko prinese neravnotežje v tehtanju dejavnikov, ki je bilo opravljeno, ali ali podatki uporabljeni kot proxy, to je, podatki, ki nadomeščajo izvirne informacije, ampak niso idealne za to analizo.
Emblematičen primer tega pojava je najden v uporabi prepoznavanja obraza, še posebej v občutljivih kontekstih, kot je javna varnost. Različna brazilska mesta so uvedla avtomatizirane sisteme z namenom povečanja učinkovitosti policijskih akcij, vendar analize kažejo, da ti algoritmi pogosto delajo pomembne napake, zlasti pri prepoznavanju posameznikov iz specifičnih etničnih skupin, kot ljudi temnopoltih. Raziskave raziskovalke Joy Buolamwini, naredi MIT, opazili so, da komercialni algoritmi prikazujejo stopnje napak nad 30% za temnopolte ženske, medtem ko za bele moške, stopnja drastično pade pod 1%
Brazilska zakonodaja: večja strožnost v prihodnosti
V Braziliji, além da Lei Geral de Proteção de Dados (LGPD) também está em tramitação o Marco Legal da IA (PL nº 2338/2023), ki postavlja splošne smernice za razvoj in uporabo umetne inteligence v državi.
Čeprav še ni odobreno, ta zakonodaja že nakazuje pravice, ki jih bodo podjetja morala spoštovati, kot: pravica do predhodnih informacij (obveščanje, ko uporabnik sodeluje s sistemom umetne inteligence), pravica do razlago avtomatiziranih odločitev, pravica do izpodbijanja algoritmičnih odločitev in pravica do nediskriminacije zaradi algoritmičnih pristranskosti.
Ti točke bodo zahtevale, da podjetja uvedejo preglednost v sistemih generativne umetne inteligence (na primer, jasno, kdaj je bil besedilo ali odgovor ustvarjen z napravo) in mehanizmi revizije, da pojasnijo, kako je model prišel do določenega izhoda
Algoritmična uprava: rešitev za pristranskosti
Za podjetja, algoritmične pristranskosti segajo onkraj etične sfere, postanejo pomembne strateške težave. Pristranski algoritmi imajo potencial, da izkrivijo ključne odločitve v notranjih procesih, kot je zaposlovanje, dodelitev kredita in analiza trga. Na primer, algoritem za analizo uspešnosti podružnic, ki sistematično precenjuje mestna območja na račun obrobnih območij (zaradi nepopolnih podatkov ali predsodkov), lahko privede do slabo usmerjenih naložb. Tako, skriti vplivi zmanjšujejo učinkovitost strategij, temelječih na podatkih, sprožitev, da izvršni direktorji sprejemajo odločitve na podlagi delno napačnih informacij
Ti pristranskosti je mogoče odpraviti, ampak bodo odvisne od algoritmične strukture upravljanja, s poudarkom na raznolikosti uporabljenih podatkov, transparentnost procesov in vključevanje raznolikih in multidisciplinarnih ekip v tehnološki razvoj. Pri vlaganju v raznolikost v tehničnih ekipah, na primer, podjetja lahko hitreje prepoznajo potencialne vire pristranskosti, zagotovitev, da se upoštevajo različne perspektive in da se napake zgodaj odkrijejo
Poleg tega, uporaba orodij za stalno spremljanje je ključna. Ti sistemi pomagajo odkrivati odklon algoritmičnih pristranskosti v realnem času, omogočanje hitrih prilagoditev in zmanjšanje negativnega vpliva.
Jasnost je druga ključna praksa pri zmanjševanju pristranskosti. Algoritmi ne smejo delovati kot črne škatle, ampak kot jasni in razložljivi sistemi. Ko podjetja izberejo preglednost, pridobijo zaupanje strank, investitorji in regulatorji. Jasnost olakšava vanjske revizije, spodbujanje kulture skupne odgovornosti pri upravljanju umetno inteligenco
Druge pobude vključujejo pristop k okvirjem in certifikatom za odgovorno upravljanje umetne inteligence. To vključuje ustanovitev notranjih etičnih odborov za umetno inteligenco, določiti korporativne politike za njihovo uporabo, in sprejeti mednarodne standarde. Na primer, frameworks como: a ISO/IEC 42001 (gestão de inteligência artificial, a ISO/IEC 27001 (segurança da informação) e ISO/IEC 27701 (privacidade) ajudam a estruturar controles nos processos de dados usados por IA generativa. Drug drug je sklop priporočil, ki jih je izdal NIST (Nacionalni inštitut za standarde in tehnologijo) ZDA, ki usmerja upravljanje z algoritmičnim tveganjem, pokrivanje zaznavanja pristranskosti, preverjanje kakovosti podatkov in stalno spremljanje modelov
Specializirane svetovalne službe igrajo strateško vlogo v tem scenariju. Z znanjem o odgovorni umetni inteligenci, algoritmično upravljanje in regulativna skladnost, te podjetja pomagajo organizacijam ne le pri izogibanju tveganjem, ampak preoblikovanje enakosti v konkurenčno prednost. Dejavnost teh svetovalnih podjetij sega od podrobnih ocen tveganja, do razvoja notranjih politik, prehod na korporativne treninge o etiki v umetni inteligenci, zagotovitev, da so ekipe pripravljene prepoznati in omiliti morebitne algoritemske pristranskosti
Na ta način, mitigacija algoritemske pristranskosti ni le preventivna ukrepanje, ampak strateški pristop. Podjetja, ki skrbijo za algoritemsko pravičnost, izkazujejo družbeno odgovornost, okrepljajo svojo reputacijo in se ščitijo pred pravnimi sankcijami ter javnimi krizami. Nepartijski algoritmi ponavadi nudijo natančnejše in uravnotežene vpoglede, povečanje učinkovitosti poslovnih odločitev in krepitev konkurenčne pozicije organizacij na trgu
Za Sylvio Sobreira Vieira, CEO in vodja svetovanja pri SVX svetovanju
