Kunstmatige Intelligensie (KI) word dikwels beskou as 'n revolusionêre tegnologie, in staat om doeltreffendheid te bied, presisie en om nuwe strategiese geleenthede te open. togt, terwyl maatskappye voordeel trek uit die voordele van KI, ontstaan ook 'n kritieke uitdaging en, soms, verwaarloosde: die algoritmiese billikheid. Verborgenhede in hierdie stelsels kan nie net die doeltreffendheid van besluite in die besigheid benadeel nie, maar wettige gevolge genereer, etiese en sosiale betekenisvolle.
Die teenwoordigheid van algoritmiese vooroordele kan verklaar word deur die aard van die KI self, veral in masjienleer. Modelle word met historiese data opgelei, en wanneer hierdie data vooroordele of sosiale vervormings reflekteer, die algoritmes draak natuurlik hierdie vooroordele voort. Benewens die vooroordele in die inligting, die eie algoritme kan 'n ontregting in die gewigstoekenning van faktore meebring, of in die data wat as proxy gebruik word, dit wil sê, data wat die oorspronklike inligting vervang, maar dit is nie die ideale vir daardie analise nie.
'n Emblematiese voorbeeld van hierdie fenomeen word gevind in die gebruik van gesigsherkenning, veral in sensitiewe kontekste soos openbare veiligheid. Verskeie Brasiliaanse stede het geoutomatiseerde stelsels aangeneem met die doel om die doeltreffendheid van polisiële aksies te verhoog, maar ontledings toon dat hierdie algoritmes dikwels beduidende foute maak, veralik aan die identifisering van individue van spesifieke etniese groepe, soos swart mense. Studies by researcher Joy Buolamwini, do MIT, het is aangedui dat kommersiële algoritmes 'n foutkoers van meer as 30% vir swart vroue het, terwyl vir wit mans, die koers daal drasties tot minder as 1%
Braziliaanse wetgewing: meer strengheid in die toekoms
In Brasilië, além da Lei Geral de Proteção de Dados (LGPD) também está em tramitação o Marco Legal da IA (PL nº 2338/2023), wat algemene riglyne vir die ontwikkeling en toepassing van KI in die land vasstel.
Alhoewel dit nog nie goedgekeur is, hierdie wetsontwerp dui reeds op regte wat maatskappye moet respekteer, soos: regte op vooraf inligting (om te informeer wanneer die gebruiker met 'n KI-stelsel interaksie het), regte op 'n verduideliking van outomatiese besluite, regte om teen algoritmiese besluite te appelleer en regte om nie gediskrimineer te word deur algoritmiese vooroordele.
Hierdie punte sal vereis dat maatskappye deursigtigheid in generatiewe KI-stelsels implementeer, duidelik maak wanneer 'n teks of antwoord deur 'n masjien gegenereer is) en ouditmeganismes om te verduidelik hoe die model tot 'n bepaalde uitset gekom het
Algoritmiese bestuur: die oplossing vir vooroordele
Vir vir die maatskappye, algoritmiese vooroordele strek verder as die etiese sfeer, worde strategiese probleme relevant. Gevormde algoritmes het die potensiaal om noodsaaklike besluite in interne prosesse soos werwing te verdraai, krediettoekenning en markanalise. Byvoorbeeld, 'n algoritme vir die analise van filiaalprestasie wat sistematies stedelike gebiede oorwaardeer ten koste van perifere gebiede (as gevolg van onvolledige data of vooroordele) kan lei tot verkeerd gerigte beleggings. So, verborgene faktore benadeel die doeltreffendheid van data-gedrewe strategieë, maak dat uitvoerende beamptes besluite neem op grond van gedeeltelik verkeerde inligting
Hierdie vooroordele kan reggestel word, maar sal afhanklik wees van 'n algoritmiese bestuursstruktuur, met fokus op die diversiteit van die data wat gebruik word, deursigtigheid van prosesse en die insluiting van diverse en multidissiplinêre span in tegnologiese ontwikkeling. Deur die in diversiteit in tegniese spanne te belê, byvoorbeeld, maatskappye kan potensiële bronne van vooroordeel vinniger identifiseer, te verseker dat verskillende perspektiewe in ag geneem word en dat foute vroegtydig opgespoor word
Boonop, die gebruik van de voortdurende moniteringstoestelle is fundamenteel. Hierdie stelsels help om die afwyking van algoritmiese vooroordele in werklike tyd te detecteer, maak vinnige aanpassings moontlik en minimaliseer die negatiewe impak.
Deursigtigheid is 'n ander noodsaaklike praktyk in die versagting van vooroordele. Algoritmes moet nie as swart bokse werk nie, maar eerder as duidelike en verklaarbare stelsels. Wanneer maatskappye vir deursigtigheid kies, wen die vertroue van kliënte bekom, beleggers en reguleerders. Deursigtigheid vergemaklik eksterne ouditte, aanmoediging van 'n kultuur van gedeelde verantwoordelikheid in die bestuur van KI
Ander inisiatiewe sluit die deelname aan raamwerke en sertifisering vir verantwoordelike KI-governance in. Dit sluit die oprigting van interne etiekkomitees in KI in, definieer korporatiewe beleid vir jou gebruik, en en neem internasionale standaarde aan. Byvoorbeeld, frameworks como: a ISO/IEC 42001 (gestão de inteligência artificial, a ISO/IEC 27001 (segurança da informação) e ISO/IEC 27701 (privacidade) ajudam a estruturar controles nos processos de dados usados por IA generativa. 'n Ander voorbeeld is die stel van beste praktyke aanbeveel deur die NIST (Nasionale Instituut vir Standaarde en Tegnologie) van die VSA wat die bestuur van algoritmiese risiko lei, dekking van vooroordeel detectie, gegewenskwaliteitstoetsing en de voortdurende monitering van modelle
Gespecialiseerde konsultasies speel 'n strategiese rol in hierdie scenario. Met kundigheid in verantwoordelike kunsmatige intelligensie, algoritmiese bestuur en regulatoriese nakoming, hierdie maatskappye help organisasies nie net om risiko's te vermy, maar om gelykheid in 'n mededingende voordeel te transformeer. Die optrede van hierdie konsultasies strek van gedetailleerde risikobeoordelings, tot die ontwikkeling van interne beleid, deur deur korporatiewe opleiding oor etiek in KI, verseker dat spanne gereed is om moontlike algoritmiese vooroordele te identifiseer en te verminder
Op hierdie manier, die mitigering van algoritmiese vooroordele is nie net 'n voorkomende maatregel nie, maar eerder 'n strategiese benadering. Maatskappye wat omgee vir algoritmiese billikheid toon sosiale verantwoordelikheid, versterk hul reputasie en beskerm hulself teen regshandelinge en openbare krisisse. Onpartydige algoritmes neig om meer akkurate en gebalanseerde insigte te bied, verhoog die doeltreffendheid van besluite in die besigheid en versterk die mededingende posisie van organisasies in die mark
De Sylvio Sobreira Vieira, CEO en Hoof Konsultasie van SVX Konsultasie
