Artificiell intelligens (AI) ses ofta som en revolutionerande teknik, kapabel att ge effektivitet, precision och öppna nya strategiska möjligheter. Dock, samtidigt som företagen drar nytta av fördelarna med AI, det uppstår också en kritisk utmaning och, ibland, förbises: algoritmisk rättvisa. Dolda risker i dessa system kan äventyra inte bara effektiviteten i affärsbesluten, men kan få rättsliga konsekvenser, betydelsefulla etiska och sociala.
Närvaron av algoritmiska snedvridningar kan förklaras av naturen hos själva AI:n, särskilt inom maskininlärning. Modeller tränas med historiska data, och när dessa data speglar fördomar eller sociala snedvridningar, algoritmerna tenderar att naturligt upprätthålla dessa fördomar. Förutom snedvridningar i informationen, själva algoritmen kan leda till en obalans i den viktning av faktorer som görs, eller de data som används som proxy, det vill säga, data som ersätter de ursprungliga uppgifterna, men de de är inte de idealiska för den analysen.
Ett emblematiskt exempel på detta fenomen finns i användningen av ansiktsigenkänning, särskilt i känsliga sammanhang som offentlig säkerhet. Flera brasilianska städer har infört automatiserade system för att öka effektiviteten i polisens åtgärder, fler analyser visar att dessa algoritmer ofta gör betydande misstag, särskilt när man identifierar individer från specifika etniska grupper, som somalis. Studier av forskaren Joy Buolamwini, gör MIT, det noterades att kommersiella algoritmer har felaktighetsgrader över 30% för svarta kvinnor, medan för vita män, takten faller drastiskt till under 1%
Brasiliansk lagstiftning: mer stränghet i framtiden
I Brasil, além da Lei Geral de Proteção de Dados (LGPD) também está em tramitação o Marco Legal da IA (PL nº 2338/2023), som fastställer allmänna riktlinjer för utveckling och tillämpning av AI i landet.
Även om det ännu inte är godkänt, detta lagförslag signalerar redan rättigheter som företagen måste respektera, som: rätt till förhandsinformation (informera när användaren interagerar med ett AI-system), rätt till förklaring av automatiserade beslut, rätt att överklaga algoritmiska beslut och rätt till icke-diskriminering på grund av algoritmiska snedvridningar.
Dessa punkter kommer att kräva att företag implementerar transparens i systemen för generativ AI (till exempel, klargörande när en text eller svar har genererats av maskin) och revisionsmekanismer för att förklara hur modellen kom fram till ett visst resultat
Algoritmisk styrning: lösningen på snedvridningar
För företag, de algoritmiska snedvridningar sträcker sig bortom den etiska sfären, blir relevanta strategiska problem. Partiska algoritmer har potential att snedvrida viktiga beslut i interna processer som rekrytering, kreditgivning och marknadsanalys. Till exempel, en algoritm för analys av filialers prestanda som systematiskt överskattar stadsområden på bekostnad av perifera områden (på grund av ofullständiga data eller fördomar) kan leda till felriktade investeringar. Således, dolda faktorer undergräver effektiviteten av datadrivna strategier, får chefer att fatta beslut baserade på delvis felaktig information
Dessa bias kan korrigeras, men kommer att bero på en algoritmisk styrningsstruktur, med fokus på mångfalden av de använda uppgifterna, transparens i processerna och inkludering av diversifierade och tvärvetenskapliga team i den teknologiska utvecklingen. Genom att investera i mångfald i de tekniska teamen, till exempel, företag kan snabbare identifiera potentiella källor till bias, säkerställa att olika perspektiv beaktas och att brister upptäckts tidigt
Dessutom, användningen av verktyg för kontinuerlig övervakning är avgörande. Dessa system hjälper till att upptäcka avvikelser i algoritmiska snedvridningar i realtid, möjliggör snabba justeringar och minimerar den negativa påverkan.
Transparens är en annan viktig praxis för att mildra snedvridningar. Algoritmer bör inte fungera som svarta lådor, utan snarare som tydliga och förklarliga system. När företag väljer transparens, får kunders förtroende, investerare och reglerare. Transparens underlättar externa revisioner, främjande av en kultur av delat ansvar i hanteringen av AI
Andra initiativ inkluderar anslutning till ramverk och certifieringar för ansvarsfull AI-styrning. Detta inkluderar att skapa interna etiska kommittéer för AI, definiera företagspolicyer för dess användning, och anta internationella standarder. Till exempel, frameworks como: a ISO/IEC 42001 (gestão de inteligência artificial, a ISO/IEC 27001 (segurança da informação) e ISO/IEC 27701 (privacidade) ajudam a estruturar controles nos processos de dados usados por IA generativa. Ett annat exempel är uppsättningen av bästa praxis som rekommenderas av NIST (National Institute of Standards and Technology) i USA som vägleder algoritmisk riskhantering, täcker biasdetektering, kvalitetskontroller av data och kontinuerlig övervakning av modeller
Specialiserade konsultföretag spelar en strategisk roll i detta sammanhang. Med expertis inom ansvarsfull artificiell intelligens, algoritmisk styrning och regulatorisk efterlevnad, dessa företag hjälper organisationer inte bara att undvika risker, men att omvandla jämlikhet till konkurrensfördel. Verksamheten hos dessa konsultföretag sträcker sig från detaljerade riskbedömningar, till utvecklingen av interna policyer, genomgår företagsutbildningar om etik inom AI, säkerställa att team är förberedda att identifiera och mildra möjliga algoritmiska fördomar
På det sättet, mitigeringen av algoritmiska snedvridningar är inte bara en förebyggande åtgärd, utan en strategisk ansats. Företag som bryr sig om algoritmisk rättvisa visar socialt ansvar, de förstärker sitt rykte och skyddar sig mot rättsliga påföljder och offentliga kriser. Impartiella algoritmer tenderar att erbjuda mer precisa och balanserade insikter, ökar effektiviteten i affärsbeslut och stärker organisationernas konkurrensposition på marknaden
Av Sylvio Sobreira Vieira, VD och chef för konsultverksamheten på SVX Konsulting
