A mesterséges intelligencia (MI) gyakran forradalmi technológiaként van szemlélve, képes hatékonyságot biztosítani, pontosság és új stratégiai lehetőségek megnyitása. Mindazonáltal, míg a vállalatok kihasználják a mesterséges intelligencia előnyeit, kritikus kihívás is felmerül, néha, elhanyagolt: algoritmikus méltányosság. A rejtett torzítások ezekben a rendszerekben nemcsak a vállalati döntések hatékonyságát veszélyeztethetik, de jogi következményeket vonhat maga után, jelentős etikai és társadalmi.
Az algoritmusos elfogultságok jelenléte magyarázható a mesterséges intelligencia természetével, különösen a gépi tanulásban. A modellek történelmi adatokkal vannak betanítva, és amikor ezek az adatok előítéleteket vagy társadalmi torzulásokat tükröznek, a algoritmusok természetüknél fogva fenntartják ezeket az elfogultságokat. Az információs torzításokon kívül, maga algoritmus maga is okozhat egy kiegyensúlyozatlanságot a figyelembe vett tényezők súlyozásában, vagy az adatok, amelyeket proxyként használnak, vagyis, adatok, amelyek helyettesítik az eredeti információkat, de nem ideálisak az elemzéshez.
Egy emblematikus példa erre a jelenségre az arcfelismerés használata, különösen érzékeny kontextusokban, mint a közbiztonság. Több brazil város automatizált rendszereket vezettek be a rendőrségi intézkedések hatékonyságának növelése érdekében, de több elemzés azt mutatja, hogy ezek az algoritmusok gyakran jelentős hibákat követnek el, különösen a konkrét etnikai csoportok egyének azonosítása során, mint feketék. Joy Buolamwini kutatási eredményei, a MIT-en, rámutattak, hogy a kereskedelmi algoritmusok hibaarányai 30% felett vannak a fekete nőknél, míg a fehér férfiak számára, a ráta drámaian csökken 1% alá
Brazília jogszabályai: nagyobb szigor a jövőben
Brazíliában, além da Lei Geral de Proteção de Dados (LGPD) também está em tramitação o Marco Legal da IA (PL nº 2338/2023), amely általános irányelveket állapít meg a mesterséges intelligencia fejlesztésére és alkalmazására az országban.
Bár még nem hagyták jóvá, ez a törvényjavaslat már jelzi azokat a jogokat, amelyeket a vállalatoknak tiszteletben kell tartaniuk, mint: előzetes tájékoztatáshoz való jog (tájékoztatni, amikor a felhasználó egy MI rendszerrel lép kapcsolatba), az automatizált döntések magyarázatához való jog, algoritmikus döntések megfellebbezésének joga és az algoritmikus elfogultság miatti diszkrimináció tilalma.
Ezek a pontok megkövetelik, hogy a vállalatok átláthatóságot valósítsanak meg a generatív AI rendszerekben (például, világossá téve, amikor egy szöveget vagy választ gép generált) és auditálási mechanizmusok, hogy elmagyarázzák, hogyan jutott a modell egy adott kimenetre
Algoritmikus kormányzás: a megoldás az elfogultságokra
Vállalatok számára, az algoritmusok torzulásai túlmutatnak az etikai szférán, releváns stratégiai problémákká válnak. A torzított algoritmusok potenciálisan eltorzíthatják a döntéseket a belső folyamatokban, mint például a toborzásban, hitelnyújtás és piacelemzés. Például, egy olyan teljesítmény-elemző algoritmus, amely szisztematikusan túlbecsüli a városi területeket a perifériás régiók rovására (hiányos adatok vagy előítéletek miatt), rosszul irányzott befektetésekhez vezethet. Így, rejtett torzítások csökkentik az adatalapú stratégiák hatékonyságát, azzal, hogy a vezetők részben téves információk alapján hozzanak döntéseket
Ezek a torzítások kijavíthatók, de fognak függni egy algoritmikus kormányzati struktúrától, a datafelhasználás sokszínűségére összpontosítva, a folyamatok átláthatósága és a sokszínű, multidiszciplináris csapatok bevonása a technológiai fejlesztésbe. A technikai csapatok sokszínűségébe való befektetéskor, például, a vállalatok gyorsabban azonosítják a potenciális elfogultságforrásokat, biztosítva, hogy különböző nézőpontokat figyelembe vegyenek és hogy a hibákat korán észleljék
Ezenkívül, a folyamatos nyomon követési eszközök használata alapvető. Ezek a rendszerek segítenek észlelni az algoritmikus elfogultságok eltérését valós időben, gyors kiigazításokat lehetővé téve és minimalizálva a negatív hatást.
A transzparencia egy másik alapvető gyakorlat az elfogultságok mérséklésében. Az algoritmusoknak nem szabad fekete dobozként működniük, hanem mint világos és magyarázható rendszerek. Amikor a vállalatok a transzparencia mellett döntenek, megnyerik az ügyfelek bizalmát, befektetők és szabályozók. A transzparencia megkönnyíti a külső auditokat, a mesterséges intelligencia kezelésében a közös felelősség kultúrájának ösztönzése
Más kezdeményezések közé tartozik a felelős MI irányítására vonatkozó keretrendszerekhez és tanúsítványokhoz való csatlakozás. Ez magában foglalja a belső etikai bizottságok létrehozását az MI területén, vállalati politikák meghatározása a használatukra, és nemzetközi szabványok elfogadása. Például, frameworks como: a ISO/IEC 42001 (gestão de inteligência artificial, a ISO/IEC 27001 (segurança da informação) e ISO/IEC 27701 (privacidade) ajudam a estruturar controles nos processos de dados usados por IA generativa. Egy másik példa az Egyesült Államokban a NIST (Nemzeti Szabványügyi és Technológiai Intézet) által ajánlott legjobb gyakorlatok összessége, amely az algoritmikus kockázatkezelést irányítja, torzítás észlelésének lefedése, adatminőség-ellenőrzések és a modellek folyamatos nyomon követése
A szakosodott tanácsadók stratégiai szerepet játszanak ebben a helyzetben. Felelős mesterséges intelligencia szakértelemmel, algoritmikus kormányzás és szabályozási megfelelés, ezek a cégek nemcsak a kockázatok elkerülésében segítik a szervezeteket, de a méltányosságot versenyelőnnyé alakítani. Ezek a tanácsadók a kockázatok részletes értékelésétől kezdve, a belső politikák kidolgozásáig, vállalati etikai képzéseken vesz részt az MI terén, biztosítva, hogy a csapatok felkészültek legyenek az esetleges algoritmikus előítéletek azonosítására és mérséklésére
Ilyen módon, az algoritmikus torzítások mérséklése nem csupán megelőző intézkedés, hanem egy stratégiai megközelítés. A vállalatok, amelyek foglalkoznak az algoritmikus egyenlőséggel, társadalmi felelősséget mutatnak, megerősítik hírnevüket és védik magukat a jogi szankcióktól és a nyilvános válságoktól. A pártatlan algoritmusok hajlamosak pontosabb és kiegyensúlyozottabb betekintéseket nyújtani, növelve a vállalati döntések hatékonyságát és erősítve a szervezetek versenyképességét a piacon
Sylvio Sobreira Vieira által, CEO és a SVX Tanácsadó vezetője
