Sztuczna inteligencja (SI) jest często postrzegana jako technologia rewolucyjna, zdolny do zapewnienia efektywności, precyzja i otwieranie nowych strategicznych możliwości. Jednak, podczas gdy firmy korzystają z zalet AI, pojawia się również krytyczne wyzwanie i, czasami, zaniedbany: równość algorytmiczna. Ukryte uprzedzenia w tych systemach mogą zagrozić nie tylko efektywności decyzji biznesowych, ale jednak generować konsekwencje prawne, znaczące etyki i społeczne.
Obecność algorytmicznych uprzedzeń można wyjaśnić naturą samej sztucznej inteligencji, szczególnie w uczeniu maszynowym. Modele są trenowane na danych historycznych, i kiedy te dane odzwierciedlają uprzedzenia lub zniekształcenia społeczne, algorytmy naturalnie kończą się na utrwalaniu tych uprzedzeń. Oprócz uprzedzeń w informacji, sam algorytm może wprowadzić dysproporcję w dokonanej ocenie czynników, lub w danych używanych jako proxy, to znaczy, dane, które zastępują oryginalne informacje, ale nie są idealne do tej analizy.
Emblematycznym przykładem tego zjawiska jest wykorzystanie rozpoznawania twarzy, szczególnie w wrażliwych kontekstach, takich jak bezpieczeństwo publiczne. Różne miasta brazylijskie wprowadziły zautomatyzowane systemy w celu zwiększenia skuteczności działań policyjnych, jednak analizy pokazują, że te algorytmy często popełniają znaczące błędy, szczególnie przy identyfikacji osób z konkretnych grup etnicznych, jak czarni ludzie. Badania naukowe badaczki Joy Buolamwini, zrób MIT, wskazano, że algorytmy komercyjne mają wskaźniki błędów powyżej 30% dla czarnoskórych kobiet, podczas gdy dla białych mężczyzn, wskaźnik spada drastycznie poniżej 1%
Brazylijska legislacja: większa surowość w przyszłości
W Brazylii, além da Lei Geral de Proteção de Dados (LGPD) também está em tramitação o Marco Legal da IA (PL nº 2338/2023), które ustanawia ogólne wytyczne dotyczące rozwoju i stosowania AI w kraju.
Chociaż jeszcze niezatwierdzony, ten projekt ustawy już sygnalizuje prawa, które firmy będą musiały respektować, jak: prawo do wcześniejszej informacji (informowanie, gdy użytkownik wchodzi w interakcję z systemem AI), prawo do wyjaśnienia decyzji automatycznych, prawo do kwestionowania decyzji algorytmicznych i prawo do braku dyskryminacji z powodu algorytmicznych uprzedzeń.
Te punkty będą wymagały od firm wprowadzenia przejrzystości w systemach generatywnej sztucznej inteligencji na przykład, wyjaśniając, kiedy tekst lub odpowiedź zostały wygenerowane przez maszynę) oraz mechanizmy audytu, aby wyjaśnić, jak model doszedł do określonego wyniku
Algorytmiczne zarządzanie: rozwiązanie dla uprzedzeń
Dla firm, stronniczości algorytmiczne wykraczają poza sferę etyczną, stają się istotnymi problemami strategicznymi. Skrócone algorytmy mają potencjał do zniekształcania kluczowych decyzji w procesach wewnętrznych, takich jak rekrutacja, udzielanie kredytu i analiza rynku. Na przykład, algorytm analizy wydajności oddziałów, który systematycznie przeszacowuje obszary miejskie kosztem obszarów peryferyjnych (z powodu niekompletnych danych lub uprzedzeń), może prowadzić do źle ukierunkowanych inwestycji. Tak więc, ukryte wady osłabiają skuteczność strategii opartych na danych, sprawiając, że menedżerowie podejmują decyzje na podstawie częściowo błędnych informacji
Te błędy mogą być skorygowane, ale będą zależeć od struktury zarządzania algorytmicznego, z naciskiem na różnorodność używanych danych, przejrzystość procesów oraz włączenie zróżnicowanych i multidyscyplinarnych zespołów w rozwój technologiczny. Inwestując w różnorodność w zespołach technicznych, na przykład, firmy mogą szybciej identyfikować potencjalne źródła stronniczości, zapewniając, że różne perspektywy są brane pod uwagę i że błędy są wykrywane na wczesnym etapie
Ponadto, użycie narzędzi do ciągłego monitorowania jest kluczowe. Te systemy pomagają wykrywać dryf algorytmicznych uprzedzeń w czasie rzeczywistym, umożliwiając szybkie dostosowania i minimalizując negatywny wpływ.
Przejrzystość jest kolejną istotną praktyką w łagodzeniu uprzedzeń. Algorytmy nie powinny działać jak czarne skrzynki, ale jednak jako systemy jasne i zrozumiałe. Kiedy firmy wybierają przejrzystość, zdobywają zaufanie klientów, inwestorzy i regulatorzy. Przejrzystość ułatwia audyty zewnętrzne, zachęcanie do kultury wspólnej odpowiedzialności w zarządzaniu AI
Inne inicjatywy obejmują przystąpienie do ram i certyfikacji dotyczących odpowiedzialnego zarządzania AI. To obejmuje tworzenie wewnętrznych komitetów etyki w dziedzinie AI, zdefiniować polityki korporacyjne dla ich użycia, i przyjąć standardy międzynarodowe. Na przykład, frameworks como: a ISO/IEC 42001 (gestão de inteligência artificial, a ISO/IEC 27001 (segurança da informação) e ISO/IEC 27701 (privacidade) ajudam a estruturar controles nos processos de dados usados por IA generativa. Innym przykładem jest zestaw praktyk zalecanych przez NIST (National Institute of Standards and Technology) z USA, który kieruje zarządzaniem ryzykiem algorytmicznym, pokrywanie wykrywania stronniczości, kontrola jakości danych i ciągłe monitorowanie modeli
Specjalistyczne konsultacje odgrywają strategiczną rolę w tej sytuacji. Z doświadczeniem w odpowiedzialnej sztucznej inteligencji, governance algorytmiczna i zgodność regulacyjna, te firmy pomagają organizacjom nie tylko unikać ryzyk, ale jednak przekształcenie równości w przewagę konkurencyjną. Działalność tych konsultacji obejmuje szczegółowe oceny ryzyka, aż do opracowania polityk wewnętrznych, uczestnicząc w szkoleniach korporacyjnych na temat etyki w AI, zapewniając, że zespoły są przygotowane do identyfikacji i łagodzenia potencjalnych uprzedzeń algorytmicznych
W ten sposób, łagodzenie algorytmicznych uprzedzeń nie jest tylko środkiem zapobiegawczym, ale jednak strategiczne podejście. Firmy, które dbają o równość algorytmiczną, wykazują odpowiedzialność społeczną, wzmacniają swoją reputację i chronią się przed sankcjami prawnymi oraz kryzysami publicznymi. Algorytmy bezstronne mają tendencję do oferowania bardziej precyzyjnych i zrównoważonych spostrzeżeń, zwiększając skuteczność decyzji biznesowych i wzmacniając pozycję konkurencyjną organizacji na rynku
Dla Sylvio Sobreira Vieira, CEO i szef konsultingu w SVX Consultoria
