Sztuczna inteligencja (SI) jest często postrzegana jako technologia rewolucyjna, zdolny do zapewnienia efektywności, precyzja i otwieranie nowych strategicznych możliwości. Jednak, podczas gdy firmy korzystają z zalet AI, pojawia się również krytyczne wyzwanie i, czasami, zaniedbany: równość algorytmiczna. Ukryte uprzedzenia w tych systemach mogą zagrozić nie tylko efektywności decyzji biznesowych, ale jednak generować konsekwencje prawne, znaczące etyki i społeczne. 

Obecność algorytmicznych uprzedzeń można wyjaśnić naturą samej sztucznej inteligencji, szczególnie w uczeniu maszynowym. Modele są trenowane na danych historycznych, i kiedy te dane odzwierciedlają uprzedzenia lub zniekształcenia społeczne, algorytmy naturalnie kończą się na utrwalaniu tych uprzedzeń. Oprócz uprzedzeń w informacji, sam algorytm może wprowadzić dysproporcję w dokonanej ocenie czynników, lub w danych używanych jako proxy, to znaczy, dane, które zastępują oryginalne informacje, ale nie są idealne do tej analizy. 

Emblematycznym przykładem tego zjawiska jest wykorzystanie rozpoznawania twarzy, szczególnie w wrażliwych kontekstach, takich jak bezpieczeństwo publiczne. Różne miasta brazylijskie wprowadziły zautomatyzowane systemy w celu zwiększenia skuteczności działań policyjnych, jednak analizy pokazują, że te algorytmy często popełniają znaczące błędy, szczególnie przy identyfikacji osób z konkretnych grup etnicznych, jak czarni ludzie. Badania naukowe badaczki Joy Buolamwini, zrób MIT, wskazano, że algorytmy komercyjne mają wskaźniki błędów powyżej 30% dla czarnoskórych kobiet, podczas gdy dla białych mężczyzn, wskaźnik spada drastycznie poniżej 1%

Brazylijska legislacja: większa surowość w przyszłości

W Brazylii, além da Lei Geral de Proteção de Dados (LGPD) também está em tramitação o Marco Legal da IA (PL nº 2338/2023), które ustanawia ogólne wytyczne dotyczące rozwoju i stosowania AI w kraju. 

Chociaż jeszcze niezatwierdzony, ten projekt ustawy już sygnalizuje prawa, które firmy będą musiały respektować, jak: prawo do wcześniejszej informacji (informowanie, gdy użytkownik wchodzi w interakcję z systemem AI), prawo do wyjaśnienia decyzji automatycznych, prawo do kwestionowania decyzji algorytmicznych i prawo do braku dyskryminacji z powodu algorytmicznych uprzedzeń. 

Te punkty będą wymagały od firm wprowadzenia przejrzystości w systemach generatywnej sztucznej inteligencji na przykład, wyjaśniając, kiedy tekst lub odpowiedź zostały wygenerowane przez maszynę) oraz mechanizmy audytu, aby wyjaśnić, jak model doszedł do określonego wyniku

Algorytmiczne zarządzanie: rozwiązanie dla uprzedzeń

Dla firm, stronniczości algorytmiczne wykraczają poza sferę etyczną, stają się istotnymi problemami strategicznymi. Skrócone algorytmy mają potencjał do zniekształcania kluczowych decyzji w procesach wewnętrznych, takich jak rekrutacja, udzielanie kredytu i analiza rynku. Na przykład, algorytm analizy wydajności oddziałów, który systematycznie przeszacowuje obszary miejskie kosztem obszarów peryferyjnych (z powodu niekompletnych danych lub uprzedzeń), może prowadzić do źle ukierunkowanych inwestycji. Tak więc, ukryte wady osłabiają skuteczność strategii opartych na danych, sprawiając, że menedżerowie podejmują decyzje na podstawie częściowo błędnych informacji

Te błędy mogą być skorygowane, ale będą zależeć od struktury zarządzania algorytmicznego, z naciskiem na różnorodność używanych danych, przejrzystość procesów oraz włączenie zróżnicowanych i multidyscyplinarnych zespołów w rozwój technologiczny. Inwestując w różnorodność w zespołach technicznych, na przykład, firmy mogą szybciej identyfikować potencjalne źródła stronniczości, zapewniając, że różne perspektywy są brane pod uwagę i że błędy są wykrywane na wczesnym etapie

Ponadto, użycie narzędzi do ciągłego monitorowania jest kluczowe. Te systemy pomagają wykrywać dryf algorytmicznych uprzedzeń w czasie rzeczywistym, umożliwiając szybkie dostosowania i minimalizując negatywny wpływ. 

Przejrzystość jest kolejną istotną praktyką w łagodzeniu uprzedzeń. Algorytmy nie powinny działać jak czarne skrzynki, ale jednak jako systemy jasne i zrozumiałe. Kiedy firmy wybierają przejrzystość, zdobywają zaufanie klientów, inwestorzy i regulatorzy. Przejrzystość ułatwia audyty zewnętrzne, zachęcanie do kultury wspólnej odpowiedzialności w zarządzaniu AI

Inne inicjatywy obejmują przystąpienie do ram i certyfikacji dotyczących odpowiedzialnego zarządzania AI. To obejmuje tworzenie wewnętrznych komitetów etyki w dziedzinie AI, zdefiniować polityki korporacyjne dla ich użycia, i przyjąć standardy międzynarodowe. Na przykład, frameworks como: a ISO/IEC 42001 (gestão de inteligência artificial, a ISO/IEC 27001 (segurança da informação) e ISO/IEC 27701 (privacidade) ajudam a estruturar controles nos processos de dados usados por IA generativa. Innym przykładem jest zestaw praktyk zalecanych przez NIST (National Institute of Standards and Technology) z USA, który kieruje zarządzaniem ryzykiem algorytmicznym, pokrywanie wykrywania stronniczości, kontrola jakości danych i ciągłe monitorowanie modeli

Specjalistyczne konsultacje odgrywają strategiczną rolę w tej sytuacji. Z doświadczeniem w odpowiedzialnej sztucznej inteligencji, governance algorytmiczna i zgodność regulacyjna, te firmy pomagają organizacjom nie tylko unikać ryzyk, ale jednak przekształcenie równości w przewagę konkurencyjną. Działalność tych konsultacji obejmuje szczegółowe oceny ryzyka, aż do opracowania polityk wewnętrznych, uczestnicząc w szkoleniach korporacyjnych na temat etyki w AI, zapewniając, że zespoły są przygotowane do identyfikacji i łagodzenia potencjalnych uprzedzeń algorytmicznych

W ten sposób, łagodzenie algorytmicznych uprzedzeń nie jest tylko środkiem zapobiegawczym, ale jednak strategiczne podejście. Firmy, które dbają o równość algorytmiczną, wykazują odpowiedzialność społeczną, wzmacniają swoją reputację i chronią się przed sankcjami prawnymi oraz kryzysami publicznymi. Algorytmy bezstronne mają tendencję do oferowania bardziej precyzyjnych i zrównoważonych spostrzeżeń, zwiększając skuteczność decyzji biznesowych i wzmacniając pozycję konkurencyjną organizacji na rynku

Dla Sylvio Sobreira Vieira, CEO i szef konsultingu w SVX Consultoria

Jesteśmy w 2025 roku: niektóre centra kontaktowe już korzystają z zaawansowanych technologii analizy doświadczeń klientów (CX, w skrócie po angielsku) oraz procesy analizy Głosu Klienta (VoC) – tymczasem, te dane, którzy są dość bogaci, są rzadko używane do oceny wydajności operacji. Zamiast tego, wciąż używamy tradycyjnych metryk zapewnienia jakości do tego pomiaru

Tradycyjnie, centra kontaktowe mierzą jakość usług za pomocą wskaźników takich jak średni czas odpowiedzi, średni czas obsługi, wskaźnik rozwiązania przy pierwszym wezwaniu, możliwość, że klient poleci usługę, i wysiłek klienta w uzyskaniu obsługi. Relewantne dane mogą być wyciągnięte z analizy CX, ale nie były wykorzystywane do oceny jakości usługi. Dlaczego

Bo nawet z taką ilością informacji, bez rozwiązania, odpowiednia wizja i strategia, centra kontaktowe stają się "czarną dziurą" danych

Bez odpowiedniego leczenia, dane pozostają fragmentaryczne w silosach, utrudniając holistyczne postrzeganie wydajności i doświadczenia klienta

Dane pochodzące z różnych kanałów, jak rozmowy telefoniczne, e-maile, czaty i media społecznościowe, wiele razy nie są skutecznie skorelowane, prowadząc do powierzchownych i niepowiązanych analiz. Ponadto, brak standaryzacji w zbieraniu i przetwarzaniu tych danych może prowadzić do niespójności i pogorszyć jakość informacji wykorzystywanych w ocenach

Zgodnie z Brazylińskim Stowarzyszeniem Telessług (ABT), krajowy rynek centrów kontaktowych zatrudnia miliony ludzi i generuje znaczne kwoty, szczególnie po wzroście handlu elektronicznego i cyfryzacji procesów związanych z relacjami z konsumentami. W tej złożonej rzeczywistości, poszukiwanie efektywności nie ogranicza się już do redukcji kosztów operacyjnych, ale jednak zapewnić bardziej satysfakcjonujące doświadczenie klienta i zbierać cenne informacje do podejmowania decyzji strategicznych

Inteligencja Jakości: jak mierzyć

W zeszłym czerwcu, raport analityczny Gartnera zaproponował zupełnie nową miarę oceny dla centrów kontaktowych: Inteligencję Jakości

Raport sporządzony przez firmę zawiera kilka interesujących spostrzeżeń, wynik badania przeprowadzonego przez Gartnera z liderami usług wsparcia i centrów kontaktowych. Pierwszym punktem jest to, że tylko 19% respondentów uważa, że wydajność agenta jest głównym czynnikiem gwarantującym jakość usługi, podczas gdy 52% podkreśla CX i VoC jako kluczowe wskaźniki

Ponadto, procesy pomiaru jakości koncentrują się dziś na analizie kanałów głosowych, zostawiając na boku interakcje cyfrowe. Aby uzupełnić ten scenariusz, co najmniej 85% liderów polega tylko na ocenach ręcznych

Fundamentalnie, pomiar inteligencję jakości w centrum kontaktowym obejmuje trzy główne przepływy informacji: tradycyjne dane analizy jakości; dane analizy mowy, które przynoszą analizę sentymentów, identyfikuj ton emocjonalny rozmów, i pozwala firmom lepiej zrozumieć reakcje klientów; i dane VoC, które reprezentują opinie przekazane bezpośrednio przez klienta

W tym sensie, Inteligencja Jakości to innowacyjne podejście, które integruje zaawansowane technologie i holistyczne strategie, przekształcanie ogromnej ilości danych z centrum kontaktowego w działania na podstawie wniosków – i to się dzieje, ponieważ ta metodologia analityczna nie tylko konsoliduje dane pochodzące z różnych kanałów komunikacji, ale także stosuje zaawansowane analizy w celu identyfikacji wzorców i trendów, które mogą znacząco poprawić wydajność usługi jako całości

Ponadto, Inteligencja Jakości umożliwia korelowanie danych z różnych źródeł, jak rozmowy telefoniczne, e-maile, czaty i interakcje w mediach społecznościowych. Jednocząc te informacje, możliwe jest uzyskanie pełniejszego i dokładniejszego obrazu doświadczenia klienta, pozwalając firmom na podejmowanie proaktywnych działań w celu rozwiązywania problemów i poprawy satysfakcji klienta. Ta unifikacja jest możliwa dzięki lepszemu ustandaryzowaniu zbierania i przetwarzania danych, z ustaleniem jednolitych kryteriów do zbierania i analizy informacji, eliminując niespójności i zapewniając, że wszystkie dane są brane pod uwagę w ocenach

Jak platforma CX może przyczynić się do procesu

Można zauważyć, że podejście do Inteligencji Jakości ma swoje korzenie w postępach technologicznych, które umożliwiają szybkie analizowanie dużych zbiorów danych

Podczas gdy w przeszłości powszechne było ocenianie agentów obsługi na podstawie skromnych próbek połączeń lub interakcji, dziś istnieją narzędzia, które analizują 100% kontaktów, niech będą przez głos, pogawędzić, e-mail lub media społecznościowe

Najnowocześniejsze platformy CX oferują solidne narzędzia do zbierania, integracja i analiza danych pochodzących z wielu kanałów komunikacji. Wykorzystanie inteligentnej platformy do zarządzania doświadczeniem klienta pozwala centrum kontaktowemu ustalić jednolite kryteria i zoptymalizować swoje procesy, prowadząc do bardziej spójnego i satysfakcjonującego doświadczenia klienta

Ogólnie, najbardziej zaawansowane rozwiązania CX mają już zintegrowane rozwiązania Speech Analytics – analiza dyskursu i sentymentu mogą, na przykład, przewidzieć, którzy klienci mają największą tendencję do anulowania usługi lub jaki typ agenta generuje największą satysfakcję wśród osób, które się kontaktują. Jeśli określony wzór rozmowy lub podejście okazuje się bardziej efektywne, te te informacje mogą być wykorzystane do przeszkolenia całego zespołu, podnosząc ogólny poziom wydajności

Tak więc, Inteligencja Jakości nie tylko mierzy to, co się wydarzyło, ale jednak wskaź, jakie działania można wdrożyć dla lepszych wyników. Tego rodzaju interwencja jest kluczowa dla menedżerów, którzy muszą podejmować decyzje o dużym wpływie w konkurencyjnych środowiskach. W brazylijskim kontekście, w której rotacja pracowników jest wyraźnie wysoka, ten typ wglądu dostarcza podstaw do strategii zatrzymania, szkolenie i selekcja personelu bardziej zaawansowane

Z wszystkimi tymi uwagami, można stwierdzić, że Inteligencja Jakości reprezentuje znaczną ewolucję w sposobie postrzegania wydajności centrów kontaktowych

Analiza nie koncentruje się już tylko na ocenie wskaźników wydajności, ale w zrozumieniu czynników emocjonalnych, konteksty i strategie obecne w relacjach między firmami a klientami. To zrozumienie w szerszym i głębszym kontekście ma potencjał, aby bezpośrednio wpłynąć na wyniki finansowe, satysfakcja konsumenta i wizerunek instytucjonalny

Pomimo początkowego wysiłku, aby przejść z modelu czysto ilościowego do zintegrowanej oceny danych i zachowań, korzyści są znaczące i wspierają oparte na faktach i trafne decyzje. W ten sposób, Inteligencja Jakości ma tendencję do konsolidacji jako punkt odniesienia dla menedżerów, którzy postrzegają obsługę klienta jako filar różnicowania i wartości dodanej, znacznie poza tradycyjnymi wskaźnikami operacyjnymi, które niegdyś kierowały strategiami sektora