인공지능(AI)은 종종 혁신적인 기술로 여겨진다, 효율성을 제공할 수 있는, 정확성과 새로운 전략적 기회를 열다. 그러나, 기업들이 AI의 이점을 누리는 반면, 비판적인 도전도 나타난다, 때때로, 무시된: 알고리즘 공정성. 이 시스템에 숨겨진 편향은 기업 의사결정의 효율성뿐만 아니라 영향을 미칠 수 있다, 법적 결과를 초래할 수 있다, 의미 있는 윤리적 및 사회적.
알고리즘 편향의 존재는 AI 자체의 본질로 설명될 수 있다, 특히 머신 러닝에서. 모델은 역사적 데이터로 훈련됩니다, 그리고 이러한 데이터가 편견이나 사회적 왜곡을 반영할 때, 알고리즘은 자연스럽게 이러한 편견을 지속시킵니다. 정보의 편향 외에도, 알고리즘 자체가 수행된 요소의 가중치 조정에 불균형을 초래할 수 있다, 프록시로 사용된 데이터에서, 즉, 원래 정보를 대체하는 데이터, 하지만 그 분석에는 이상적이지 않다.
이 현상의 상징적인 예는 얼굴 인식의 사용에서 발견된다, 특히 공공 안전과 같은 민감한 맥락에서. 브라질의 여러 도시가 경찰 작전의 효율성을 높이기 위해 자동화된 시스템을 도입했다, 더 많은 분석 결과 이러한 알고리즘이 종종 중대한 오류를 범한다는 것이 드러났다, 특정 민족 집단의 개인을 식별할 때 특히, 흑인처럼. 연구자 조이 부올라미니의 연구, MIT를 하다, 상업용 알고리즘이 흑인 여성에 대해 30% 이상의 오류율을 보인다고 지적했다, 백인 남성에게는, 세율이 1% 미만으로 급격히 떨어진다
브라질 법률: 미래의 더 엄격한 규제
브라질에서, além da Lei Geral de Proteção de Dados (LGPD) também está em tramitação o Marco Legal da IA (PL nº 2338/2023), 국내 인공지능 개발 및 적용을 위한 일반 지침을 설정하는 것.
아직 승인되지 않았지만, 이 법안은 기업들이 존중해야 할 권리를 이미 시사하고 있다, 사전 정보 제공 권리(사용자가 AI 시스템과 상호작용할 때 알리기), 자동화된 결정에 대한 설명을 받을 권리, 알고리즘 결정에 이의를 제기할 권리와 알고리즘 편향으로 인한 차별을 받지 않을 권리.
이러한 점들은 기업들이 생성적 AI 시스템에서 투명성을 구현할 것을 요구할 것이다, 텍스트나 답변이 기계에 의해 생성되었음을 명확히 하고 모델이 특정 출력을 도출한 방법을 설명하는 감사 메커니즘
알고리즘 거버넌스: 편향에 대한 해결책
기업을 위한, 알고리즘 편향은 윤리적 영역을 넘어선다, 전략적으로 중요한 문제로 변모한다. 편향된 알고리즘은 채용과 같은 내부 프로세스에서 중요한 결정을 왜곡할 잠재력을 가지고 있다, 신용 제공 및 시장 분석. 예를 들어, 지속적으로 도시 지역을 과대 평가하고 주변 지역을 경시하는 지점 성과 분석 알고리즘(불완전한 데이터나 편견으로 인해)은 잘못된 투자로 이어질 수 있다. 그렇게, 숨겨진 편견은 데이터 기반 전략의 효율성을 저하시킨다, 부분적으로 잘못된 정보에 기반하여 경영진이 결정을 내리도록 만드는 것
이러한 편향은 수정될 수 있습니다, 하지만 알고리즘 거버넌스 구조에 따라 달라질 것입니다, 데이터 사용의 다양성에 초점을 맞추어, 프로세스의 투명성과 기술 개발에 있어 다양하고 다학제적인 팀의 포함. 기술 팀의 다양성에 투자할 때, 예를 들어, 기업들은 잠재적인 편향의 출처를 더 빠르게 식별할 수 있다, 다양한 관점이 고려되고 결함이 조기에 발견되도록 보장하는
더불어, 지속적인 모니터링 도구의 사용은 필수적이다. 이 시스템은 실시간으로 알고리즘 편향의 편차를 감지하는 데 도움을 줍니다, 빠른 조정을 가능하게 하고 부정적인 영향을 최소화하는.
투명성은 편견 완화에 있어 또 다른 필수적인 실천이다. 알고리즘은 블랙박스처럼 작동해서는 안 된다, 오히려 명확하고 설명 가능한 시스템으로. 기업이 투명성을 선택할 때, 고객의 신뢰를 얻는다, 투자자와 규제 기관. 투명성은 외부 감사에 도움을 줍니다, AI 관리에서 공유 책임 문화를 장려하기
다른 이니셔티브에는 책임 있는 AI 거버넌스를 위한 프레임워크 및 인증에 대한 참여가 포함됩니다. 이는 AI 윤리 내부 위원회를 만드는 것을 포함합니다, 기업 사용을 위한 정책 정의, 국제 표준을 채택하다. 예를 들어, frameworks como: a ISO/IEC 42001 (gestão de inteligência artificial, a ISO/IEC 27001 (segurança da informação) e ISO/IEC 27701 (privacidade) ajudam a estruturar controles nos processos de dados usados por IA generativa. 또 다른 예는 미국의 NIST(국립표준기술연구소)에서 권장하는 알고리즘 위험 관리에 대한 모범 사례 집합이다, 편향 탐지 다루기, 데이터 품질 검증 및 모델 지속적 모니터링
전문 컨설팅은 이 상황에서 전략적인 역할을 수행합니다. 책임 있는 인공지능 전문성, 알고리즘 거버넌스 및 규제 준수, 이들 기업은 조직이 위험을 피하는 데만 도움을 주는 것이 아닙니다, 그러나 형평성을 경쟁 우위로 전환하는 것. 이러한 컨설팅의 활동은 위험에 대한 상세한 평가부터 시작됩니다, 내부 정책 개발까지, AI 윤리에 대한 기업 교육을 받고 있습니다, 알고리즘 편견을 식별하고 완화할 수 있도록 팀이 준비되도록 보장하기
이러한 방식으로, 알고리즘 편향의 완화는 단순한 예방 조치가 아니다, 오히려 전략적 접근 방식입니다. 알고리즘 공정성에 관심을 가지는 기업은 사회적 책임을 보여줍니다, 그들의 명성을 강화하고 법적 제재 및 공공 위기에 대비한다. 편향되지 않은 알고리즘은 더 정확하고 균형 잡힌 통찰력을 제공하는 경향이 있다, 기업의 의사결정 효율성을 높이고 시장에서 조직의 경쟁력을 강화하는 것
실비오 소브레이라 비에이라, SVX 컨설팅의 CEO 및 헤드 컨설팅
