Искусственный интеллект (ИИ) часто рассматривается как революционная технология, способен обеспечить эффективность, точность и открытие новых стратегических возможностей. Тем не менее, в то время как компании извлекают выгоду из преимуществ ИИ, возникает также критический вызов и, иногда, недостаточно внимания: алгоритмическое равенство. Скрытые предвзятости в этих системах могут подорвать не только эффективность бизнес-решений, но повлечь за собой юридические последствия, значимые этические и социальные.
Наличие алгоритмических предвзятостей можно объяснить природой самой ИИ, особенно в области машинного обучения. Модели обучаются на исторических данных, и когда эти данные отражают предвзятости или социальные искажения, алгоритмы естественным образом продолжают поддерживать эти предвзятости. Кроме предвзятости в информации, сам алгоритм может привести к дисбалансу в оценке факторов, или в данных, используемых в качестве прокси, то есть, данные, которые заменяют оригинальную информацию, но они не идеальны для этого анализа.
Эмблематичным примером этого явления является использование распознавания лиц, особенно в чувствительных контекстах, таких как общественная безопасность. Различные бразильские города внедрили автоматизированные системы с целью повышения эффективности полицейских действий, но анализы показывают, что эти алгоритмы часто совершают значительные ошибки, особенно при идентификации индивидуумов из конкретных этнических групп, как чернокожие люди. Исследования исследовательницы Джой Буоламвини, сделать MIT, указали, что коммерческие алгоритмы имеют уровень ошибок выше 30% для чернокожих женщин, в то время как для белых мужчин, ставка резко падает до менее 1%
Бразильское законодательство: больше жесткости в будущем
В Бразилии, além da Lei Geral de Proteção de Dados (LGPD) também está em tramitação o Marco Legal da IA (PL nº 2338/2023), который устанавливает общие принципы для разработки и применения ИИ в стране.
Хотя еще не одобрено, этот законопроект уже указывает на права, которые компании должны соблюдать, как: право на предварительную информацию (информировать, когда пользователь взаимодействует с системой ИИ), право на объяснение автоматизированных решений, право оспаривать алгоритмические решения и право на недискриминацию из-за алгоритмических предвзятостей.
Эти пункты потребуют от компаний внедрения прозрачности в системах генеративного ИИ, уточняя, когда текст или ответ был сгенерирован машиной, и механизмы аудита, чтобы объяснить, как модель пришла к определенному результату
Алгоритмическое управление: решение для предвзятостей
Для компаний, алгоритмические предвзятости выходят за рамки этической сферы, становятся актуальными стратегическими проблемами. Смещенные алгоритмы имеют потенциал искажать важные решения в внутренних процессах, таких как набор персонала, предоставление кредита и анализ рынка. Например, алгоритм анализа производительности филиалов, который систематически переоценивает городские районы в ущерб периферийным регионам (из-за неполных данных или предвзятости), может привести к неправильно направленным инвестициям. Таким образом, скрытые предвзятости подрывают эффективность стратегий, основанных на данных, заставляя руководителей принимать решения на основе частично неверной информации
Эти предвзятости можно исправить, но будут зависеть от алгоритмической структуры управления, с акцентом на разнообразие используемых данных, прозрачность процессов и включение разнообразных и многопрофильных команд в технологическое развитие. Инвестируя в разнообразие в технических командах, например, компании могут быстрее выявлять потенциальные источники предвзятости, обеспечивая учет различных точек зрения и раннее выявление недостатков
Кроме того, использование инструментов непрерывного мониторинга является основополагающим. Эти системы помогают обнаруживать смещение алгоритмических предвзятостей в реальном времени, обеспечивая быстрые корректировки и минимизируя негативное воздействие.
Прозрачность является еще одной важной практикой в смягчении предвзятостей. Алгоритмы не должны работать как черные ящики, а как ясные и объяснимые системы. Когда компании выбирают прозрачность, завоевывают доверие клиентов, инвесторы и регуляторы. Прозрачность облегчает внешние аудиты, поощряя культуру совместной ответственности в управлении ИИ
Другие инициативы включают присоединение к рамочным соглашениям и сертификатам для ответственного управления ИИ. Это включает создание внутренних комитетов по этике в ИИ, определить корпоративные политики для его использования, и принимать международные стандарты. Например, frameworks como: a ISO/IEC 42001 (gestão de inteligência artificial, a ISO/IEC 27001 (segurança da informação) e ISO/IEC 27701 (privacidade) ajudam a estruturar controles nos processos de dados usados por IA generativa. Другим примером является набор практик, рекомендованных NIST (Национальный институт стандартов и технологий) США, который направляет управление алгоритмическими рисками, покрытие обнаружения предвзятости, проверка качества данных и непрерывный мониторинг моделей
Специализированные консалтинговые компании играют стратегическую роль в этой ситуации. С экспертизой в области ответственной искусственной интеллекта, алгоритмическое управление и регуляторное соблюдение, эти компании помогают организациям не только избегать рисков, но превращение равенства в конкурентное преимущество. Деятельность этих консалтинговых компаний охватывает детальные оценки рисков, до разработки внутренних политик, проходя корпоративные тренинги по этике в ИИ, обеспечивая готовность команд к выявлению и смягчению возможных алгоритмических предвзятостей
Таким образом, смягчение алгоритмических предвзятостей не является лишь профилактической мерой, а не стратегический подход. Компании, которые заботятся о алгоритмическом равенстве, демонстрируют социальную ответственность, укрепляют свою репутацию и защищаются от юридических санкций и общественных кризисов. Беспристрастные алгоритмы, как правило, предлагают более точные и сбалансированные инсайты, увеличивая эффективность бизнес-решений и укрепляя конкурентные позиции организаций на рынке
По Сильвио Собрейра Виейра, Генеральный директор и руководитель консалтинга SVX Consultoria
