تُعتبر الذكاء الاصطناعي (IA) غالبًا تقنية ثورية, قادر على توفير الكفاءة, الدقة وفتح فرص استراتيجية جديدة. ومع ذلك, بينما تستفيد الشركات من مزايا الذكاء الاصطناعي, يظهر أيضًا تحدٍ حاسم و, أحيانًا, مهمل: العدالة الخوارزمية. يمكن أن تؤثر التحيزات الخفية في هذه الأنظمة على كفاءة القرارات التجارية فقط, لكنها ستؤدي إلى عواقب قانونية, أخلاقية واجتماعية ذات دلالة.
يمكن تفسير وجود التحيزات الخوارزمية بطبيعة الذكاء الاصطناعي نفسه, خصوصًا في تعلم الآلة. تُدرَّب النماذج باستخدام بيانات تاريخية, وعندما تعكس هذه البيانات تحيزات أو تشوهات اجتماعية, تؤدي الخوارزميات بطبيعتها إلى استمرارية هذه التحيزات. بالإضافة إلى التحيزات في المعلومات, يمكن أن يؤدي الخوارزمية نفسها إلى عدم توازن في وزن العوامل التي تم إجراؤها, أو في البيانات المستخدمة كوكيل, أي يعني, بيانات تحل محل المعلومات الأصلية, لكنها ليست مثالية لتلك التحليل.
مثال بارز على هذه الظاهرة يوجد في استخدام التعرف على الوجه, خصوصاً في سياقات حساسة مثل الأمن العام. اعتمدت مدن برازيلية متعددة أنظمة آلية بهدف زيادة فعالية الإجراءات الشرطية, لكن التحليلات تظهر أن هذه الخوارزميات غالبًا ما ترتكب أخطاء كبيرة, خصوصًا عند تحديد الأفراد من مجموعات عرقية محددة, مثل الأشخاص السود. دراسات الباحثة جوي بوالامويني, قم بمعهد ماساتشوستس للتكنولوجيا, أشاروا إلى أن الخوارزميات التجارية تظهر معدلات خطأ تزيد عن 30% للنساء السود, بينما للرجال البيض, تنخفض النسبة بشكل كبير إلى أقل من 1%
التشريع البرازيلي: مزيد من الصرامة في المستقبل
في البرازيل, além da Lei Geral de Proteção de Dados (LGPD) também está em tramitação o Marco Legal da IA (PL nº 2338/2023), الذي يحدد التوجيهات العامة لتطوير وتطبيق الذكاء الاصطناعي في البلاد.
على الرغم من أنه لم يتم الموافقة عليه بعد, هذا المشروع القانوني يشير بالفعل إلى الحقوق التي يجب على الشركات احترامها, مثل: الحق في الحصول على معلومات مسبقة (إبلاغ المستخدم عند تفاعله مع نظام ذكاء اصطناعي), حق الحصول على تفسير للقرارات الآلية, حق الاعتراض على القرارات الخوارزمية وحق عدم التمييز بسبب التحيزات الخوارزمية.
ستتطلب هذه النقاط من الشركات تنفيذ الشفافية في أنظمة الذكاء الاصطناعي التوليدي (على سبيل المثال, توضيح متى تم إنشاء نص أو إجابة بواسطة آلة) وآليات التدقيق لشرح كيفية وصول النموذج إلى نتيجة معينة
الحوكمة الخوارزمية: الحل للتحيزات
للمؤسسات, تتجاوز التحيزات الخوارزمية المجال الأخلاقي, تتحول إلى مشاكل استراتيجية ذات أهمية. يمكن أن تؤدي الخوارزميات المتحيزة إلى تشويه القرارات الأساسية في العمليات الداخلية مثل التوظيف, منح الائتمان وتحليل السوق. على سبيل المثال, خوارزمية لتحليل أداء الفروع التي تفرط في تقدير المناطق الحضرية على حساب المناطق الطرفية (بسبب بيانات غير مكتملة أو تحيزات) يمكن أن تؤدي إلى استثمارات غير موجهة بشكل صحيح. هكذا, التحيزات الخفية تضعف فعالية الاستراتيجيات المعتمدة على البيانات, يجعل التنفيذيين يتخذون قرارات بناءً على معلومات خاطئة جزئيًا
يمكن تصحيح هذه التحيزات, لكنها ستعتمد على هيكل حوكمة خوارزمية, مع التركيز على تنوع البيانات المستخدمة, شفافية العمليات ودمج الفرق المتنوعة والمتعددة التخصصات في التطوير التكنولوجي. عند الاستثمار في التنوع في الفرق الفنية, على سبيل المثال, تستطيع الشركات تحديد مصادر التحيز المحتملة بشكل أسرع, ضمان أن يتم أخذ وجهات نظر مختلفة في الاعتبار وأن يتم اكتشاف الأخطاء في وقت مبكر
بالإضافة إلى ذلك, استخدام أدوات المراقبة المستمرة أمر أساسي. تساعد هذه الأنظمة في اكتشاف انحراف التحيزات الخوارزمية في الوقت الفعلي, مما يتيح تعديلات سريعة ويقلل من الأثر السلبي.
الشفافية هي ممارسة أساسية أخرى في التخفيف من التحيزات. يجب ألا تعمل الخوارزميات كصناديق سوداء, بل كأنظمة واضحة وقابلة للتفسير. عندما تختار الشركات الشفافية, يكسبون ثقة العملاء, المستثمرون والمنظمون. الشفافية تسهل التدقيقات الخارجية, تشجيع ثقافة المسؤولية المشتركة في إدارة الذكاء الاصطناعي
تشمل المبادرات الأخرى الانضمام إلى الأطر والشهادات لحوكمة الذكاء الاصطناعي المسؤول. يشمل ذلك إنشاء لجان داخلية للأخلاقيات في الذكاء الاصطناعي, تحديد السياسات المؤسسية لاستخدامها, وتبني المعايير الدولية. على سبيل المثال, frameworks como: a ISO/IEC 42001 (gestão de inteligência artificial, a ISO/IEC 27001 (segurança da informação) e ISO/IEC 27701 (privacidade) ajudam a estruturar controles nos processos de dados usados por IA generativa. مثال آخر هو مجموعة الممارسات الموصى بها من قبل المعهد الوطني للمعايير والتكنولوجيا (NIST) في الولايات المتحدة التي توجه إدارة المخاطر الخوارزمية, تغطية كشف التحيز, تحقق من جودة البيانات والمراقبة المستمرة للنماذج
تلعب الاستشارات المتخصصة دورًا استراتيجيًا في هذا السياق. مع خبرة في الذكاء الاصطناعي المسؤول, الحوكمة الخوارزمية والامتثال التنظيمي, تساعد هذه الشركات المنظمات ليس فقط على تجنب المخاطر, لكن تحويل المساواة إلى ميزة تنافسية. تشمل أنشطة هذه الاستشارات تقييمات مفصلة للمخاطر, حتى تطوير السياسات الداخلية, خلال التدريب المؤسسي حول الأخلاقيات في الذكاء الاصطناعي, ضمان أن تكون الفرق مستعدة لتحديد وتخفيف التحيزات الخوارزمية المحتملة
بهذه الطريقة, تخفيف التحيزات الخوارزمية ليس مجرد إجراء وقائي, بل نهج استراتيجي. الشركات التي تهتم بالعدالة الخوارزمية تظهر مسؤولية اجتماعية, تعزز سمعتها وتحمي نفسها من العقوبات القانونية والأزمات العامة. تميل الخوارزميات غير المتحيزة إلى تقديم رؤى أكثر دقة وتوازنًا, زيادة فعالية القرارات التجارية وتعزيز الموقف التنافسي للمنظمات في السوق
بواسطة سيلفيو سوبيرا فييرا, الرئيس التنفيذي ورئيس الاستشارات في SVX للاستشارات
