Yapay Zeka (YZ) sıklıkla devrim niteliğinde bir teknoloji olarak görülmektedir, verimlilik sağlayabilen, kesinlik ve yeni stratejik fırsatlar açmak. Ancak, şirketler yapay zekanın avantajlarından yararlanırken, aynı zamanda kritik bir zorluk da ortaya çıkıyor ve, bazen, ihmal edilmiş: algoritmik eşitlik. Bu sistemlerdeki gizli önyargılar, yalnızca işletme kararlarının etkinliğini tehlikeye atmakla kalmayabilir, ama yasal sonuçlar doğurmak, anlamlı etik ve sosyal.
Algoritmik önyargıların varlığı, yapay zekanın doğasıyla açıklanabilir, özellikle makine öğreniminde. Modeller geçmiş verilerle eğitilir, ve bu veriler önyargıları veya sosyal çarpıtmaları yansıttığında, algoritmalar doğal olarak bu önyargıları sürdürmeye devam ediyor. Bilgilerdeki önyargıların yanı sıra, kendi algoritması, gerçekleştirilen faktörlerin ağırlıklandırılmasında bir dengesizlik getirebilir, veya proxy olarak kullanılan veriler, yani, orijinal bilgilerin yerini alan veriler, ama o ideal değil o analiz için.
Bu fenomenin sembolik bir örneği yüz tanıma kullanımında bulunur, özellikle kamu güvenliği gibi hassas bağlamlarda. Brezilya'nın çeşitli şehirleri, polis eylemlerinin etkinliğini artırmak amacıyla otomatik sistemler benimsemiştir, ancak analizler bu algoritmaların sıklıkla önemli hatalar yaptığını göstermektedir, özellikle belirli etnik gruplardan bireyleri tanımlarken, siyah insanlar gibi. Araştırmacı Joy Buolamwini'nin çalışmaları, MIT yap, ticari algoritmaların siyah kadınlar için %30'un üzerinde hata oranları gösterdiği belirtildi, beyaz erkekler için, oran düşer ve %1'in altına iner
Brezilya yasası: gelecekte daha fazla katılık
Brezilya'da, além da Lei Geral de Proteção de Dados (LGPD) também está em tramitação o Marco Legal da IA (PL nº 2338/2023), ülkede yapay zekanın geliştirilmesi ve uygulanması için genel ilkeleri belirler.
Henüz onaylanmamış olsa da, bu yasa tasarısı, şirketlerin saygı göstermesi gereken hakları zaten işaret ediyor, önceden bilgi alma hakkı (kullanıcının bir yapay zeka sistemiyle etkileşimde bulunduğunda bilgilendirilmesi), otomatik kararların açıklanma hakkı, algoritmik kararları itiraz etme hakkı ve algoritmik önyargılardan ayrımcılık yapmama hakkı.
Bu noktalar, şirketlerin üretken yapay zeka sistemlerinde şeffaflık sağlamasını gerektirecektir örneğin, metin veya yanıtın makine tarafından üretildiğini açıkça belirtmek) ve modelin belirli bir sonuca nasıl ulaştığını açıklamak için denetim mekanizmaları
Algoritmik yönetişim: önyargılar için çözüm
Şirketler için, algoritmik önyargılar etik alanın ötesine geçiyor, stratejik olarak önemli sorunlar haline gelirler. Önyargılı algoritmalar, işe alım gibi iç süreçlerde temel kararları çarpıtma potansiyeline sahiptir, kredi verme ve piyasa analizi. Örneğin, şubelerinin performans analizi için bir algoritmanın, eksik veriler veya önyargılar nedeniyle kentsel bölgeleri sistematik olarak abartması, çevre bölgeleri aleyhine yanlış yönlendirilmiş yatırımlara yol açabilir. Böylece, gizli önyargılar veri odaklı stratejilerin etkinliğini zayıflatır, yöneticilerin kısmen yanlış bilgilere dayalı kararlar almasını sağlamak
Bu önyargılar düzeltilebilir, ancak bir algoritmik yönetişim yapısına bağlı olacaklar, veri çeşitliliğine odaklanarak, süreçlerin şeffaflığı ve teknolojik gelişimde çeşitli ve çok disiplinli ekiplerin dahil edilmesi. Teknik ekiplerde çeşitliliğe yatırım yaparken, örneğin, şirketler potansiyel önyargı kaynaklarını daha hızlı tanımlayabiliyor, farklı bakış açıların dikkate alındığından ve hataların erken tespit edildiğinden emin olmak
Ayrıca, sürekli izleme araçlarının kullanımı temeldir. Bu sistemler, algoritmik önyargı kaymalarını gerçek zamanlı olarak tespit etmeye yardımcı olur, hızlı ayarlamalar yapmayı mümkün kılarak olumsuz etkiyi en aza indirme.
Şeffaflık, önyargıların azaltılmasında başka bir temel uygulamadır. Algoritmalar kara kutular gibi çalışmamalıdır, amaçlar net ve açıklanabilir sistemler olarak. Şirketler şeffaflığı tercih ettiğinde, müşterilerin güvenini kazanıyorlar, yatırımcılar ve düzenleyiciler. Şeffaflık, dış denetimleri kolaylaştırır, AI yönetiminde paylaşılan sorumluluk kültürünü teşvik etme
Diğer girişimler, sorumlu yapay zeka yönetimi için çerçevelere ve sertifikalara katılmayı içermektedir. Bu, yapay zeka alanında iç etik komiteleri oluşturmayı içerir, şirket içi kullanım için politikalar belirlemek, ve uluslararası standartları benimsemek. Örneğin, frameworks como: a ISO/IEC 42001 (gestão de inteligência artificial, a ISO/IEC 27001 (segurança da informação) e ISO/IEC 27701 (privacidade) ajudam a estruturar controles nos processos de dados usados por IA generativa. Bir diğer örnek, ABD'deki NIST (Ulusal Standartlar ve Teknoloji Enstitüsü) tarafından önerilen ve algoritmik risk yönetimini yönlendiren en iyi uygulamalar setidir, önyargı tespiti kapsama, veri kalite kontrolleri ve sürekli model izleme
Uzman danışmanlıklar bu senaryoda stratejik bir rol oynamaktadır. Sorumlu yapay zeka konusunda uzmanlık, algoritmik yönetişim ve düzenleyici uyum, bu şirketler, organizasyonların sadece risklerden kaçınmalarına yardımcı olur, ancak eşitliği rekabet avantajına dönüştürmek. Bu danışmanlıkların faaliyetleri, ayrıntılı risk değerlendirmelerinden başlamaktadır, iç politikaların geliştirilmesine kadar, kurumsal yapay zeka etiği eğitimlerinden geçiyor, takımların olası algoritmik önyargıları tanımlayıp hafifletmek için hazırlıklı olmalarını sağlamak
Bu şekilde, algoritmik önyargıların hafifletilmesi sadece bir önleyici önlem değildir, ama bir stratejik yaklaşım. Algoritmik eşitlik konusunda duyarlı olan şirketler sosyal sorumluluk gösterir, itibarlarını güçlendirir ve yasal yaptırımlar ile kamu krizlerine karşı kendilerini korurlar. Tarafsız algoritmalar daha doğru ve dengeli içgörüler sunma eğilimindedir, işletme kararlarının etkinliğini artırarak ve organizasyonların pazardaki rekabetçi konumunu güçlendirerek
Sylvio Sobreira Vieira tarafından, SVX Danışmanlık CEO'su ve Baş Danışmanı
