Kecerdasan Buatan (IA) sering dianggap sebagai teknologi yang revolusioner, mampu memberikan efisiensi, presisi dan membuka peluang strategis baru. Namun, sementara perusahaan memanfaatkan keuntungan dari AI, muncul juga tantangan kritis dan, kadang-kadang, diabaikan: kesetaraan algoritmik. Bias tersembunyi dalam sistem ini dapat mengkompromikan tidak hanya efisiensi keputusan bisnis, tetapi menghasilkan konsekuensi hukum, etika dan sosial yang signifikan.
Kehadiran bias algoritmik dapat dijelaskan oleh sifat dari AI itu sendiri, terutama dalam pembelajaran mesin. Model dilatih dengan data historis, dan ketika data ini mencerminkan prasangka atau distorsi sosial, algoritma secara alami akan terus mempertahankan bias ini. Selain dari bias dalam informasi, algoritma itu sendiri dapat menyebabkan ketidakseimbangan dalam penimbangan faktor yang dilakukan, atau data yang digunakan sebagai proksi, artinya, data yang menggantikan informasi asli, tapi tidak ideal untuk analisis itu.
Sebuah contoh emblematis dari fenomena ini ditemukan dalam penggunaan pengenalan wajah, terutama dalam konteks sensitif seperti keamanan publik. Berbagai kota di Brasil telah mengadopsi sistem otomatis dengan tujuan meningkatkan efektivitas tindakan kepolisian, tetapi analisis menunjukkan bahwa algoritma ini sering melakukan kesalahan yang signifikan, terutama dalam mengidentifikasi individu dari kelompok etnis tertentu, seperti orang kulit hitam. Studi peneliti Joy Buolamwini, lakukan MIT, dikatakan bahwa algoritma komersial memiliki tingkat kesalahan di atas 30% untuk wanita kulit hitam, sementara untuk pria kulit putih, angka turun drastis menjadi kurang dari 1%
Legislasi Brasil: lebih ketat di masa depan
Di Brasil, além da Lei Geral de Proteção de Dados (LGPD) também está em tramitação o Marco Legal da IA (PL nº 2338/2023), yang menetapkan pedoman umum untuk pengembangan dan penerapan AI di negara tersebut.
Meskipun belum disetujui, proyek undang-undang ini sudah menunjukkan hak-hak yang harus dihormati oleh perusahaan, hak: hak atas informasi sebelumnya (memberitahukan ketika pengguna berinteraksi dengan sistem AI), hak untuk penjelasan atas keputusan otomatis, hak untuk membantah keputusan algoritmik dan hak untuk tidak didiskriminasi oleh bias algoritmik.
Poin-poin ini akan mengharuskan perusahaan untuk menerapkan transparansi dalam sistem AI generatif (misalnya, menjelaskan dengan jelas ketika sebuah teks atau jawaban dihasilkan oleh mesin) dan mekanisme audit untuk menjelaskan bagaimana model mencapai keluaran tertentu
Governansi algoritmik: solusi untuk bias
Untuk perusahaan, bias algoritmik melampaui ranah etika, menjadi masalah strategis yang relevan. Algoritma yang bias memiliki potensi untuk mendistorsi keputusan penting dalam proses internal seperti perekrutan, pemberian kredit dan analisis pasar. Misalnya, sebuah algoritma analisis kinerja cabang yang secara sistematis melebih-lebihkan daerah perkotaan mengorbankan daerah pinggiran (karena data yang tidak lengkap atau bias) dapat mengarah pada investasi yang salah arah. Begitu, ketersembunyian yang menggerogoti efektivitas strategi berbasis data, membuat eksekutif mengambil keputusan berdasarkan informasi yang sebagian salah
Bias ini dapat diperbaiki, tetapi akan bergantung pada struktur tata kelola algoritmik, dengan fokus pada keberagaman data yang digunakan, transparansi proses dan inklusi tim yang beragam dan multidisipliner dalam pengembangan teknologi. Dengan berinvestasi dalam keberagaman di tim teknis, misalnya, perusahaan dapat mengidentifikasi sumber bias potensial dengan lebih cepat, memastikan bahwa perspektif yang berbeda dipertimbangkan dan bahwa kesalahan terdeteksi lebih awal
Selain itu, penggunaan alat pemantauan terus-menerus sangat penting. Sistem-sistem ini membantu mendeteksi penyimpangan bias algoritmik secara real-time, memungkinkan penyesuaian cepat dan meminimalkan dampak negatif.
Transparansi adalah praktik penting lainnya dalam mitigasi bias. Algoritma tidak boleh berfungsi sebagai kotak hitam, tetapi sebagai sistem yang jelas dan dapat dijelaskan. Ketika perusahaan memilih untuk transparansi, mendapatkan kepercayaan dari pelanggan, investor dan regulator. Transparansi memudahkan audit eksternal, mendorong budaya tanggung jawab bersama dalam pengelolaan AI
Inisiatif lainnya mencakup adopsi kerangka kerja dan sertifikasi untuk tata kelola AI yang bertanggung jawab. Ini termasuk membentuk komite internal etika dalam AI, menetapkan kebijakan perusahaan untuk penggunaannya, dan mengadopsi standar internasional. Misalnya, frameworks como: a ISO/IEC 42001 (gestão de inteligência artificial, a ISO/IEC 27001 (segurança da informação) e ISO/IEC 27701 (privacidade) ajudam a estruturar controles nos processos de dados usados por IA generativa. Contoh lain adalah seperangkat praktik yang direkomendasikan oleh NIST (National Institute of Standards and Technology) AS yang mengarahkan manajemen risiko algoritmik, menutupi deteksi bias, verifikasi kualitas data dan pemantauan terus-menerus model
Konsultasi khusus memainkan peran strategis dalam skenario ini. Dengan keahlian dalam kecerdasan buatan yang bertanggung jawab, governansi algoritmik dan kepatuhan regulasi, perusahaan-perusahaan ini membantu organisasi tidak hanya untuk menghindari risiko, tetapi mengubah kesetaraan menjadi keunggulan kompetitif. Peran konsultan ini mencakup penilaian risiko yang mendetail, hingga pengembangan kebijakan internal, mengikuti pelatihan perusahaan tentang etika dalam AI, memastikan bahwa tim siap untuk mengidentifikasi dan mengurangi kemungkinan bias algoritmik
Dengan cara ini, mitigasi bias algoritmik bukan hanya langkah pencegahan, tetapi pendekatan yang strategis. Perusahaan yang peduli dengan keadilan algoritmik menunjukkan tanggung jawab sosial, memperkuat reputasi mereka dan melindungi diri dari sanksi hukum dan krisis publik. Algoritma yang tidak memihak cenderung memberikan wawasan yang lebih akurat dan seimbang, meningkatkan efektivitas keputusan bisnis dan memperkuat posisi kompetitif organisasi di pasar
Oleh Sylvio Sobreira Vieira, CEO & Kepala Konsultasi di SVX Consultoria
