Institut Perlindungan Konsumen (Idec) menyatakan keprihatinan mendalam terhadap kemunduran yang dimasukkan dalam teks baru Rancangan Undang-Undang 2.338/2023, diumumkan hari ini (3), yang mengatur penggunaan kecerdasan buatan di Brasil. Setiap versi baru dari teks tersebut melemahkan mekanisme perlindungan bagi warga negara dan memperluas keselarasan dengan kepentingan perusahaan teknologi besar, dengan mengorbankan hak-hak rakyat dan kedaulatan nasional
Risiko meningkat dengan kata-kata baru
Usulan saat ini secara drastis mengurangi perlindungan untuk mengurangi dampak negatif dari sistem kecerdasan buatan. Di antara poin-poin peringatan utama, kami menyoroti
Memfasilitasi penipuan di media sosial
Penghapusan klasifikasi sistem distribusi konten skala besar sebagai berisiko tinggi mendukung proliferasi penipuan, penipuan dan disinformasi. Ini merupakan kemunduran dalam perlindungan konsumen dan integritas lingkungan digital
Melemahkan perlawanan terhadap eksploitasi seksual anak
Versi baru dari teks tersebut memiliki kekosongan yang menyulitkan pertanggungjawaban sistem AI yang digunakan untuk memproduksi dan menyebarkan konten terkait eksploitasi seksual anak. Perubahan tersebut dapat menyulitkan pertanggungjawaban perusahaan atau pengembang yang berkontribusi secara tidak langsung terhadap penciptaan atau penyebaran konten ini, jika RUU disetujui
Penilaian risiko hanya sebagai “praktik baik”
Teks tersebut mempertahankan penggantian kewajiban untuk melakukan penilaian risiko awal dengan sekadar rekomendasi praktik baik, apa yang mengosongkan kapasitas pengawasan dan pengendalian kerusakan sebelum mereka terjadi
Kurangnya regulasi skor kredit
Permanennya pengabaian terhadap penilaian kredit sebagai aktivitas berisiko tinggi mengabaikan dampak negatif yang dapat ditimbulkan oleh sistem otomatis terhadap kehidupan keuangan konsumen, terutama yang paling rentan dan terjebak utang
Dukungan dari perusahaan teknologi besar dan kurangnya komitmen dari badan legislatif
Jelas bahwa, setiap versi baru dari proyek, semakin banyak hak yang dicabut dan semakin besar dukungan dari perusahaan teknologi besar terhadap teks tersebut. Ini mencerminkan kekuatan lobi perusahaan-perusahaan tersebut, yang telah berhasil membentuk RUU untuk menguntungkan kepentingan komersial mereka
sementara itu, Senat Federal menunjukkan suatu kelalaian yang mengkhawatirkan terhadap sektor industri sementara mengabaikan seruan masyarakat yang berusaha melindungi mereka yang paling membutuhkan. Sikap ini mengorbankan kedaulatan nasional dan menyerahkan masa depan regulasi kecerdasan buatan di Brasil ke tangan sektor swasta
Apa yang dipertaruhkan
PL 2.338/2023, seperti adanya, kegagalan dalam membangun struktur regulasi yang kuat dan seimbang, yang melindungi hak-hak warga negara dan mempromosikan pengembangan teknologi yang bertanggung jawab. Regulasi kecerdasan buatan harus memprioritaskan keamanan, privasi dan martabat penduduk, dan tidak menjadi surat izin untuk keuntungan tanpa batas dari perusahaan teknologi besar
Idec mengajak para anggota parlemen untuk segera meninjau kembali teks proyek tersebut, mengutamakan kepentingan publik di atas tekanan eksternal. Tanpa ini, Brasil berisiko diubah menjadi laboratorium untuk eksperimen teknologi yang tidak teratur, dengan dampak yang menghancurkan bagi hak asasi manusia dan kedaulatan negara
