L'Autorité nationale de protection des données (ANPD) du Brésil a récemment rejeté un recours de Meta, entreprise propriétaire de Facebook, qui cherchait à utiliser des données d'utilisateurs brésiliens pour entraîner son Intelligence Artificielle (IA). Cette décision met en évidence des préoccupations significatives concernant l'éthique et la sécurité dans l'utilisation des données pour le développement de l'IA
Marcell Rosa, Directeur Général et Vice-Président des Ventes en Amérique Latine chez Clevertap, alerte sur les risques associés à l'utilisation de données collectées sur des plateformes où la désinformation et les attaques personnelles sont courantes. Lorsque l'IA apprend à partir d'informations biaisées et, souvent, préjudiciables, le risque est que ces machines ne reproduisent pas seulement, mais amplifient des comportements négatifs et déformés, affirme Rosa
Le problème prend des dimensions préoccupantes lorsque nous considérons le contexte électoral brésilien. Lors des élections de 2022, la Cour Suprême Électorale (TSE) a rapporté avoir reçu plus de 500 alertes quotidiennes sur les fake news uniquement au second tour
La principale préoccupation est que l'IA, entraînée avec les opinions de personnes ordinaires souvent influencées par la désinformation, peut reproduire et amplifier des schémas négatifs. L'IA tend à reproduire le comportement humain, et quand ce comportement est caractérisé par la polarisation et le manque de civisme, la technologie reflète inévitablement ces défauts, explique Rosa
La décision de l'ANPD est considérée comme un pas important pour garantir l'utilisation responsable et éthique des données dans l'entraînement de l'IA. "La vie privée des utilisateurs et l'intégrité de l'information sont essentielles au développement de technologies qui bénéficient réellement à la société", conclut Rosa
Ce cas souligne la nécessité urgente d'une approche plus critique et régulée concernant la collecte et l'utilisation des données par les plateformes numériques, visant à protéger l'intégrité de l'information et à garantir que le développement de l'IA soit basé sur des données fiables et respectueuses
