La Autoridad Nacional de Protección de Datos (ANPD) de Brasil rechazó recientemente un recurso de Meta, empresa propietaria de Facebook, que buscaba utilizar datos de usuarios brasileños para entrenar su Inteligencia Artificial (IA). Esta decisión pone de manifiesto preocupaciones significativas sobre la ética y la seguridad en el uso de datos para el desarrollo de IA
Marcell Rosa, Gerente General y Vicepresidente de Ventas en América Latina de Clevertap, alerta sobre los riesgos asociados al uso de datos recopilados de plataformas donde la desinformación y los ataques personales son comunes. "Cuando la IA aprende a partir de información sesgada y", muchas veces, perjudiciales, el riesgo es que estas máquinas no solo reproduzcan, pero amplifican comportamientos negativos y distorsionados, afirma Rosa
El problema adquiere dimensiones preocupantes cuando consideramos el contexto electoral brasileño. Durante las elecciones de 2022, el Tribunal Superior Electoral (TSE) informó haber recibido más de 500 alertas diarias sobre noticias falsas solo en la segunda vuelta
La principal preocupación es que la IA, entrenada con opiniones de personas comunes frecuentemente influenciadas por desinformación, puede replicar y amplificar patrones negativos. "La IA tiende a replicar el comportamiento humano", y cuando este comportamiento se caracteriza por polarización y falta de civismo, la tecnología inevitablemente refleja esas fallas, explica Rosa
La decisión de la ANPD se ve como un paso importante para garantizar el uso responsable y ético de datos en el entrenamiento de IA. "La privacidad de los usuarios y la integridad de la información son esenciales para el desarrollo de tecnologías que realmente beneficien a la sociedad", concluye Rosa
Este caso resalta la necesidad urgente de un enfoque más crítico y regulado sobre la recolección y uso de datos por las plataformas digitales, con el objetivo de proteger la integridad de la información y garantizar que el desarrollo de la IA se base en datos confiables y respetuosos
