Þjóðarverndarskrifstofa Brasilíu (ANPD) hafnaði nýlega áfrýjun frá Meta, eignar fyrirtæki Facebook, sem að leita að því að nota gögn frá brasílískum notendum til að þjálfa gervigreind sína. Þetta ákvörðun setur fram verulegar áhyggjur um siðferði og öryggi við notkun gagna við þróun gervigreindar
Marcell Rosa, Aðalstjóri og varaformaður söludeildar í Suður-Ameríku hjá Clevertap, viðvörun um áhættuna sem tengist notkun gagna sem safnað er frá vettvangi þar sem rangar upplýsingar og persónuárásir eru algengar. Þegar gervigreindin lærir af skekktum upplýsingum og, oftast, skaðlegar, hætta er að þessar vélar ekki aðeins endurtaki, en amplífera neikvæð og skekkt hegðun, segir Rosa
Vandamálið fær áhyggjuefni þegar við lítum á brasilíska kosningasamfélagið. Á meðan kosningarnar fóru fram árið 2022, Hæstiréttur kosninga (TSE) greindi frá því að hafa fengið meira en 500 daglegar viðvaranir um falskar fréttir aðeins í seinni umferðinni
A aðal áhyggjuefnið er að AI, þjálfuð með skoðunum almennings sem oft er áhrifum af rangfærslum háð, getur að endurtaka og magna neikvæð mynstur. "AI hefur tilhneigingu til að endurtaka mannlegt hegðun", og þegar þetta hegðun er einkennd af pólun og skorti á siðmenningu, tækni endanlega endurspeglar þessar villur, útskýra Rósu
Ákvörðun ANPD er talin mikilvægur skref til að tryggja ábyrga og siðferðilega notkun gagna við þjálfun gervigreindar. Notkunarvernd notenda og heilleiki upplýsinga eru grundvallaratriði fyrir þróun tækni sem raunverulega nýtist samfélaginu, lokar Rosa
Þetta tilfelli undirstrikar brýna þörf fyrir gagnrýnni og reglufestu nálgun á söfnun og notkun gagna af stafrænum vettvangi, með það að markmiði að vernda heilleika upplýsinganna og tryggja að þróun gervigreindar sé byggð á áreiðanlegum og virðulegum gögnum
