Með hraðri þróun gervigreindar, reglugerandi notkun gervigreindar hefur orðið að miðlægu og brýnu málefni í Brasilíu. Nýja tækniin hefur gríðarlegan möguleika til að nýsköpun og umbreyta ýmsum geirum, en einnig vekja upp gagnrýnar spurningar um siðferði, gegnd og stjórnsýsla. Íslensk samhengi, þar sem stafræna umbreytingin gengur hratt áfram, að finna jafnvægi milli nýsköpunar og viðeigandi reglugerðar er grundvallaratriði til að tryggja sjálfbæran og ábyrgan þróun gervigreindar
Í viðtali sem er aðeins fyrir þig, Samir Karam, COO hjá Performa_IT, býður upp á dýrmæt greiningu á áskorunum og nýjum lausnum í reglugerð um gervigreind, að leggja áherslu á mikilvægi jafnvægis milli nýsköpunar og siðfræði í tæknigeiranum
Reglugerun um AI á Brasil er enn í uppbyggingarferli, sem erfiðleika og tækifæri. “Á hinn bóginn, reglugerðin skapar skýrari leiðbeiningar fyrir ábyrga notkun tækni, tryggja meginreglur eins og gegnsæi og siðferði. Á hinn bóginn, það er hætta á of mikilli skrifræði, hvað getur hægð á nýsköpun. Jafnvægið milli reglugerðar og frelsis til að nýsköpun er nauðsynlegt til að Brasilía haldi samkeppnishæfni sinni á alþjóðavettvangi,byrjar Samir Karam, COO hjá Performa_IT – fyrirtækiveitandi fullrar þjónustutæknilausna, vísir í stafrænum umbreytingum og gervigreind
Shadow AIogDeepfakes: Áhætta og lausnir
Eitt vandræðalegasta hugtakið sem Samir Karam hefur fjallað um er að „skugga gervigreind“, sem að vísa til notkunar gervigreindar innan stofnunar án viðeigandi stjórnunar eða eftirlits. Þessi framkvæmd getur leitt til ýmissa vandamála, eins og gagnaleka, skekktar ákvarðanir og öryggisáhætta
Til dæmis, ímyndaðu þér markaðsteymi sem notar gervigreindartæki til að greina hegðun neytenda án samþykkis frá upplýsingatæknideildinni eðasamræmi. Auk þess að setja fyrirtækið í lögfræðilega áhættu, ónotuð notkun þessarar tækni getur leitt til óviðeigandi söfnunar og greiningar á viðkvæmum gögnum, að brjóta gegn friðhelgi notenda
Önnur senna er þróun gervigreindar-algoritma fyrir ráðningarákvarðanir, að án viðeigandi eftirlits geta endurtekið ómeðvitaða skekkju sem er til staðar í þjálfunargögnum, sem að leiða til óréttmætum og mismunandi ákvörðunum
Eins og í tilfelli djúpmynda, þar sem myndbönd eða hljóð sem búin eru til nota gervigreind til að breyta myndum, hljóð og hreyfingar manneskju, láta að virðast segja eða gera eitthvað sem, í rauninni, aldrei gerðist. Þessi tækni getur verið notuð á illgjarnan hátt til að dreifa rangfærslum, að svindla á auðkennum og valda skaða á mannorði einstaklinga
Lausnirnar fyrirskugga AIogdjúpfalsanirfara göngum að þróa öflugar stefnumótunarreglur um gervigreindarstjórnunar, samkvæmt Samir Karam, COO hjá Performa_IT
Þessar stefnur fela í sér framkvæmd reglulegra endurskoðana, til að tryggja að gervigreindarvenjur séu í samræmi við siðferðis- og gegnsæisreglur stofnunarinnar. Auk þess, það er nauðsynlegt að nota verkfæri sem greina óleyfilegar athafnir og fylgjast stöðugt með AI kerfunum til að koma í veg fyrir misnotkun og tryggja öryggi gagna.”
Samir leggur áherslu á að, án þessara aðgerða, ónotkun óstjórnunar á gervigreind getur ekki aðeins skaðað traust neytenda, en einnig að setja stofnanir í alvarlegar lagalegar og orðsporslegar afleiðingar
Falsfréttirog siðferðilegar áskoranir í gervigreind
Miðlun áfalsfréttirsköpun af gervigreind er önnur vaxandi áhyggjuefni. „ÞAÐbarátta gegn falskum fréttum sem eru framleiddar af gervigreind krefst samblands af tækni og menntunSjálfvirkar athugunarverkfæri, mynsturgreining í myndum og textum, auk þess að merkingu á efni sem er búið til af gervigreind, eru mikilvæg skref. En líkavið þurfum að fjárfesta í vitundarvakningu almennings, kenna að bera kennsl á áreiðanlegar heimildir og að efast um vafasamt efni segir Samir
Að tryggja gegnsæi og siðferði í þróun gervigreindar er einn af stoðum sem Samir stendur fyrir. Hann bendir áherslu á aðnokkrar af bestu venjumunum felur í sér að taka upp skýran líkön (XAI – Skýranlegur gervigreind, óður sjálfstæðar, notkun fjölbreyttra gagna til að forðast skekkju og stofnun siðanefnda í gervigreind.”
Ein af helstu öryggisáhyggjum tengdum gervigreind eru flóknar árásir, semvefveiðar – tækni til árásar þar sem glæpamenn reyna að blekkja einstaklinga til að afhjúpa trúnaðarupplýsingar, eins og lykilorð og bankaupplýsingar, að fela sig sem traustar aðila í stafrænum samskiptum. Þessir árásir geta verið enn flóknari þegar þær eru sameinaðar gervigreind, að búa til tölvupósta og skilaboð sem eru erfið að greina frá raunverulegum. Til að draga úr þessum áhættum, Samir leggur til aðégrunnvallandi að fjárfesta í lausnum fyrir greiningu byggðum á gervigreind, innleiða fjölþátta auðkenningu og tryggja að gervigreindarlíkön séu þjálfuð til að greina og draga úr tilraunum til að manipúlera.”
Samvinna fyrir árangursríkar gervigreindarstefnur
Samstarf milli fyrirtækja, stjórnvöld og akademía eru nauðsynleg fyrir mótun árangursríkra stefna um gervigreind. Samir undirstrikar aðgervi áhrif á ýmsa geira, því þarf reglugerðin að vera byggð upp á samstarfsgrundvelli. Fyrirtæki koma með hagnýta sýn á notkun tækni, stjórnir setja öryggis- og persónuverndarlínur, meðan háskólinn leggur fram rannsóknir og aðferðir til að stuðla að öruggara og siðlegra þróun.”
Fjölbreytni gervigreindar þýðir að áhrif hennar og notkun eru mjög mismunandi milli mismunandi geira, frá heilbrigðis til menntunar, ferðir um fjármál og opinbera öryggi. Af þessum sökum, sköpun árangursríkra stefna krefst samþætts nálgunar sem tekur tillit til allra þessara breyta
Fyrirtækieru grundvallaratri í þessu ferli, því þær eru þær sem innleiða og nota gervigreind í stórum stíl. Þær veitainnsýn sobre as necessidades do mercado, praktískir áskoranir og nýjustu tækninýjungar. Framlagning einkageirans hjálpar til við að tryggja að stefna um gervigreind sé framkvæmanleg og viðeigandi í raunverulegu samhengi
Ríkisstjórnir, að sínum tíma, bera ábyrgð á því að setja leiðbeiningar sem vernda borgarana og tryggja siðferði í notkun gervigreindar. Þeir búa til reglugerðir sem taka á öryggismálum, privat líf og mannréttindi. Auk þess, stjórnvöld geta auðveldað samvinnu milli mismunandi hagsmunaaðila og stuðlað að fjármögnunaráætlunum fyrir rannsóknir í gervigreind
Akademíaner þriðja nauðsynlega parturinn í þessu púsluspili. Háskólarnir og rannsóknarstofnanirnar veita traustan fræðilegan grunn og þróa nýjar aðferðir til að tryggja að gervigreindin sé þróuð á öruggan og siðferðilegan hátt. Akademísk rannsóknir gegna einnig mikilvægu hlutverki við að bera kennsl á og draga úr skekkjum í gervigreindaralgoritmum, að tryggja að tækni sé sanngjörn og réttlát
Þetta þríhliða samstarf gerir kleift að stefna um gervigreind sé traust og aðlögunarhæf, að fjalla um bæði kosti og áhættu tengda notkun tækni. Praktískt dæmi um þetta samstarf má sjá í opinberum-einkaaðilum samstarfsáætlunum, þar sem fyrirtæki í tækni vinna saman með akademískum stofnunum og ríkisstofnunum til að þróa AI lausnir sem virða öryggis- og persónuverndarskilyrði
Samir bendir að, án þessarar samstarfsleiðar, það er hætta á að skapa reglugerðir sem séu ótengdar raunveruleikanum eða sem hindri nýsköpun. Það er nauðsynlegt að finna jafnvægi milli reglugerðar og frelsis til að nýsköpun, þannig að við getum hámarkað ávinninginn af gervigreindinni á meðan við minnkum áhættuna,”lokar
Goðsögn um gervigreind
Í núverandi aðstæðum, hvar gervigreind (GA) er sífellt meira til staðar í okkar daglega lífi, margir goðsagnir og misskilningar koma upp um starfsemi þess og áhrif þess
Til að skýra, að afmá þessar punkta, og lokið viðtalið, Samir Karam svaraði ýmsum spurningum í ping-pong formi, að fjalla um algengustu goðin og veitainnsýndýrmæt um raunveruleika gervigreindar
- Hver eru algengustu goðin um gervigreind sem þú finnur og hvernig útskýrirðu þau
Einn af stærstu goðsögnum er að gervigreind sé ómótstæðileg og algjörlega hlutlaus. Í rauninni, hún endurspeglar gögnin sem hún var þjálfuð með, og ef það séu skekkjur í þessum gögnum, gervandi getur endurtekið þá. Önnur algengur goðsögn er að gervigreind þýði fullkomna sjálfvirkni, þegar, í rauninni, margarð er aðeins aðstoðarmenn við ákvarðanatöku
- Gervi getur raunverulega komið í stað allra mannlegra starfa? Hver er raunveruleikinn um þetta
Gervi mun ekki koma í staðinn fyrir öll störf, en munu breyta mörgum þeirra. Nýjar aðgerðir munu koma fram, krafandi að fagmenn þrói nýja hæfileika. Sennarið sem líklegast er, er samstarf milli manna og gervigreindar, þar sem tækni sjálfvirknar endurteknar verkefni og menn einbeita sér að því sem krefst sköpunargáfu og gagnrýninnar dómgreindar
- Er það satt að gervigreind geti orðið meðvituð og ráðist á mannkynið, eins og við sjáum í vísindaskáldskaparmyndum
Í dag, ekki er neinar vísindalegar sannanir fyrir því að gervigreind geti orðið meðvituð. Núverandi nútíma eru háþróaðar tölfræðilegar verkfæri sem vinna úr gögnum til að framleiða svör, en nema neina formi af vitsmun eða eigin vilja
- Allar gervi eru hættuleg eða geta verið notuð í skaðlegum tilgangi? Hvað ættum við að vita um þetta
Eins og hvaða tækni sem er, gervi getur verið notaður til góðs eða ills. Hættan liggur ekki í gervigreindinni sjálfri, en notkun sem gerð er af henni. Þess vegna, reglugerðin og ábyrg notkun eru svo mikilvæg
- Það er til sú skynjun að gervigreindin sé ómótstæðileg. Hver eru raunveruleg takmörk gervigreindar
Gervi getur gert mistök, aðallega þegar þjálfað er með takmörkuðum eða skekktum gögnum. Auk þess, IA módeli geta auðveldlega verið blekkt af andstæðum árásum, þar sem litlar aðgerðir á gögnum geta leitt til óvæntra niðurstaðna
- Er er ein tímabundin tískuskapur eða er það tækni sem kom til að vera
IA kom að vera. Þinn áhrif eru sambærileg við rafmagn og internetið. Engu skiptir máli, þróun þín er í stöðugri þróun, og við munum enn sjá margar breytingar á næstu árum
- Gervir kerfi eru raunverulega fær um að taka algerlega hlutlausar ákvarðanir? Hvernig fordómar geta haft áhrif á reikniritin
Engin ekkert gervigreind er algerlega hlutlaus. Ef aðgöngugögnin sem notuð voru til að þjálfa hana innihalda skekkju, niðurstöðurnar munu einnig vera skekktar. Það er best að fyrirtæki taki upp aðferðir til að draga úr skekkjum og framkvæmi stöðugar úttektir
- Öll AI forrit fela í sér eftirlit og söfnun persónuupplýsinga? Hvað ættu fólk að vita um friðhelgi og gervigreind
Ekki öll gervigreind felur í sér eftirlit, en þó er gagnaöflun raunveruleiki í mörgum forritum. Það mikilvægasta er að notendur viti hvaða gögn eru safnað og hafi stjórn á því. Skýringin og samræmi við löggjöf eins og LGPD (Lög um vernd persónuupplýsinga) og GDPR (Almenn reglugerð um vernd persónuupplýsinga – Almennar reglur um persónuvernd gagnvart gögnum í Evrópusambandinu eru grundvallaratriði
