האימוץ המהיר של אינטליגנציה מלאכותית גנרית (Gen IA) בחברות מחדש את התהליכים, מאפשר חידושים ומקדם אוטומציה. לפי מחקר עדכני של בלומברג אינטליג'נס, שיעור הצמיחה של הבינה המלאכותית בעשור הקרוב צפוי להיות 42% בשנה – כמעט מכפיל את טווחו. עם זאת, ההצלחה של הפתרונות הללו תלויה בניהול זהיר של הנתונים שמזינים את המודלים הללו. כאן נכנסת הסייבר אבטחה, אלמנט חיוני להגנה על הפרטיות ושלמות המידע
הבינה המלאכותית הגנרטיבית חורגת מהמודלים המסורתיים של אינטליגנציה מלאכותית, שפשוט מסווגים או צופים התנהגויות, כי יוצרת תכנים חדשים כמו טקסטים, תמונות וקודים. היכולת הזו לחדש פותחת אפשרויות חדשות במגוון תחומים, אך זה דורש גישה זהירה לגבי השימוש והביטחון של הנתונים וזה מוכר על ידי האנשים שמשתמשים בטכנולוגיה ביום יום. לפי הסקר של Developer Survey 2024 של Stack OverFlow, אחד האתגרים המרכזיים,5%) לעבוד עם בינה מלאכותית הוא عدم وجود מדיניות נכונה כדי להקטין את הסיכונים הביטחוניים.
במובן הזה, המנהל מוצר טכנייוחנן המטביל, אחראי על פלטפורמת StackSpot AI של Zup, הסבר שכדי להקל על הסיכונים הללו, החברות חייבות ליישם אמצעי אבטחה מחמירים, בהתחשב בכך שהפשעי סייבר הולכים ומתרקמים יותר ויותר ועד 2025 עשויים לעלות 10,5 טריליון דולר, על פי האלקטור של אבטחת סייבר.
להבטיח שמודלים של בינה מלאכותית פועלים בצורה בטוחה ואתית דורש גישה רב-ממדית, שמשלב קריפטוגרפיה חזקה, ממשלת נתונים יעילה, פרקטיקות פרטיות מחמירות ובקרות גישה מוגבלות במהלך האימון של המודלים. אם נעשה חיתוך לחברות שמפתחות טכנולוגיה, having an AI-powered software development assistant trained in security can support the team to ensure that the code follows secure coding best practices. זה, למשל, זהו מנגנון חיזוי לזיהוי פגיעות. כל פעם יותר, הדרך היא לחשוב על אסטרטגיה משותפת שמתחשבת בחדשנות, אבטחה והגנה על נתונים כשלישייה חיונית ליישום סוג זה של טכנולוגיה, מדגיש יוחנן המטביל
במה שנוגע לחקיקה, אנריקה פלורס, מייסד שותף של קונטרקטור ומוביל הפיתוח של CK Reader, בינה מלאכותית של הסטארטאפ, הסבר ש"בעודנו ממתינים לחוק שיסדיר טוב יותר את השימוש ב-I.א. גנרטיבית, חובה על אנשי המקצוע בתחום הטכנולוגיה לדאוג ליישום של פרקטיקות טובות בתחום ההצפנה, אנונימיזציה של נתונים ומדיניות ממשלתית של ט.אני. שיכולים להבטיח את האיזון בין האינטרסים המסחריים של הצדדים, שקיפות במנגנוני האימון של אלגוריתמים והשימוש האתי במניפולציה של נתונים.
אם כי אני מכיר בכך שחדשנות עם טכנולוגיות מתפתחות, כיצד האינטליגנציה המלאכותית הגנרטיבית, תהיה הזדמנות ייחודית לשינוי, ג'ובנה רוסי, CPO של Rethink, ייעוץ טכנולוגי, עיצוב ואסטרטגיה, מחזק שזה לא ניתן להכחיש שהיא מגיעה עם סיכונים משמעותיים, כיצד חשיפת מידע רגיש ואפשרות של התקפות סייבר מתקדמות. "כאחראי על תחום המוצרים הדיגיטליים", אני רואה כמה חשוב שההנהגה תעדיף גישה אסטרטגית בשימוש בבינה מלאכותית כדי להקל על סיכונים כאלה. יש לנו את האחריות לעצב את הטכנולוגיה הזו בצורה אתית ובטוחה, מבטיחים שההשפעה שלכם תהיה חיובית ובר קיימא עבור כולם, אומרת המנהלת.
ברזיל יש נפח גבוה של נתונים שמסתובבים באינטרנט ותהליך דיגיטציה מואץ. בנוגע להגנת מותג, דייגו דמינלי, מנכ"ל BrandMonitor, חברה חלוצה ומומחית במאבק נגד תחרות לא הוגנת בסביבה הדיגיטלית, ההתרעה היא שהתשתית לביטחון בברזיל עדיין מתקדמת בצעדים איטיים, הופך את המדינה לאחד היעדים הגדולים ביותר של מתקפות סייבר בעולם, עם רמות גבוהות יותר של sophistication מההתקפות מצד הפושעים. "התרבות של ביטחון עדיין היא נושא שלא מוערך מספיק על ידי חברות רבות", שלא משתמשות בבינה מלאכותית אלא בטכנולוגיות מיושנות, שיכולים להשאיר אותן פגיעות להתקפות ואינן מסוגלות לנטר את הנוכחות הדיגיטלית של המותג בכל היקפה
המומחה נותן את הדוגמה שלפישינג, בעיה גדולה עבור מגזרים כמו קמעונאות ושירותים. "הפרסומות משודרות בפלטפורמות דיגיטליות תוך שימוש בכל הזהות של מותג ומבטיחות הנחות לא מעשיות". ההודעה הזו מובילה לדף שמחקה את העיצוב הרשמי של החברה, אבל עם כתובת שונה. בעמוד הזה מוצעים מוצרים או שירותים במחיר נמוך מאוד, מניעת הלקוח לרכישה, מסיים
