הטיות אלגוריתמיות הן אתגר עבור חברות בשילוב של בינה מלאכותית

הבינה המלאכותית (במ) נתפסת לעיתים קרובות כטכנולוגיה מהפכנית, יכול לספק יעילות, דיוק ופתיחת הזדמנויות אסטרטגיות חדשות. עם זאת, בעוד שהחברות נהנות מהיתרונות של הבינה המלאכותית, מופיעה גם אתגר קריטי ו, לפעמים, הוזנח: השוויון האלגוריתמי. הטיות חבויות במערכות אלו עשויות לפגוע לא רק ביעילות ההחלטות העסקיות, אבל ייצור תוצאות משפטיות, אתיות וחברתיות משמעותיות. 

הנוכחות של הטיות אלגוריתמיות יכולה להיות מוסברת על ידי הטבע של ה-AI עצמו, במיוחד בלמידת מכונה. מודלים מאומנים עם נתונים היסטוריים, וכשהנתונים הללו משקפים דעות קדומות או עיוותים חברתיים, האלגוריתמים באופן טבעי ממשיכים להנציח את ההטיות הללו. מלבד ההטיות במידע, האלגוריתם עצמו יכול להביא לחוסר איזון במשקל הגורמים שנעשה, או בנתונים שנעשה בהם שימוש כפרוקסי, זאת אומרת, נתונים שמחליפים את המידע המקורי, אבל הן לא אידיאליות לניתוח ההוא. 

דוגמה סמלים לתופעה זו נמצאת בשימוש בזיהוי פנים, במיוחד בהקשרים רגישים כמו ביטחון ציבורי. ערים שונות בברזיל אימצו מערכות אוטומטיות במטרה להגביר את היעילות של פעולות המשטרה, אבל ניתוחים מראים שהאלגוריתמים הללו לעיתים קרובות עושים טעויות משמעותיות, בעיקר כאשר מזהים אנשים מקבוצות אתניות ספציפיות, כמו אנשים שחורים. מחקרי החוקרת ג'וי בואלאמוויני, לעשות את MIT, הצביעו על כך שאלגוריתמים מסחריים מציגים שיעורי שגיאה מעל 30% עבור נשים שחורות, בעוד שגברים לבנים, המספר צונח דרסטית ליותר מ-1%

חקיקה ברזילאית: יותר קשיחות בעתיד

בברזיל, além da Lei Geral de Proteção de Dados (LGPD) também está em tramitação o Marco Legal da IA (PL nº 2338/2023), שקובע הנחיות כלליות לפיתוח ויישום של בינה מלאכותית במדינה. 

למרות שעדיין לא אושר, הצעת החוק הזו כבר מצביעה על זכויות שהחברות יידרשו לכבד, כמו: זכות למידע מראש (ליידע כאשר המשתמש מתקשר עם מערכת בינה מלאכותית), זכות להסבר על החלטות אוטומטיות, זכות לערער על החלטות אלגוריתמיות וזכות לאי-אפליה על ידי הטיות אלגוריתמיות. 

נקודות אלו ידרשו מהחברות ליישם שקיפות במערכות של בינה מלאכותית גנרטיבית, בהירות כאשר טקסט או תשובה נוצרו על ידי מכונה) ומנגנוני ביקורת כדי להסביר כיצד המודל הגיע לתוצאה מסוימת

ממשלתיות אלגוריתמית: הפתרון להטיות

לעסקים, ההטיות האלגוריתמיות חורגות מהתחום האתי, הופכים לבעיות אסטרטגיות רלוונטיות. אלגוריתמים מוטים יש להם את הפוטנציאל לעוות החלטות חיוניות בתהליכים פנימיים כמו גיוס, הענקת אשראי וניתוח שוק. למשל, אלגוריתם לניתוח ביצועי סניפים שמעריך באופן שיטתי אזורים עירוניים על חשבון אזורים פריפריאליים (בגלל נתונים חסרים או הטיות) יכול להוביל להשקעות לא ממוקדות. כך, גורמים סמויים פוגעים ביעילות של אסטרטגיות מונחות נתונים, גורם למנהלים לקבל החלטות המבוססות על מידע חלקית שגוי

ההטיות הללו יכולות להיות מתוקנות, אבל הם יהיו תלויים במבנה של ממשלה אלגוריתמית, עם דגש על מגוון הנתונים שנעשה בהם שימוש, שקיפות בתהליכים ובכללת צוותים מגוונים ורב-תחומיים בפיתוח טכנולוגי. בהשקעה במגוון בצוותים הטכניים, למשל, חברות מצליחות לזהות מהר יותר מקורות פוטנציאליים להטיה, מבטיחים שפרספקטיבות שונות יישקלו ושכישלונות יזוהו מוקדם

בנוסף לכך, שימוש בכלי ניטור מתמשך הוא חיוני. מערכות אלו מסייעות בזיהוי סטיות של הטיות אלגוריתמיות בזמן אמת, מאפשר התאמות מהירות וממזער את ההשפעה השלילית. 

שקיפות היא פרקטיקה נוספת חיונית בהפחתת הטיות. אלגוריתמים לא צריכים לפעול כמו קופסאות שחורות, אלא כמערכות ברורות ומוסברות. כאשר חברות בוחרות בשקיפות, זוכים באמון של לקוחות, משקיעים ומסדירים. שקיפות מקלה על ביקורות חיצוניות, מעודדים תרבות של אחריות משותפת בניהול הבינה המלאכותית

יוזמות נוספות כוללות הצטרפות למסגרות ולתעודות עבור ממשלת בינה מלאכותית אחראית. זה כולל הקמת ועדות פנימיות אתיות בתחום הבינה המלאכותית, להגדיר מדיניות ארגונית לשימושך, ואמץ סטנדרטים בינלאומיים. למשל, frameworks como: a ISO/IEC 42001 (gestão de inteligência artificial, a ISO/IEC 27001 (segurança da informação) e ISO/IEC 27701 (privacidade) ajudam a estruturar controles nos processos de dados usados por IA generativa. דוגמה נוספת היא קבוצת הפרקטיקות המומלצות על ידי NIST (המכון הלאומי לתקנים וטכנולוגיה) של ארה"ב המנחות את ניהול הסיכון האלגוריתמי, כיסוי גילוי הטיית, בדיקות איכות נתונים ומעקב מתמשך אחרי מודלים

יועצים מומחים ממלאים תפקיד אסטרטגי בתרחיש הזה. עם מומחיות בבינה מלאכותית אחראית, ממשלתיות אלגוריתמיות וציות רגולטורי, חברות אלו עוזרות לארגונים לא רק להימנע מסיכונים, אבל להפוך שוויון ליתרון תחרותי. הפעולה של יועצים אלה נעה בין הערכות מפורטות של סיכון, עד לפיתוח מדיניות פנימית, עובר הכשרות ארגוניות על אתיקה בבינה מלאכותית, מבטיחים שהצוותים יהיו מוכנים לזהות ולהפחית הטיות אלגוריתמיות אפשריות

בצורה זו, המיטוט של הטיות אלגוריתמיות אינו רק אמצעי מניעה, אלא גישה אסטרטגית. חברות שמתייחסות לשוויון אלגוריתמי מראות אחריות חברתית, מחזקים את המוניטין שלהם ומגנים על עצמם מפני סנקציות משפטיות ומשברים ציבוריים. אלגוריתמים לא משוחדים נוטים להציע תובנות מדויקות ומאוזנות יותר, מגביר את היעילות של ההחלטות העסקיות ומחזק את המיקום התחרותי של הארגונים בשוק

על סילביו סובריירה ויירה, מנכ"ל וראש ייעוץ של SVX Consultoria