בנק אמריקאי פיתח לאחרונה כלי שמבוסס על בינה מלאכותית לקביעת מסגרת אשראי. שני בני זוג הגישו בקשה לכרטיס אשראי, ואפילו שהיו להם אותם נתונים כלכליים, האישה קיבלה מסגרת אשראי נמוכה יותר מהגבר. מה הסיבה לכך?
כלי AI לרוב מפותחים על ידי גברים, ולא די בכך, הם גם מאומנים על מידע שקיים ברשת וסובל גם הוא מהטיות מגדריות לטובת גברים. התוצאה של שני התהליכים הללו היא לא רק תוצאות שלא לוקחות בחשבון נשים, אלא גם הרחקה של נשים מכלי AI, שעושות בהם הרבה פחות שימוש ביחס לגברים. המשוואה אם כן ברורה - אם יותר נשים יעסקו בפיתוח של כלי AI, אולי גם יותר נשים ישתמשו בהם בהתאם.
התופעה הזו מצטרפת לנתונים העגומים גם כך על שיעור הנשים בהייטק הישראלי, שעומד על 36% מכלל המועסקים, כך לפי דוח שפרסם מכון Rise (לשעבר SNPI). לפי הדוח, 60% מהנשים בהייטק מועסקות בתפקידי תפעול, ורק 28% מועסקות בתפקידים טכנולוגיים. המצב חמור אף יותר ספציפית בסקטור הבינה המלאכותית, ושיעור החוקרות העוסקות בתחום עומד על 20% בלבד.
לדברי אסתר ליאני-פלג, מנהלת פיתוח באמדוקס של מספר פלטפורמות מבוססות AI, הפער בין המגדרים מתבטא כאמור באחוז הנשים שמשתמשות בכלי בינה מלאכותית, כ-35% בלבד. "זה תחום של חיזוי ומחקר ולא תמיד התוצאות בו מדויקות, מה שכנראה מרחיק נשים", היא אומרת. עם זאת, היא עדיין אופטימית: מפני שאנחנו בתחילתה של מהפכה, ממילא כולנו נמצאים בשלב של למידה והגדרה מחדש של התפקידים בתחום המחקר והפיתוח בכלל - וזה זמן מעולה לשנות את הסטטוס קוו בכל הנוגע לאיזון מגדרי. "אנחנו מחפשים אנשים יצירתיים שמסוגלים להסתגל לשינויים בקלות ולהוביל אותם, שידעו למקסם את העבודה על כלי ה-AI, אך גם יבקרו אותם בצורה חכמה", היא מסבירה. "אני מאמינה שלנשים יש את החוזקות האלה, הובלה, יצירתיות, ירידה לפרטים ודיוק. עם זאת, מקומות עבודה חייבים לשים את ערך הגיוון בצוותים בעדיפות גבוהה על מנת לייצר מוצרים איכותיים יותר".
יעל קרוב, דירקטורית הנדסה (Director of Engineering) בגוגל AI, חולקת את האופטימיות של ליאני-פלג. קרוב עוסקת בתחום הבינה המלאכותית מעל ל-25 שנה, ולדבריה, עם הזמן הפער הולך וקטן. "בתחום ה-AI ספציפית הפער קטן מאשר בתחום האבטחה או בתשתיות תוכנה. כדי להמשיך ולצמצם אותו, צריך קודם לשבור את הסטיגמה שמדובר בתחום גברי, ולקרוא לסטודנטיות ולמהנדסות תוכנה לעסוק בו. בטכנולוגיה יש מגוון רחב של תפקידים: מחקר, פיתוח, בדיקות, ניהול מוצר ועוד. למישהי אנליטית ויצירתית תחום ה-AI יכול מאוד להתאים, כך שאני מציעה להסיר חסמים וחששות מהתנסות בעבודה בתחום".
אילו טיפים היית נותנת לחוקרת בתחילת דרכה שרוצה להשתלב בבינה מלאכותית?
"לנסות קורסים אונליין בתחום ה-Generative AI ולבדוק תתי תחומים שונים כדי להבין לאיזה תת-תחום היא הכי נמשכת. זה יכול להיות שימוש ב-AI עבור יצירה או הבנה של שפה, תמונה, סרטים, ארכיטקטורה, חיזוי, המלצות אישיות, ניתוח מידע ברשתות חברתיות, ובעצם כמעט כל דבר. אני ממליצה לנסות לחפש עבודה בתחום ולתעדף את זה על פני שיקולי נוחות כמו מיקום או שכר. כשצוברים ניסיון בתחום שמעניין אותך, נפתחות הרבה הזדמנויות חדשות, ואיתן מגיעה גם הנוחות".
סטייק לגבר, סלט לאישה
טליה בלום, מעצבת מוצר בחברת קונברג' של אינטל, עובדת בתחום ה-Generative AI כבר חמש שנים ומעידה כי כדי לייצר כלי בינה מלאכותית יעילים והוגנים, צריך לבחון כל צעד בעדשה אתית כבר בשלב הפיתוח. "המידע שמזין את מודלי ה-AI נאסף ברשת לאורך שנים, ולמרות המאמצים לקידום שוויון בעשורים האחרונים, המידע ההיסטורי מתבסס ברובו על נרטיב גברי. כתוצאה מכך, המודלים עצמם מפנימים הטיות מגדריות", היא מסבירה.
כדי להוכיח את הטענה הזאת, בלום יצרה יחד עם מעצבת המוצר מור זמיר, המעצבת נעה אילן והמתכנת אמתי קאופמן מיצג בשם "חווה ואדם" המוצג כעת במוזיאון העיצוב בחולון כחלק מתערוכת "שובר.ת שיוויון" העוסקת בקשר שבין עיצוב למגדר. המיצג משתמש בצ'אט GPT של חברת Open AI ונותן לו הנחיה לענות על כל שאלה פעמיים, פעם כגבר ופעם כאישה. את ההשפעה הגברית הברורה על המודל ניתן לראות בתשובות שהצ'אט נותן. לדוגמה, על השאלה "מה כדאי לאכול לארוחת צהריים?", הוא עונה "סטייק" כגבר ו"סלט" כאישה. על השאלה "מה לומדים בבית הספר?", הוא עונה "מתמטיקה" כגבר ו"ספרות" כאישה. כאשר נשאל "מה המשמעות של להיות הורה?", כגבר הוא נותן תשובה שעוסקת בצורך בפרנסה וביציבות, ורק לאחר מכן על האלמנטים הרגשיים בהורות, בעוד שכאישה הסדר הפוך.
בלום מעודדת נשים להעז ולהיכנס לתחום כדי לשנות את התמונה העגומה הזאת. "ה-AI מציע הזדמנות היסטורית לבנות מחדש כללי משחק שוויוניים ומכילים יותר בעולם הטכנולוגיה", היא אומרת. "אנחנו חייבות לקחת חלק פעיל בעיצוב עתיד הבינה המלאכותית כדי שהיא תשרת את הצרכים והאינטרסים של כולם, ולא רק של קבוצה מסוימת בחברה. נוכחות משמעותית של נשים בתהליכי הפיתוח והיישום של מערכות AI תבטיח שהמערכות האלה יתחשבו בערכים כמו שוויון, מגוון והכלה. בעולם שבו AI הופך לחלק מהותי מהחיים של כולנו, חובתנו כמפתחות היא להבטיח שזה יקרה בצורה מושכלת ואחראית".
"הבעיה של חוסר הוגנות והטייה של מודלי AI מוכרת וידועה. הסיבה להטייה אינה קשורה בהכרח לחוסר מסוגלות של נשים, אלא לעובדה שלנשים ניתנו פחות הזדמנויות בעבר. מודל AI שמתבסס על נתוני עבר ישקף את המציאות שהוא ראה בדאטא - ולכן עשוי להפלות נשים",מסבירה לובה אורלובסקי, החוקרת הראשית בתחום למידת מכונה ומחקר אלגוריתמים בחברת הפינטק ארניקס (Earnix), העוסקת בפיתוח טכנולוגיות AI לתמחור והתאמה אישית של מוצרים בענפי הביטוח והבנקאות. "כדי לפתור את הבעיה הזאת, תחום ההוגנות (fairness) בבינה מלאכותית הולך ומתפתח ונעשה משמעותי יותר ויותר, ולא רק בהקשר של מגדר אלא גם ביחס לשונות בגיל, במוצא אתני, נטיה מינית ועוד. המחויבות שלנו היא לאבחן את המודל, ואם צריך לתקן את ההטייה".
מפחדות מטכנולוגיות חדשות
"נשים פחות מגישות מועמדויות למשרות בתחומי הבינה המלאכותית, שנתפסות כמשרות יותר מאתגרות טכנולוגית. רק לאחרונה נתקלתי בזה אצלנו בחברה: פרסמנו משרה בתחום הבינה המלאכותית, וקיבלנו מעל 90% קורות חיים מגברים", אומרת הילה אמסלם, סמנכ"לית משאבי אנוש (HR) בחברת התוכנה גלאסבוקס (Glassbox), העוסקת בפתרונות לניתוח נתוני גלישה בערוצים דיגיטליים. "נשים חוששות יותר להיתפס כלא מקצועיות והן יותר הססניות באימוץ טכנולוגיות חדשות כמו בינה מלאכותית, דבר שמשפיע על השתלבותן והתקדמותן בתחום".
"כחלק מהאחריות שלנו בגלאסבוקס לשינוי, אנחנו מנהלים תהליכים פנים ארגוניים וחוץ ארגוניים במטרה לעודד יותר נשים, וגם גברים, להטמיע בעבודה השוטפת שימוש בבינה מלאכותית. אנחנו מנטרים את הכלים החדשים בשוק ורוכשים עבור מאות העובדים והעובדות שלנו רישיונות שימוש, אבל מקבלים באופן מובהק פחות בקשות לרשיונות מנשים מאשר מגברים", טוענת אמסלם. "במטרה לייצר את השינוי באופן פרואקטיבי בתוך החברה, שילבנו הכשרות פנימיות תוך טרגוט ספציפי של נשים, בתפקידים טכנולוגיים ולא טכנולוגיים, להשתתף בהן. כמו כן, שילבנו הכשרות AI בקורס פיתוח מנהלים ומנהלות, שמחויבים להציג לפחות תהליך AI אחד במסגרת הקורס. במקביל, אנחנו מניעים גם שינוי חוץ ארגוני ומשתפים פעולה עם מגוון רחב של ארגונים ועמותות שמקדמות שילוב נשים בהייטק כמו SheCodes, אחותי וצופן".