כשהבינה המלאכותית מוחקת גיבורות: איך זה משפיע על הדמיון שלנו?
מחקר מגלה: סיפורים שנוצרים על ידי בינה מלאכותית כמעט ולא כוללים דמויות נשיות. איך ההטיות האלו מעצבות את הדמיון הקולקטיבי ואת הרווחה הנפשית?
הקדמה: לאן נעלמו הגיבורות בסיפורי הבינה המלאכותית?
פעם תהית מה הבינה המלאכותית מספרת לילדים כשהיא מתבקשת להמציא סיפור? מחקר שפורסם ב-ScienceAlert חושף תופעה מטרידה: דמויות נשיות כמעט ולא קיימות. ההיעלמות הזו לא מקרית, אלא תוצאה של מנגנון אמיתי שמגלה את ההטיות שלנו. במאמר הזה נחקור מה זה אומר על הדמיון, הייצוג והבריאות הנפשית שלנו — ולמה זה רלוונטי גם למבוגרים וגם לילדים.
הבינה המלאכותית – מראה מעוותת של הסטריאוטיפים שלנו
מודלים של בינה מלאכותית שמייצרים סיפורים מתבססים על מאגרי טקסט ענקיים. אבל הטקסטים האלו כבר מלאים בסטריאוטיפים מגדריים: גיבורים גברים, מנהיגים, הרפתקנים... הגיבורות לרוב נדחקות לתפקידים משניים. הבינה המלאכותית לא מתקנת את זה – היא אפילו מחזקת את חוסר האיזון. כשמבקשים ממנה סיפור נייטרלי, היא כמעט תמיד שמה את הבנים במרכז, והבנות הופכות לבלתי נראות.
איך הבינה המלאכותית לומדת... ומעלימה גיבורות
הבינה המלאכותית לומדת על ידי ניתוח מיליוני טקסטים כדי לזהות דפוסים ולייצר תוכן הגיוני. אם רוב הטקסטים שמים את הדמויות הגבריות במרכז, הבינה תשחזר – ואפילו תחזק – את המגמה הזו. המחקר שפורסם ב-ScienceAlert ניתח מאות סיפורים שנוצרו אוטומטית. התוצאה: בסיפורים ללא הנחיה ברורה, דמויות נשיות כמעט לא קיימות או מוצגות בצורה סטריאוטיפית. - הבינה משחזרת את ההטיות שבמאגרי הלימוד שלה - ככל שהמאגר פחות מאוזן, כך גם התוצאה - סטריאוטיפים מגדריים מתחזקים בלי התערבות אנושית
למה ייצוג חשוב מגיל צעיר... וגם אחר כך
הדמיון הקולקטיבי שלנו מתחיל להיבנות מגיל צעיר. לראות גיבורות, דמויות מגוונות ומודלים שונים מאפשר לכל אחת ואחד להזדהות, לחלום ולהעז. כשסיפורים מעלימים בנות, זה מצמצם את הגישה לתפקידים, כישורים או שאיפות. זה לא משפיע רק על ילדים: התפיסה שלנו את העולם, הביטחון העצמי והיכולת לדמיין עתיד – כולם נטועים בסיפורים שאנחנו פוגשים כל החיים. ככל שיש פחות גיוון, כך העולם שלנו מצטמצם.
הטיות הבינה: השפעות עדינות אבל אמיתיות על הרווחה הנפשית
חזרה על דפוסים סטריאוטיפיים בסיפורים יכולה להשפיע ישירות על הבריאות הנפשית. להרגיש מיוצג זה להרגיש שייך, מוערך ומקובל. לעומת זאת, היעדר או קריקטורה של דמויות מסוימות עלול לגרום לתחושת ניכור או חוסר ערך. גם כמבוגר, ההטיות האלו ממשיכות להשפיע על התפיסה העצמית, על אחרים ועל האפשרויות. הבינה שמחזקת את המנגנונים האלו מעלה את השאלה של אחריות משותפת ליצירת תוכן מגוון ומכיל יותר.
מה המדע אומר על הטיות הבינה וההשלכות שלהן
מחקרים בפסיכולוגיה חברתית מראים שייצוג במדיה משפיע על הערכה עצמית, שאיפות ובניית זהות. המחקר שפורסם ב-ScienceAlert הוא לא היחיד שמצביע על אחריות הטכנולוגיה להפצת סטריאוטיפים. מחקרים רבים ממליצים לגוון את מאגרי הלימוד ולבנות מנגנוני הגנה כדי לצמצם הטיות. אבל התיקון לא קורה מעצמו – הוא דורש ערנות ורצון לפעול כבר בשלב התכנון.
פתרונות פרקטיים: איך מתמודדים עם ההטיות האלו?
להיות מודעים לנקודות העיוורון האלו זה כבר צעד ראשון. הנה כמה דרכים לעודד גיוון בסיפורים ולהפחית את השפעת ההטיות של הבינה: - לבחור בתוכן מגוון שנכתב על ידי יוצרים שונים - לבדוק תמיד את הגיוון של הדמויות בסיפורים - לתמוך במחקר וחדשנות כדי להפוך את הבינה למכילה יותר - לדווח על הטיות שמזהים בכלי בינה מלאכותית שבהם את/ה משתמש/ת הצעדים האלו לא פותרים הכל, אבל הם עוזרים לשמור על מבט ביקורתי ולפתוח את הדלת לעוד אפשרויות בסיפורים – לכל הגילאים.
איך Lunaia יכולה לעזור לך לטפח דמיון פתוח ורגוע
בלונהיה אנחנו יודעים שבריאות נפשית נבנית גם מהמגוון של הסיפורים שאת/ה פוגש/ת. להכיר בהטיות, לבנות ביטחון עצמי ולהיות ברגע – כל אלו מרחיבים את נקודת המבט שלך. האפליקציה של Lunaia מציעה לך: - תרגילי נשימה להרגעת המחשבות המגבילות - מדיטציות מודרכות לחיזוק הביטחון העצמי ולקבלת השונות - צ'ק-אין יומי להעלאת המודעות לרגשות ולהשפעות שלך את/ה מוזמן/ת לגלות את כל המשאבים ב-https://lunaia.me. לטפח את הדמיון שלך ולפתוח אפשרויות חדשות זה גם לטפח את הרווחה הנפשית שלך.
כשהבינה המלאכותית מוחקת גיבורות: איך זה משפיע על הדמיון שלנו? · Blog Lunaia