🤖 בינה מלאכותית לכיתה ט׳

נוטים לחשוב שמחשב הוא שופט אובייקטיבי: אין לו מצבי רוח, אין לו חברים ואין לו דעות קדומות. אבל מערכות של בינה מלאכותית לומדות מנתונים שאספו בני אדם, ונתונים כאלה משקפים את העולם כמו שהוא, על כל הפגמים שבו. כשהמערכת לומדת מהם, היא עלולה לאמץ גם את העיוותים. לתופעה הזאת קוראים הטיה. 🔊

דוגמה מוכרת: לפני כעשור ניסתה חברת טכנולוגיה גדולה לפתח מערכת שתמיין קורות חיים של מועמדים לעבודה. המערכת למדה מקורות חיים שהוגשו לחברה בעשר השנים הקודמות, ורובם הגיעו מגברים. התוצאה: היא החלה להוריד ניקוד לקורות חיים שהופיעו בהם מילים הקשורות לנשים. איש לא תכנת אותה להפלות, ובכל זאת היא הפלתה. החברה גילתה את הבעיה וזנחה את המערכת. 🔊

הטיה יכולה להופיע גם בזיהוי תמונות ובזיהוי דיבור. מחקרים מצאו שמערכות שמנתחות פנים טעו יותר אצל אנשים כהי עור, בעיקר נשים, כי בנתונים שעליהם אומנו היו פחות תמונות שלהם. ומערכות לזיהוי קול מתקשות לפעמים להבין מבטאים שהיו נדירים בהקלטות. בישראל, למשל, מערכת שאומנה בעיקר על דיבור של צעירים ממרכז הארץ עלולה להבין פחות טוב קשישים או דוברים עם מבטא. 🔊

הטיה יכולה להסתתר גם בשאלה מה בדיוק המערכת מנסה לחזות. נניח שמערכת אמורה לזהות מי זקוק לעזרה רפואית, אבל היא לומדת לפי כמה כסף הוציא כל אדם על טיפולים בעבר. היא תטעה לגבי מי שלא היה לו כסף לטיפול, אף שהיה חולה לא פחות מאחרים. 🔊

מה אפשר לעשות? קודם כול, לאסוף נתונים מגוונים שמייצגים את כל האוכלוסייה. שנית, לבדוק את המערכת על קבוצות שונות לפני שמשתמשים בה, ולא להסתפק בציון ממוצע אחד. שלישית, להשאיר את ההחלטות החשובות, כמו קבלה לעבודה או טיפול רפואי, בידי בני אדם שיכולים להסביר אותן ולתקן טעויות. ויש גם תפקיד לצוותים עצמם: כשאנשים מרקעים שונים בונים מערכת, גדל הסיכוי שמישהו ישים לב לבעיה בזמן. 🔊

ההטיה של מכונה היא בעצם מראה. היא מראה לנו דפוסים לא הוגנים שהיו קיימים עוד קודם, לפעמים בלי ששמנו לב. השאלה היא אם נשתמש במראה הזאת כדי לתקן, או שניתן למכונה להפוך את הטעויות של אתמול לחוקים של מחר. 🔊