למה מחשב חכם טועה?
בינה מלאכותית לומדת מדוגמאות ומחפשת בהן דפוסים. צ׳אטבוט, למשל, למד מכמות עצומה של טקסטים, ובכל רגע הוא מנחש איזו מילה מתאימה לבוא אחרי המילים הקודמות. לרוב הניחוש טוב, כי הדפוסים בטקסטים חוזרים על עצמם. אבל ניחוש הוא עדיין ניחוש.
לתוכנה אין הבנה כמו של אדם, ואין לה דרך אמינה לדעת מתי היא צודקת ומתי היא טועה. היא לא מרגישה ספק ולא מתביישת לטעות. לכן היא יכולה לכתוב משפט שגוי באותו טון בטוח שבו היא כותבת משפט נכון.
מה זו הזיה?
הזיה של בינה מלאכותית היא תשובה שנשמעת אמינה אבל מומצאת. למשל: מבקשים מצ׳אטבוט שמות של ספרים על דולפינים, והוא מחזיר רשימה שבה חלק מהספרים בכלל לא קיימים. או שואלים על עיירה קטנה, והוא ״ממציא״ לה מוזיאון שאין בה.
למה זה קורה? כי התוכנה בונה תשובה שדומה לתשובות שראתה. רשימת ספרים נראית בדרך כלל כמו ״שם הספר — שם הסופר״, ולכן היא יכולה לייצר משהו שנראה בדיוק כך — גם כשאין מאחוריו ספר אמיתי.
הזיות קורות לעיתים קרובות יותר כשהשאלה עוסקת בנושא שהתוכנה ראתה עליו מעט מידע, כמו אדם לא מפורסם, אירוע מקומי קטן או פרט נדיר מאוד. במקרים כאלה אין לה מספיק דוגמאות ללמוד מהן, והיא משלימה את החסר בניחוש שנראה הגיוני. לכן שאלה על השכונה שלכם או על המורה שלכם עלולה לקבל תשובה מומצאת לגמרי.
טעויות שאתם כבר מכירים
לא רק צ׳אטבוטים טועים. מסנן הספאם בדואר האלקטרוני מעביר לפעמים מכתב חשוב לתיקיית הזבל, ולפעמים נותן להודעת פרסומת לעבור. אפליקציית ניווט יכולה לשלוח אתכם לכביש שנסגר הבוקר, כי המידע עליו עוד לא התעדכן. זיהוי פנים בטלפון לפעמים לא מזהה אתכם, למשל כשחלק מהפנים מוסתר.
גם תוכנות שיוצרות תמונות טועות: לפעמים הן מציירות יד עם שש אצבעות או שלט עם אותיות משובשות. ותרגום אוטומטי יכול לתרגם ביטוי כמו ״נפל לי האסימון״ מילה במילה, ולצאת עם משפט מצחיק שאין לו קשר למשמעות.
איך מזהים טעות?
סימנים שכדאי לשים לב אליהם: מספרים ותאריכים מדויקים מאוד בלי מקור, ציטוטים של אנשים מפורסמים, שמות של ספרים או אתרים, ותשובה שסותרת את מה שלמדתם בכיתה. אלה המקומות שבהם הזיות מופיעות לעיתים קרובות.
מה עושים? בודקים במקור נוסף — ספר, אנציקלופדיה, אתר רשמי — ושואלים מורה או הורה. אפשר גם לשאול את התוכנה ״מאיפה המידע הזה?״, אבל זכרו שגם המקור שהיא נותנת עלול להיות מומצא, ולכן בודקים שהוא באמת קיים.
טעות היא לא סיבה לפחד
בינה מלאכותית היא כלי, כמו מחשבון או מפה. גם מפה יכולה להיות לא מעודכנת, ועדיין משתמשים בה — בזהירות. הדבר החשוב הוא לא לסמוך עליה בעיניים עצומות, במיוחד בנושאים חשובים כמו בריאות, בטיחות או כסף, שבהם תמיד פונים למבוגר.
אנשים שבונים את התוכנות האלה עובדים כל הזמן על הפחתת טעויות, אבל אף תוכנה לא מושלמת. מי שיודע שהכלי יכול לטעות, ויודע איך לבדוק, משתמש בו בצורה חכמה הרבה יותר.
נסו בעצמכם, יחד עם מבוגר: שאלו צ׳אטבוט שאלה שאתם כבר יודעים את התשובה עליה, למשל משהו שלמדתם השבוע בכיתה, ובדקו אם הוא צדק. אחר כך שאלו אותו על משהו מאוד מקומי, כמו שם הגן הציבורי ליד הבית. כך תראו בעיניים שלכם מתי הוא מדייק ומתי הוא מנחש.