🗂️ נתונים ואימון של בינה מלאכותית

מה הם נתונים?

נתונים הם כל מידע שאפשר לאסוף ולשמור במחשב: תמונות, הקלטות קול, טקסטים, מספרים, ואפילו רשימה של אילו סרטונים צפיתם עד הסוף ואילו דילגתם. לכל מידע כזה קוראים גם ״דאטה״, מהמילה האנגלית data.

בתוכנה רגילה, מתכנת כותב בעצמו את כל הכללים: ״אם לוחצים על הכפתור — פתח את החלון״. אבל יש משימות שבהן כמעט אי אפשר לכתוב כללים. נסו להסביר במילים בדיוק איך מבדילים בין חתול לכלב בתמונה: אוזניים? יש כלבים עם אוזניים מחודדות. גודל? יש חתולים גדולים וכלבים קטנים. כאן נכנסת למידת מכונה: במקום לכתוב את הכללים, נותנים למחשב הרבה דוגמאות, והוא מוצא בעצמו את הדפוסים שמבדילים ביניהן.

איך עובד אימון?

נניח שרוצים ללמד תוכנה לזהות הודעות ספאם — הודעות פרסומת מציקות או הודעות שמנסות לרמות. אוספים אלפי הודעות, ולכל אחת מצמידים תווית: ״ספאם״ או ״לא ספאם״. התוויות האלה נקראות גם ״תיוג״, ולעתים קרובות אנשים הם שמתייגים אותן ביד.

בזמן האימון התוכנה מסתכלת על הודעה, מנחשת אם היא ספאם, ובודקת מול התווית אם צדקה. כשהיא טועה, היא משנה מעט את ההגדרות הפנימיות שלה כדי לטעות פחות בפעם הבאה. אחרי שהיא חוזרת על זה אלפי ומיליוני פעמים, היא מתחילה לשים לב לדפוסים: מילים כמו ״זכית!״, הרבה סימני קריאה, קישורים חשודים ובקשות דחופות לפרטים אישיים.

חשוב לזכור: התוכנה לא ״מבינה״ מה זה רמאות כמו שאדם מבין. היא מוצאת קשרים סטטיסטיים בין סימנים בהודעה לבין התווית. לכן היא יכולה להיות טובה מאוד במשימה אחת צרה, ובכל זאת לטעות במקרים שלא דומים למה שראתה.

נתוני אימון ונתוני בדיקה

כמו שמורה לא נותן במבחן בדיוק את אותן שאלות מדף התרגול, גם מפתחי בינה מלאכותית שומרים בצד חלק מהדוגמאות ולא מראים אותן לתוכנה בזמן האימון. אחרי האימון בודקים את התוכנה על הדוגמאות החדשות האלה. אם היא מצליחה גם עליהן, סימן שהיא למדה דפוס כללי ולא רק ״שיננה בעל פה״.

כשתוכנה מצליחה מאוד על דוגמאות האימון אבל נכשלת על דוגמאות חדשות, אומרים שהיא ״שיננה״ במקום ללמוד. זה דומה לתלמיד שזוכר את התשובות לשאלות מהשיעורים, אבל מתבלבל כשמנסחים את אותה שאלה אחרת.

זבל נכנס, זבל יוצא

במחשבים יש משפט מפורסם: ״זבל נכנס, זבל יוצא״. אם הנתונים שגויים, חלקיים או לא מגוונים — גם התוכנה תהיה שגויה. למשל, אם מאמנים תוכנה לזהות כלבים רק בתמונות שצולמו בדשא ירוק, היא עלולה ללמוד בטעות ש״דשא ירוק״ פירושו כלב, ולהתבלבל כשיראו לה כלב על חוף הים.

גם גיוון חשוב מאוד. תוכנה לזיהוי קול שהתאמנה רק על קולות של מבוגרים עלולה להבין פחות טוב ילדים. תוכנה לזיהוי פנים שהתאמנה על תמונות של קבוצה אחת של אנשים עלולה לטעות יותר עם אנשים אחרים. לכן מפתחים אחראים מנסים לאסוף נתונים מגוונים ולבדוק את התוכנה על אנשים ומצבים שונים.

מאיפה מגיעים הנתונים — ומה זה אומר עליכם

נתונים מגיעים ממקורות רבים: ספרים ואתרים, תמונות שצולמו במיוחד, חיישנים במכוניות ובמכשירים, וגם מהפעולות של המשתמשים עצמם. כשאתם מסמנים הודעה כ״ספאם״ בתיבת הדואר, אתם בעצם עוזרים לתייג נתונים. כשאתם צופים בסרטון עד הסוף, זה נרשם כנתון.

לכן כדאי לחשוב לפני ששותפים מידע. אל תעלו לאתרים ולאפליקציות פרטים אישיים — שם מלא, כתובת, מספר טלפון, בית ספר או תמונות של אחרים בלי רשות. אם משהו לא ברור לכם, שאלו מבוגר שאתם סומכים עליו.