למה צריך כללים?
לכל כלי חזק יש כללים. לנהיגה יש רישיון וחוקי תנועה, לתרופות יש בדיקות לפני שהן מגיעות לבתי מרקחת, ולמזון יש תקני בטיחות. הכללים לא נועדו לעצור את ההתקדמות, אלא לוודא שהכלי עוזר ולא מזיק.
בינה מלאכותית משמשת היום בדברים חשובים: בבתי חולים, בבנקים, במכוניות ובבתי ספר. כשמערכת כזו טועה, הטעות יכולה להשפיע על אנשים רבים בבת אחת. לכן חשוב לחשוב מראש על כללים, ולא רק אחרי שמשהו השתבש.
עקרונות חשובים
שקיפות: אנשים צריכים לדעת כשהם מדברים עם תוכנה ולא עם אדם, וכשהחלטה שנוגעת להם התקבלה בעזרת בינה מלאכותית. תמונה או סרטון שנוצרו בבינה מלאכותית צריכים להיות מסומנים כך שלא יטעו אנשים.
בטיחות: לפני שמשתמשים במערכת במקום חשוב, בודקים אותה היטב — בדיוק כמו שבודקים מכונית לפני שהיא יוצאת לכביש. פרטיות: מערכות צריכות לשמור על המידע האישי של אנשים ולהשתמש בו רק למטרה מוגדרת.
הוגנות: המערכת צריכה לעבוד טוב לכל האנשים, ולא להפלות קבוצות מסוימות. ופיקוח אנושי: בהחלטות חשובות, אדם צריך להיות מסוגל לבדוק, לתקן ולעצור את המערכת.
מי אחראי כשמשהו משתבש?
לבינה מלאכותית אין רצונות, כוונות או מצפון, ולכן היא לא יכולה ״לשאת באחריות״ כמו אדם. האחריות היא של בני אדם: של מי שבנה את המערכת, של החברה שמפעילה אותה, ושל מי שבחר להשתמש בה למטרה מסוימת.
דמיינו שאפליקציית ניווט שולחת נהג לדרך מסוכנת. האחריות מתחלקת: החברה צריכה לדאוג שהמידע יהיה מעודכן ככל האפשר, והנהג צריך להסתכל על הכביש ולא לציית בעיניים עצומות. באותו אופן, רופא שנעזר בתוכנה עדיין אחראי לטיפול שבחר.
בגלל זה מערכות טובות שומרות תיעוד: מה המערכת המליצה, מי אישר את ההחלטה ועל סמך אילו נתונים. כשמשהו משתבש, התיעוד עוזר להבין מה קרה, לתקן את הבעיה ולמנוע ממנה לחזור. זה דומה ל״קופסה השחורה״ במטוס, שעוזרת לחוקרים להבין מה קרה בתאונה.
חוקים ברחבי העולם
מדינות רבות כבר מחילות על בינה מלאכותית חוקים קיימים — למשל חוקי הגנת פרטיות, חוקים נגד אפליה וחוקי זכויות יוצרים. בישראל, למשל, יש חוק הגנת הפרטיות שקובע כללים לשמירה על מידע אישי.
בנוסף, מדינות וארגונים מנסחים כללים חדשים שמתאימים במיוחד לבינה מלאכותית. האיחוד האירופי, למשל, חוקק חוק מיוחד לבינה מלאכותית, שמחמיר יותר עם שימושים מסוכנים יותר. הכללים ממשיכים להשתנות ולהתפתח, כי הטכנולוגיה משתנה מהר והחברה לומדת תוך כדי תנועה.
לרוב השירותים ברשת יש גם תנאי שימוש, ובהם בדרך כלל גיל מינימלי. הכללים האלה נועדו בין השאר להגן על ילדים, ולכן כדאי להכיר אותם יחד עם ההורים.
גם לנו יש אחריות
כל מי שמשתמש בבינה מלאכותית הוא חלק מהסיפור. האחריות שלנו היא לבדוק מידע לפני שמפיצים אותו, לא ליצור תוכן שפוגע באחרים, לשמור על הפרטיות שלנו ושל חברינו, ולהיות כנים כשנעזרנו בכלי.
שאלה טובה לשאול לפני כל שימוש: ״אם כולם היו משתמשים בכלי בדיוק כמו שאני עומד להשתמש בו עכשיו — האם העולם היה טוב יותר או גרוע יותר?״. אם התשובה גרוע יותר, כנראה שכדאי לעצור ולחשוב שוב, ואולי להתייעץ עם מבוגר.