מודל שפה בונה תשובה מילה אחרי מילה לפי מה שנראה סביר. לפעמים הדבר הכי ״סביר״ מבחינת התבנית הוא בכלל לא נכון במציאות. למשל, אם שואלים על ספר שלא קיים, המודל עלול להמציא לו עלילה ושם סופר, כי זה נראה כמו תשובה רגילה על ספר.
הזיות מסוכנות במיוחד כי הן נכתבות באותו ביטחון ובאותו סגנון כמו תשובות נכונות. אין סימן אזהרה שאומר ״כאן המצאתי״. לכן בכל דבר חשוב — עבודה לבית הספר, בריאות, מספרים או תאריכים — בודקים במקור אמין, כמו ספר, אתר רשמי או מבוגר שמבין בנושא.
טעות נפוצה היא לחשוב שהזיה היא שקר מכוון. לבינה מלאכותית אין כוונות; היא לא ״יודעת״ שהיא טועה. ההזיה היא תוצאה של הדרך שבה המודל עובד — ניחוש לפי תבניות. וגם אנשים יכולים לטעות, ולכן הרגל טוב הוא לבדוק כל מקור.