אם נכתוב ״בבוקר אני מצחצח את...״, רוב האנשים ישלימו ״השיניים״. מודל שפה עושה משהו דומה בקנה מידה עצום: הוא ראה המון טקסטים ולמד אילו מילים מופיעות בדרך כלל יחד. כשהוא כותב תשובה, הוא בוחר מילה אחרי מילה לפי מה שהחישוב שלו מראה כמתאים, ובונה כך משפטים שלמים.
מודלי שפה גדולים משמשים בצ׳טבוטים, בכלי תרגום, בסיכום טקסטים ובעזרה בכתיבת קוד. הם יכולים לכתוב בצורה שוטפת ומשכנעת, ולכן הם נשמעים כאילו הם ״יודעים״. בפועל הם יוצרים טקסט שנשמע סביר לפי התבניות שלמדו.
טעות נפוצה היא לחשוב שמודל שפה בודק כל עובדה לפני שהוא עונה. מודל שפה יכול לכתוב משפט שנשמע בטוח לגמרי אבל שגוי — תופעה שנקראת הזיה. לכן תמיד כדאי לבדוק מידע חשוב במקור אמין, ולא לשתף איתו פרטים אישיים.

