כל יחידה ברשת מקבלת מספרים, מכפילה אותם במשקלים, מחברת ומעבירה תוצאה הלאה לשכבה הבאה. השכבה הראשונה מקבלת את הקלט — למשל את הפיקסלים של תמונה — והשכבה האחרונה נותנת תשובה, כמו ״כלב״ או ״חתול״. בזמן האימון משנים את המשקלים עד שהתשובות נעשות נכונות.
ברשת עם הרבה שכבות כל שכבה לומדת לזהות משהו קצת יותר מורכב: שכבות ראשונות מזהות קווים וקצוות, שכבות אמצעיות צורות כמו עיגול או אוזן, ושכבות מאוחרות דברים שלמים כמו פנים. למידה ברשתות עם הרבה שכבות נקראת ״למידה עמוקה״, והיא עומדת מאחורי זיהוי תמונות, זיהוי דיבור ומודלי שפה.
טעות נפוצה היא לחשוב שרשת עצבית היא ״מוח מלאכותי״ שחושב כמו אדם. המוח שלנו הרבה יותר מורכב, מרגיש, חווה ויכול ללמוד גם ממעט מאוד דוגמאות. רשת עצבית היא נוסחה מתמטית גדולה מאוד עם המון מספרים, וקשה אפילו למומחים להסביר בדיוק למה היא נתנה תשובה מסוימת.