לפי ספר עזרא, כורש מלך פרס, שכבש את בבל, הכריז שהיהודים רשאים לעלות לירושלים ולבנות את בית המקדש. ההכרזה הזו נקראת ״הצהרת כורש״. קבוצות של יהודים עלו בהנהגת זרובבל, ובנו את בית המקדש השני, למרות קשיים ושכנים שניסו לעצור אותם.
מאוחר יותר עלה עזרא הסופר ולימד את העם תורה, ונחמיה, ששירת בארמון מלך פרס בשושן, קיבל רשות לבנות מחדש את חומות ירושלים. לפי הסיפור, העם בנה ״ביד אחת״ ושמר ״ביד אחת״, והחומה הושלמה בחמישים ושניים ימים. בתקופה הזו פעלו גם הנביאים חגי, זכריה ומלאכי.
טעות נפוצה היא לחשוב שכל היהודים חזרו בשיבת ציון. בעצם רק חלק חזרו, ורבים נשארו בבבל ובפרס — כמו מרדכי ואסתר בסיפור פורים. הביטוי ״שיבת ציון״ שימש גם בעת החדשה לתיאור העלייה לארץ ישראל.