כ־60 שנה אחרי חורבן בית שני, הקיסר אדריאנוס החליט, לפי מקורות מאותה תקופה, להקים על חורבות ירושלים עיר רומית בשם איליה קפיטולינה. היסטוריונים מציינים גם סיבות אפשריות נוספות, כמו גזירות על מנהגים יהודיים, אבל על הפרטים יש ויכוח. בשנת 132 פרץ המרד. לפי המסורת, רבי עקיבא ראה בשמעון מנהיג שעשוי להביא גאולה וכינה אותו ״בר כוכבא״ — בן הכוכב.
בתחילה הצליחו המורדים מאוד, השתלטו על שטחים ביהודה וטבעו מטבעות משלהם, עם כתובות כמו ״לחרות ירושלים״. הם הכינו מערות מסתור מתחת לכפרים, עם כניסות צרות שאפשר לעבור בהן רק בזחילה. במערות במדבר יהודה נמצאו מכתבים מתקופת המרד, ובהם הוראות שנתן בר כוסבה עצמו למפקדיו.
רומא שלחה צבאות גדולים, והמלחמה הייתה קשה ואכזרית. בשנת 135 נפלה ביתר, לפי המסורת בתשעה באב. רבים נהרגו או נמכרו לעבדות, ונאסר על יהודים להיכנס לירושלים. טעות נפוצה היא לבלבל בין מרד בר כוכבא למרד הגדול: המרד הגדול הסתיים בחורבן הבית בשנת 70, ומרד בר כוכבא פרץ עשרות שנים אחר כך.