חורבן ירושלים ובית המקדש השני, בעת דיכוי המרד הגדול בידי הרומאים, הוא אסון דרמטי בתולדות העם היהודי, והוא מצוין עד היום - בט' באב, בשבירת כוס בעת חתונה יהודית, במנהג להשאיר פינה לא מסוידת בבית כזכר לחורבן ובמנהגים נוספים.
חוקרים רבים רואים בהחרבת המקדש ניסיון רומי להחרבת היהדות כולה.
בנוסף, החורבן פגע מאוד בכל מי שהיה קשור לבית המקדש, ובראש ובראשונה בכוהנים שמעמדם – גם החברתי וגם הכלכלי – נפגע מאוד.
בעקבות חורבן בית המקדש נעלמו שתיים משלוש הכיתות שפעלו בימי הבית השני – הצדוקים והאיסיים. על חורבות ירושלים נבנה מחנה ללגיון הרומי ה-10. היישוב היהודי בירושלים ובסביבתה הקרובה חדל מלהתקיים, אם כי במקורות שונים פזורות ידיעות על יהודים בודדים שגרו בירושלים או בסמוך לה או שהמשיכו לעלות לרגל במשך כל התקופה. בשועפת, מצפון לירושלים, התגלה יישוב יהודי מתוכנן שהוקם לאחר החורבן ופסק להתקיים לפני מרד בר כוכבא. חלק מהקרקעות בירושלים ובסביבתה הקרובה הופקעו מידי היהודים ואחרות איבדו את ערכן בגלל החורבן. מסיבה זו ומסיבות נוספות הקשורות לחורבן, כמו נטל מיסוי כבד, נוצר משבר כלכלי בקרב היהודים בנוסף למשבר הדתי-רעיוני.
אולם למרות האסון הכבד, ניתן להבחין בהמשכיות קיומו של העם היהודי כעם עצמאי החי בארצו ומונהג על ידי הנהגה לאומית. על פי האגדה, ערב חורבן ירושלים הצליח רבן יוחנן בן זכאי לצאת מירושלים ולחדש את מוסדות ההנהגה היהודיים ביבנה ובלוד; העם היהודי המשיך בנוכחותו בארץ ישראל, פרט לירושלים, ולתקופה ארוכה המשיכו היהודים להיות רוב אוכלוסיית הארץ; בית המקדש המשיך להיות מרכזי בחיי האומה על אף חורבנו; ובמשך הזמן, התפילות בבית הכנסת ולימוד התורה החליפו את עבודת הקורבנות בבית המקדש.
יתרה מכך, בתקופה שאחרי חורבן הבית ידע העם היהודי פריחה רוחנית ניכרת - חיבור המשנה והתלמוד בתקופה הרומית ובתקופה הביזנטית. לפי הספרות התלמודית, החכמים – לומדי התורה ומחברי המשנה והתלמוד - הפכו לאליטה החברתית בתקופה זו, אם כי קשה לדעת עד כמה הורגשה השפעתם בפועל. בנוסף, זרם הגיור באותו זמן לא נפסק וגרם לגידול ניכר באוכלוסייה היהודית בתחומי האימפריה הרומית.
