בין האימפריה הביזנטית לבין שכנתה ממזרח, האימפריה הפרסית הסאסאנית, היו תקופות של מתח רב ותקופות של בריתות והסכמי שלום. בשנת 614 הצליחו הפרסים להשתלט על סוריה ועל ארץ ישראל ולפרוץ לירושלים בעזרת היהודים. תמורת עזרתם קיבלו היהודים מהשלטון הפרסי זכויות בעיר במשך כמה שנים, ויש הטוענים שבזמן זה התעוררו ציפיות משיחיות רבות ואולי גם נעשה ניסיון לחדש את הפולחן היהודי. לאחר כמה שנים נלקחו מהיהודים זכויות אלו.
עדות אפשרית לאירועים אלו נמצא בחקר הפיוט ובמטמון חפצי זהב, ובהם מדליון גדול המציג סמלים יהודיים – מנורה, שופר וספר תורה - שהתגלה בחפירות העופל בידי אילת מזר. הכיבוש הפרסי של ירושלים היה מלווה בהרס של מבני דת נוצריים, בפגיעה בכנסיית הקבר ובהרג של אנשי דת נוצרים. בעת הכיבוש הצליחו הפרסים ליטול מכנסיית הקבר את "הצלב האמיתי" שעליו, על פי המסורת הנוצרית, נצלב ישו.
כעבור כ-14 שנים הצליח הקיסר הביזנטי – הֵרַקְלִיוּס, שמידו כבשו הפרסים את העיר – להכניע את הפרסים בכמה קרבות. בעקבות זאת הסכימו הפרסים להחזיר את ארץ ישראל וירושלים לידי הביזנטים. הקיסר הרקליוס נכנס לעיר בתהלוכה מפוארת דרך שער הרחמים (כפי שישו נכנס, על פי המסורת הנוצרית) והחזיר את "הצלב האמיתי" לכנסיית הקבר. היהודים שוב הורחקו מהעיר, וייתכן שהוטלו עליהם גזירות.
ארץ ישראל חזרה לידי הביזנטים לתקופה קצרה של כ-10-8 שנים. בשנת 636 הכניעו המוסלמים את הצבא הביזנטי בקרב הירמוך. שנתיים מאוחר יותר, בשנת 638, נכנעה ירושלים למוסלמים, וכעבור עוד שלוש שנים גם קיסריה נכבשה על ידי המוסלמים. בכך בא הקץ על כ-300 שנות שלטון נוצרי-ביזנטי בארץ ישראל ובירושלים.
