Patriarch Sophronius van Jeruzalem stond er alleen voor om de stad te verdedigen, hij verzamelde alle heilige relikwieën, inclusief de relikwieën van het Heilig Kruis, en transporteerde ze in het geheim naar de kust om daarna naar Constantinopel te worden gebracht. Het beleg begon in november 636, de Arabieren kozen voor een bloedeloze overgave en omsingelden de stad. Van keizer Herakleios moest Sophronius geen hulp verwachten, na vier maanden bood hij de capitulatie aan en beloofde een jizya (tribuut) te betalen, op voorwaarde dat kalief Omar ibn al-Chattab in eigen persoon naar Jeruzalem kwam om het pact te ondertekenen en de overgave te aanvaarden.
Kalief Omar arriveerde in Jeruzalem in april 637 en in ruil voor schatting beloofde hij de christenen burgerlijke en religieuze vrijheid. Voor het eerst, na bijna 500 jaar Romeinse heerschappij, mochten de Joden opnieuw in Jeruzalem wonen. Na tien dagen keerde kalief Omar terug naar Medina. Zuid-Syrië was nu in handen van de Arabieren en eind 637 na de Slag bij de IJzeren Brug was ook Noord-Syrië in Arabische handen. In 639 begonnen de Arabieren met de verovering van Egypte.