始建
1.公元前37年，大希律大舉修建耶路撒冷，在舊城之外又接連建築或擴大建築了第二城坦。城郭煥然一新。公元前約２０年，大希律開始重建聖殿，計畫雄偉，工程浩大。到耶穌在世時，聖殿並未完全竣工，但其規模已甚壯觀。公元後４２年（或４３年）希律亞基帕繼續修建城牆及聖殿。他在第二城坦之外，又建築了第三城坦。並用大理石和精金建造華麗的殿宇，公元的年正式完工後，遠遠望去“如同一座山頂上蓋著白雪”，大大超過了所羅巴伯所建造的第二聖殿。
焚毀
但僅僅６年之後，猶大人企圖反抗羅馬。羅馬元帥提多（TitUS）乃於公元70年率領大軍前來攻打耶路撒冷。恰當猶太人的逾越節日，大軍到達城前。城內猶太人又有內爭，前後猶太人慘死者竟達60萬（另有資料說共約１00萬猶太人死於這次戰爭）。圍城第15日後，第三城坦失守。圍城第24日，第二城坦被攻破。到第72日時，安東尼亞樓被羅馬軍兵攻占。聖殿即面臨威脅。（安東尼亞接即在聖殿的西北方院外）在過12日後，猶大教的日祭等聖事活動被迫停止。到第105日，聖殿被毀。到第134日時，滿城一片火光。房屋完全焚燒，城牆拆毀殆盡。提多隻留下了耶路撒冷西北角的一段舊牆以及希律的三個塔樓未毀，藉以屯駐防守其地的批十營軍兵，也是用來顯示提多滅城的威力。耶路撒冷被毀後，廢墟上毫無人煙。其後的50年間，歷史上再未記述耶路撒冷發生過任何事件。猶太歷史學家的約西弗（JOrephuS）說，那段時期的耶路撒冷，猶如從來無人居住過的荒場一樣，其後，只有殘餘的一段西牆，存留至今。
洗劫
這次提多焚毀聖殿，其破壞之重乃是前所未有的，有人記述說，由於希律建殿時，為了顯示他所建的聖殿華貴，石塊縫隙處曾以真金裝飾，所以羅馬軍兵為了搶奪飾金，殿牆盡被推倒，以便刮取每塊石頭上的余金，又有人記述說，公元363年羅馬帝國尊崇基督教時，皇帝朱維安（ＪＯＶian）曾企圖重建聖股，便把提多破壞聖殿的石頭挪開，以便重建殿宇。但朱維安在位僅一年，其建殿計畫也再來未進行，反使該處竟成為散石遍地的所在。
再建
公元132年，早在羅馬帝國尊崇基督教之前，羅馬人曾再修此城，但卻改用了羅馬名稱，把它叫作哥羅尼亞（ＣＯＩＯnia）,以便顯示它是羅馬的屬地，羅馬人並且在所羅門、所羅巴伯、大希律建造聖殿一直未變的原址上，建造了一座羅馬神廟。禁止猶太人進入耶路撒冷（即當時的哥羅尼亞）違者處以死刑，哥羅尼亞這一地名延用了數百年之久。直到公元313年，羅馬皇帝君士坦丁（Ｃonsstamtine）宣稱自己信仰了基督之後，不準猶太人進城的禁令才漸廢除。該地也逐漸恢復了耶路撒冷這一地名。
公元326年，君士坦丁的母親在伯利恆和橄欖山各建禮拜堂一座。這期間，先前的羅馬神廟被廢除。公元336年，君士坦丁自己人也在耶路撒冷修建了聖墓禮拜堂。第４世紀未，基督教成為羅馬的國教。耶路撒冷成為重要的聖地，居民不論是否真誠相信耶穌，都要接受洗禮，形成了200餘年真偽難辨的興旺假象。
公元613年，波斯王喬斯羅毀二世，（ＣhosroseII攻陷耶路撒冷；禮拜堂同時被毀。公元629年，羅馬皇帝席哈克留（ＨeracliuS）重新占領耶路撒冷數載。公元637年，耶路撒冷又歸阿拉伯王奧馬（Ｏmar）統轄。不久，阿拉伯人即在摩利亞山的聖殿舊址上建造了清真寺與圓頂石屋，（其後即建成為山頂上的岩石殿），從此以後，耶路撒冷多數時間都在信仰伊斯蘭教的阿拉伯國家的控制之下。
