公元前586年，新巴比倫王國軍隊大舉入侵，猶太國的首都耶路撒冷被攻陷，巴比倫國王命令將絕大多數猶太人擄到巴比倫做奴隸，史稱“巴比倫之囚”，從此猶太國不復存在。猶太人被囚禁在巴比倫，受盡了奴役和磨難。60年後，波斯帝國征服了巴比倫。國王居魯士下令釋放了囚禁在巴比倫的猶太人，猶太人又重新回到了耶路撒冷。
以後，災難接二連三地降臨到猶太人身上，古希臘和古羅馬的遠征軍先後開到這裏，進行了幾個世紀的殘酷統治，猶太人像魚肉一樣任人宰割。公元66年，猶太人爲反對羅馬帝國的掠奪和賦稅，掀起大規模的起義，史稱“猶太戰爭”。戰爭持續了4年。公元70年，羅馬大軍攻陷耶路撒冷城，使整個城市淹沒在血泊中。羅馬士兵把成千上萬的俘虜活活釘死在十字架上，因被害者太多，以至沒有地方再立十字架。這場戰爭，有1100000猶太人被殺，另外還有97000多猶太人被當做奴隸賣掉，有的被送到礦山開礦，有的成了羅馬鬥獸場中的角鬥士。
猶太戰爭失敗後，大批猶太人被迫離開自己的家園，從此流散到世界各地，成爲沒有祖國的民族。公元7世紀時，阿拉伯帝國佔領了這個地方，以後，阿拉伯人便居住在這裏。直到1948年猶太人才在巴勒斯坦建立起自己的國家——以色列國。
猶太曆第12個月第9日是耶路撒冷毀滅的日子，今天猶太人仍然紀念它。每年這一天，許多猶太人聚集在耶路撒冷的城牆邊，倚牆哀哭，悼念它的毀滅，這段城牆就是耶路撒冷有名的“哭牆”。
