不久，大衛的軍隊又攻下迦南人的小城耶路撒冷（意思是“和平之城”），把首都建在那裏，將聖物“約櫃”也供奉在了耶路撒冷的神殿中。因為大衛出身於１２支派中的猶太部落，於是他建立的國家稱為猶太王國。大衛死後，他的兒子所羅門繼承了王位。由此開始猶太人曆史上最繁榮的時代。但所羅門王在位時期偏袒南方猶太支派，增加了北方１０個支派的離心傾向。致使在他死後，統一的王國正式分裂為南國猶太與北國以色列。
北方以色列王國以撒瑪利亞為首都，曆經１９個國王的統治，延續了二百多年，後被亞述所滅。南方的猶太王國發展到後來，也逐漸衰落，被迫臣服於新巴比倫王國。公元前６０１年，新巴比倫王尼布甲尼撒與埃及交戰，雙方的損失都很慘重。三年來一直臣服於尼布甲尼撒的猶太國王約雅敬，趁機脫離新巴比倫，投奔了埃及。
這一舉動觸動了尼布甲尼撒，終於在公元前５８９年底他親自率領大軍攻向耶路撒冷。經過兩個多月的圍攻，尼布甲尼撒廢黜了約雅敬，封其叔叔西底家為猶太王，讓他宣誓效忠新巴比倫王國，不得反叛。然後下令將猶太王室的大部分成員和猶太的能工巧匠一齊押往巴比倫。臨行前，又下令對耶路撒冷的神廟進行洗劫。
公元前５８８年，埃及又向新巴比倫發動了進攻。
猶太國王西底家和這一地區其他臣服於新巴比倫的小國，紛紛起來響應埃及人。不久，尼布甲尼撒又率新巴比倫軍隊對耶路撒冷發動了第二次圍攻。這次圍攻曆時１８個月。
由於饑荒和內部分裂，耶路撒冷終於在公元前５８６年陷落。尼布甲尼撒對一反再反的猶太國王無比痛恨，下令在猶太國王西底家的麵前殺死了他的幾個兒子，然後又刺瞎了西底家的眼睛，並用銅鏈鎖著西底家把他帶到巴比倫去示眾。耶路撒冷全城被洗劫一空，城牆被拆毀，神廟、王宮和許多民宅被焚燒。全城活著的居民幾乎全被擄到了巴比倫。這就是曆史上有名的“巴比倫之囚”。
公元前５３９年，新巴比倫又被波斯征服。波斯王居魯士釋放了囚禁在巴比倫的猶太人。但是，猶太人在回到耶路撒冷之後，並沒有過上和平的生活，不時遭到外族的侵犯。公元７０年，整個耶路撒冷被羅馬總督提圖斯淹沒在了血泊中，他不僅大肆屠殺猶太人，還將９．７萬猶太人變賣為奴隸。這些人有的被送到礦山采礦，有的成了羅馬鬥獸場的角鬥士。猶太人從此開始流落世界，成為沒有土地和國家的民族。
正是猶太人的苦難，使他們特別注意後代的教育，所以在人數有限的猶太人中，誕生了許許多多世界偉人，馬克思、愛因斯坦、弗洛伊德……如果沒有他們，也就沒有了共產主義理論、相對論和夢的解析，人類的曆史也許就不是現在這個樣子了。
幾千年的風霜雨雪，滄海桑田，遮不住它恒久不變的光芒。在人類邁往文明的道路上，它是不可或缺的屏障。