奧斯曼遇刺後，哈裏發位置的爭奪白熱化。就像猶太教、基督教裏發生的故事一樣，伊斯蘭教也難以脫俗地分化為多個派別，其中最主要的兩個派別為遜尼派和什葉派。而兩派的分歧焦點在於如何選定哈裏發（遜尼派與什葉派的恩恩怨怨一直難以了結，直至今日）。經過雙方的激烈鬥爭，656年，穆罕默德的女婿阿裏成為第四任哈裏發，他也是最後一位通過正常的選舉程序產生的哈裏發。據記載，阿裏是第一個信仰伊斯蘭教的阿拉伯少年，後來他成為了穆罕默德小女兒法蒂瑪的丈夫。
穆斯林史學家將上述四位通過正常的選舉程序所產生的哈裏發稱為“四大哈裏發”，他們的執政時期被稱為正統哈裏發時代，以區別於此後阿拉伯帝國時代的哈裏發。
經過四任哈裏發的南征北戰，阿拉伯帝國的雛形基本形成。
阿裏死後，民主選決哈裏發的程序不複存在，阿拉伯曆史又回到了誰強誰說了算的軌道上。首先登上哈裏發王座的是實力強大的敘利亞總督穆阿維亞，他沒有按照曆任哈裏發的傳統將麥地那作為自己的都城，而是以自己盤踞的敘利亞大馬士革為首都，建立了倭馬亞王朝。
從此，哈裏發改為世襲，正式開始了阿拉伯帝國的君主時代。
也曾有過黃金歲月
倭馬亞王朝統治期間，阿拉伯人首次將伊斯蘭教傳入歐洲。
711年，已經統治了北非的阿拉伯人在穆斯林將領塔裏克率領下，渡過直布羅陀海峽，推翻了伊比利亞半島的西哥特王國，兵鋒直達比利牛斯半島北端的歐洲。不過，在阿拉伯軍隊意圖繼續北上、奪取高盧西南部時，遇到了對手，被迫止步於比利牛斯山以南。歐洲就此得救，伊斯蘭教向西方的傳播，遂到此止步。
阿拉伯人登上伊比利亞半島時，驚奇地發現島上居然有一大批自發前來歡迎自己的猶太人！原來，長期遭受日耳曼蠻族欺壓的猶太人，將阿拉伯人當成了自己的救星來迎接。同是閃族人的後裔，阿拉伯人沒有虧待擁護自己的猶太人。隨著西哥特王國的一些城市先後被征服，阿拉伯人就將不少城市委托給了猶太人管理。深受阿拉伯人信任的猶太人還進入了政府的上層，不少人擔任了高官。在此期間，猶太人活躍於社會的各個階層和領域，湧現了一批著名的哲學家、醫學家、藝術家，如最著名的猶太詩人和哲學家猶大·哈列維（1075—1141年）和多才多藝的猶太思想家摩西·邁蒙尼德（1135—1204年）。
在善於經商的阿拉伯人與猶太人共同打理下，西班牙一躍成為當時西方商業最繁榮之地，也形成了遠高於同時期西歐其它地方的文明，這也奠定了西班牙日後稱霸歐洲的基礎。
阿拉伯人與猶太人在西班牙一起幸福地生活了五百多年，這幾百年的幸福時光被猶太人深情款款地稱為“黃金歲月”。
不過，自從13世紀開始，歐洲的基督教徒開始自北向南重新征服這個半島（歐洲人美其名曰“光複故土運動”），猶太人的幸福生活就此結束了。這些皈依基督教的歐洲人闖入猶太社區，燒毀猶太人住宅，搶奪猶太人財物，逼迫穆斯林和猶太人皈依基督教。據記載，僅在1391年的反猶暴亂中，就有十萬名西班牙猶太人喪命。與反猶行動相配套，國王們也推出一係列經濟法令，對猶太人的生產、生活方式進行全方位限製，逼迫他們背叛自己的信仰。
盡管大部分猶太人寧死不願背叛自己的宗教，但他們已經在這塊土地上生活了幾百年，為了不離開這裏，一些人還是選擇皈依了基督教。但即使皈依基督教，西班牙人仍不放過這些猶太人，稱這些改教的“新基督徒”為“馬拉諾”，（在西班牙語裏，這個詞的意思是“豬”）。這種侮辱性的稱呼，後來被許多歐洲的歧視者使用，尤其在納粹統治德國時期，“猶太豬”幾乎成為猶太人的別名！猶太人即使轉教、承受著“猶太豬”的侮辱，依然難以得到主流社會的認同。
事實上，不少猶太人的確是為了生存而被迫改信基督教，而在其私生活中，仍然恪守猶太人固有的宗教信仰和傳統習慣。為了鑒別猶太人轉教的真偽，應“廣大百姓”的呼聲和要求，西班牙國王於1478年下令首次設立了“國家宗教裁判所”。從此之後，西班牙的猶太人陷入了空前的災難，不少改教猶太人被以不忠誠之名活活燒死在火刑柱上。而這種利用“國家裁判所”迫害異教徒的做法，後來被歐洲各國競相學習和效仿。據統計，在宗教裁判所存在的三個世紀中，西班牙和葡萄牙約有四十萬猶太人受到審判，其中三萬人被處死。
1492年，伊比利亞半島上穆斯林統治的最後的一片地盤，也是猶太人最集中的城市格拉納達被基督教徒征服，西班牙徹底淪陷。享受了幾個世紀平靜生活的猶太人，最終失去了僅存的立足之地，成為了基督教徒任意宰割的羔羊。