顯然，唐玄宗與楊國忠這對君臣把形勢估計得太樂觀了。作為一個實戰經驗非常豐富的將領，安祿山早已對起兵謀反一事做了周密的布局。首先，為了防止走漏風聲，安祿山保密措施做得非常周密，舉兵謀反的事隻與親信嚴莊、高尚、阿史那承慶三人相商。直到起兵前幾天，安祿山才召集其餘眾將說明起兵的事情。為了使自己的叛亂得到眾人的支持，安祿山竟偽造了詔書，並當著諸將的麵宣讀：“皇上有密旨，令安祿山領兵入朝討楊國忠，諸君宜即從軍。”安祿山此舉很好地掩藏了自己的造反意圖，把自己的行動合理化。諸將聽後，心裏不免疑竇重重，但沒有一人提出反對意見。起兵之前，安祿山派遣將軍何千年、高邈等率輕騎二十名，於叛亂前一天到達太原，劫持太原副留守。這是安祿山為迷惑唐玄宗而製造的假象，讓其誤以為叛軍將要進攻太原。安祿山的真正意圖是沿著唐高祖李淵當年的行軍路線，南下奪取洛陽，最後奪取關中長安。
安祿山乘著鐵甲戰車，親率主力部隊夜行快速推進，所到之處，煙塵彌漫千裏，殺聲震天動地。見到安祿山叛軍氣勢洶洶地奔殺而來，沿途百姓十分恐慌，地方官員或是逃跑，或是投降，或是被殺。叛軍勢如破竹，所向披靡，基本上沒有遇到任何抵抗。僅僅用了十天時間，叛軍就占領了河北地區。隨後，叛軍橫渡黃河，進入河南境內，首當其衝受到威脅的是陳留。陳留守將張介然親率近萬名戰士，登城樓抗敵，但以不足一萬的兵力抵抗叛軍15萬大軍，寡不敵眾，加上守城士兵大多是一些臨時招募而來的壯丁，根本沒有受過專門的軍事訓練，很快陳留失守，張介然英勇就義，近萬將士也慘被殺死。叛軍自進入河南以來，屢戰屢勝，士氣大受鼓舞，於是乘勝追擊，又用了很短的時間攻下了滎陽、武牢、葵園等地，直逼東都洛陽城。
洛陽城東有三座門，靠北的是上東門。駐守洛陽的封常清在武牢、葵園等地吃了敗仗後，不得已退入此門。然而叛軍窮追不舍，封常清與叛軍在此鏖戰數日，不勝；於是退守宣仁門，再敗；繼而從提象門出來，砍伐大樹，阻塞道路；最後從林苑西邊壞牆逃走，西奔陝郡，與鎮守陝郡的副元帥高仙芝會師。高仙芝原想調集5萬兵力支援封常清，所以在潼關沒有留下兵力把守。誰知大軍剛剛開進到陝郡，洛陽即被攻破，使陝郡也麵臨著極其嚴峻的形勢。考慮到叛軍氣勢如日中天，勢不可擋，且潼關是長安的門戶，如若潼關失守，則叛軍可直搗京師長安。於是高仙芝與封常清決定放棄陝郡，全力守住潼關。
洛陽淪陷，繁華的東都遭受了百年來未曾有過的重大浩劫。叛軍奸淫擄掠，殘害百姓，無惡不作，給人民帶來了深重的災難，給社會造成了巨大的破壞。安祿山的叛亂使本來就岌岌可危的唐王朝統治更加走向窮途末路。