漁陽鼙鼓動地來，安祿山叛亂的消息傳到長安，玄宗還以為是謠言。得到確訊之後，滿朝文武無不驚慌失措。楊國忠卻自以為有先見之明，在朝廷上說大話，他對玄宗說：“如今反亂的不過隻是安祿山一個人而已。陛下不必擔心，不出十天，叛軍必生內變，安祿山的腦袋一定會被送到京城。”玄宗聽了楊國忠的話，滿以為官軍強大，安祿山的叛亂並不可怕，在驚慌之中，對叛軍仍掉以輕心，隻派幾個將領到洛陽和太原臨時募兵抵禦。
前線失敗的消息不斷傳來，唐玄宗才調安西節度使封常清任範陽平盧節度使，到洛陽招募軍隊，並拆掉河陽橋（今河南孟縣北），防止叛軍過河。任郭子儀為朔方節度使，守衛北方。新置河南節度使，由衛尉卿張介然擔任，領陳留等13郡，防守黃河以南。以皇子榮王李琬為元帥，右金吾大將軍高仙芝為副帥，宦官邊令誠為監軍，率領在長安的弓廣騎和新招募的市井子弟6萬人屯駐陝州（今河南陝縣），扼守關中門戶。
河南節度使張介然剛剛到陳留（今河南開封市）上任，沒有幾天，叛軍就涉冰渡過黃河，兵臨陳留城下。太守開門投降，張介然和守軍數千人全被安祿山殺害。接著，叛軍繼續西進，屯兵滎陽（今河南鄭州市）城下。
守衛滎陽的官軍士兵從來沒有打過仗，一見叛軍來勢凶猛，個個膽戰心驚。他們守在城頭，沒等正式交戰，就被叛軍的擂鼓鳴號聲音嚇破了膽。有的士兵被嚇得眼花腿軟，從城牆上跌落下來。滎陽很快落入叛軍手中，東都洛陽危在旦夕。
唐玄宗派封常清在洛陽抵禦叛軍。封常清十天之內招募了6萬新兵。這些新兵沒有經過訓練，根本不是叛軍的對手。當叛軍進逼洛陽的時候，封常清率領這6萬新兵在城外同叛軍接連打了三仗，三仗皆敗。封常清隻得退回洛陽城裏。幾天後，叛軍攻破了洛陽城。封常清丟盔棄甲，率領殘兵敗將逃到陝州。
這時，防守陝州的是唐將高仙芝，封常清勸高仙芝放棄無險可守的孤城，退守潼關，以防叛軍突入關中，這一正確的建議得到高仙芝采納。兩人合兵退守潼關。果然，叛軍殺到潼關，百攻不入，被迫停留在關外。
監軍宦官邊令誠和高仙芝不和，他向唐玄宗誣告高仙芝和封常清兩人擅自撤退，無故丟失幾百裏土地。玄宗聽信讒言，命邊令誠在潼關處死高仙芝和封常清。二將臨刑前，部下大聲喊冤。他們的被害使唐朝軍心沮喪，將領寒心，影響很壞。
玄宗殺了封常清和高仙芝，改派身患重病的安西、隴右節度使哥舒翰駐守潼關。
這時候，叛軍長驅直入的勢頭開始被遏止。由於叛軍所到之處，燒殺搶掠，無惡不作，在叛軍的後方，掀起了如火如荼的反擊叛軍的鬥爭，安祿山的處境開始變壞。平原（今山東德縣）太守顏真卿、常山（今河北正定）太守顏杲卿首先起兵，聯絡河北17郡，切斷叛軍前線和範陽老巢之間的交通線。河北17郡又重新歸順朝廷。
756年（唐天寶十五年正月），安祿山在洛陽稱帝，國號燕，年號聖武。他所占的地方，在河北隻有6個郡，在河南也隻有潼關以東一片土地，被迫停止進攻潼關。常山的顏杲卿起兵8天，叛將史思明便以優勢兵力攻陷常山，杲卿被俘。他被押送到東都後，大罵安祿山，慷慨就義。常山雖陷，但不久，朔方軍大將郭子儀、李光弼率軍出太行山，又收複常山，屢次打敗史思明。河北民間群眾自發組織的武裝，不斷打擊叛軍。
756年（唐天寶十五年五月），唐軍郭子儀、李光弼反擊叛軍，攻勢迅猛，大破史思明於恒陽城下，斬首4萬餘人，史思明墜馬扶斷槍逃入營中，率殘兵退守博陵（今河北定縣）。郭子儀進攻博陵，軍威大震，河北10餘郡紛紛殺叛軍守將，歸順朝廷。唐軍的勝利，使安祿山非常恐慌，把謀士嚴莊、高尚召集罵道：“你們多年來一直教我反唐，說是萬無一失。現在潼關堅守，幾個月都不能前進。我軍北方的退路也已被切斷，受到四麵圍攻。萬無一失，又在哪裏？”
形勢對唐政府有利，但是腐敗的唐朝統治者卻不能發展這一形勢，反而亂指揮。潼關天險，道路狹窄，易守難攻。唐軍在關外挖了三道壕溝，各有2丈寬，1丈深。叛將崔乾祐屯兵陝州，半年時間，也無法將潼關攻下。哥舒翰決心守險待機，戰略是正確的。郭子儀、李光弼也說潼關隻宜堅守，主張用朔方軍先打範陽，捉住叛軍家屬，逼其瓦解。這個主張在當時也是可能做到的。可是，楊國忠懷疑哥舒翰想利用兵權推翻他，向玄宗訴說了哥舒翰按兵不動，另有所圖。唐玄宗聽信讒言，連續不斷地逼哥舒翰打出潼關，進攻陝州。