原來契丹兵圍繞著桓州建起營寨，隔絕了桓州和外麵的通信，雖然有人僥幸能送出信去，但是卻無論如何不能將信送進城來。每天契丹兵飽餐戰飯之後，便上馬繞城挑戰，呼哨連天，桓州城裏人心惶惶。加上圍城日久，城中的糧草不夠繼續維持，將士們幾次向杜威請命，要他開城和契丹兵決戰。杜威隻是不許。到了後來，已經沒有別的辦法了，杜威也不說拚死一戰，反而把眾將召集起來商量說，現在如果想要活命，就隻有投降契丹一條路了。眾將官聽到主將如此說法，各自麵麵相覷，自然也有忠義之士憤而出列指責杜威說，將軍你是一軍的主帥，現在我們雖然形勢危急，但畢竟沒有戰敗，你居然腆著臉投降契丹，將來該怎麼去麵對朝廷和後晉的百姓呢？杜威厚著臉皮說形勢如此，我不能不委曲求全啊。其他眾將大都是貪生怕死之徒，其實心裏早就有此打算，現在既然是主帥自己提出，樂得隨聲附和。於是杜威竟然立即派自己的心腹將領，出城去見耶律德光。耶律德光本來圍城日久，看到契丹將士們有些疲憊，又擔心援軍趕來阻斷自己的後路。正和手下眾臣商量看是不是過兩天就收兵北歸呢，突然天上掉下一個餡餅來，連自己都不敢相信。強捺住內心的狂喜對杜威派來的使者許願說：“我臨來中原之前，任命趙延壽為前鋒的時候曾經對他說，如果將來得了中原，便任命他為中原的皇帝。但是趙延壽的威望不夠，資曆也淺，不足以為中原皇帝，你回去告訴杜威，如果他真的投降，我便命名他為中原皇帝。”杜威沒想到耶律德光居然如此說，他本來隻不過想保住自己的性命，哪知道耶律德光還許給自己如此富貴，哪裏還有不從。立刻便下令讓全軍整兵，開城列陣。手下的兵士們還以為杜威這下是慫人有了暴膽，一個個都摩拳擦掌，等待和契丹兵廝殺。誰知道過了一會杜威出來卻宣布道：“我們現在已經沒有了糧草，窮途末路，我作為你們的首領，當然要為你們的生路考慮，所以已經向契丹納了降書，大家這邊把身上的盔甲卸下，兵器扔到地上，跟我一起去拜見契丹主子吧。”說罷帶頭就走。將士們個個驚愕無比，但是事出突然反應不及，隻得跟著杜威出城，投降了契丹。
進了契丹兵營，耶律德光親自出來接見，命令左右取過契丹的官袍，讓杜威披上，隨後悄悄叫過來對他說，你不要擔心，我不會食言的。杜威感激涕零，爬到地上給耶律德光磕著頭說願意領兵入大梁。耶律德光大喜，便讓杜威替代趙延壽做前鋒，兵不血刃便說降了代州、易州、義武、安國等地軍隊。大梁已經盡在咫尺，張彥澤這時向耶律德光上言說，我原來就是鎮守大梁的將領，對大梁各處的兵防布置非常熟悉，而且現在鎮守大梁的兵將們都是我的下屬，我願意先帶人入大梁。耶律德光便轉而讓張彥澤率軍奔赴大梁。石重貴萬萬沒有想到自己最信任的兩個人竟然叛變了，現在京城中已經沒有任何兵力來抵擋敵人，情急之下，便向各處駐軍發下了告急文書，要他們速速前來勤王，劉知遠便是看到此信而驚訝。
連忙叫過郭威來商量，郭威看罷石重貴信上所言，沉吟半晌說道：“事情已經到了這個地步，杜威的軍隊再加上契丹的部隊，最少也有十五六萬，我們就算派兵前去大梁，一個是趕不及，即使趕得過去，也無法和敵軍抗衡。石重貴即位後任用佞臣，遠離忠良，即位之初不說勵精圖治，反而去勾引自己的嬸娘，這也是後晉的氣數已盡的表現。我們還是留在河東按兵不動，靜觀下一步事態發展吧。”
劉知遠也點頭說道：“我也是這個意思，用兵這種事情，講究的是輕重緩急，應該隨時隨地製宜，不能一概而論。現在契丹剛剛收降了後晉十萬大兵，大梁卻沒有多少守兵，肯定立刻就土崩瓦解了，契丹以京城為據點，還不知道下一步會怎麼樣，我們怎麼能夠隨便出兵呢？後晉滅亡看來是不可避免了，我們還是為自己多打算吧。”兩個人商量完畢，當即更加加緊招募兵馬，養精蓄銳，靜觀事態發展。
張彥澤帶兵洋洋得意來到大梁，大梁城中已經完全沒有守衛力量，順順當當就進了城，石重貴本來想自焚身亡，但卻被身邊的臣子們所阻攔，無奈隻得給耶律德光寫了一道降書，讓張彥澤遞交過去。又過了幾天，耶律德光便率兵進了大梁，後晉就此滅亡。耶律德光開始還嚴刑峻法，申明軍律，不讓劫掠百姓。宮門也封閉，不讓軍士出入。耶律德光自己也沒有進宮，接管了後晉政務，任命了官員之後便又領兵屯到了赤崗。過了兩天，城內各處都發生了騷亂，軍士們橫衝直撞，任意騷擾百姓，恣肆四方。下級軍官眼看不能約束，竟然也率眾哄搶財物、焚掠都市、殺人滿街。城裏麵稍微富裕一些的人家，十室九空。契丹將士們遠奔而來，哪裏肯空手而歸，隻可憐了大梁的黎民百姓，被後晉潰軍和契丹兵士們雙重欺壓，真正是苦不堪言。
清晨空寂淒涼，天穹間一道霧蒙蒙的黑幕，將一切都籠罩在凝重的使人窒息的幽暗中。
一個體魄雄偉的人影，獨行於素來號稱繁華的大梁城中，橫穿過一條長街，幾乎由城東走到城西，竟沒看到一個商賈市民，沒聽到一聲雞鳴犬吠。逐漸明亮起來的曙色中，一切都靜的令人不安，直到東方升起一輪毫無瑕疵的朝陽，汴梁城內還是顯得冷冷清清的沒有生氣，連那撲麵而來的有幾分暖意的春風，都顯得這樣淒淒慘慘，揚起的黃沙衰土，吹得人淚眼迷離，心緒悲涼。陽光照耀下，四處都是斷壁殘垣。黑的象灶堂一樣的斷壁，燒光了頂子的殘端，一堆接著一堆的瓦礫，無聲地描述著契丹鐵騎的殘暴，隻有那街頭寬闊處，依稀可辯星星點點的酒樓，客棧的門麵和字號，似在這裏證實曾有過繁華熱鬧的街市。郭威看著這一切，和他以前記憶中的汴梁是如此不同，禁不住感慨萬分，隻不過數年光景，汴梁城便已經如此蕭條，他深深歎一口氣。他這次前來，是奉了劉知遠的命令，前來汴梁探查耶律德光的態度。
自從後晉滅亡，耶律德光到了汴梁之後，傳令四處的節度使，讓他們來覲見，各地節度使眼見契丹勢大，而且耶律德光似乎也沒有想法要罷免自己的官職，若是不去見他，反倒惹得他不高興，派兵來攻打自己，那就不太劃算了。所以都親自來到汴梁麵見耶律德光。劉知遠也接到了耶律德光的令旨，不過他根本沒有放在心上，還是郭威勸他說，既然後晉已經滅亡，耶律德光現在也盤踞在大梁，直接對抗是非常不明智的。劉知遠也讚同郭威的意見，但是左思右想，自己下一步既然是要稱帝，首先就是要籠絡人心，如果和其他節度使一樣親自上京去麵見耶律德光，被百姓們知道了恐怕會不齒自己的行為。如果派遣自己的手下入京，既給耶律德光留了麵子，也給自己留了後路。想到這裏，他便密令郭威準備好上京的財物，然後由郭威出麵上京去拜賀，同時注意觀察一下契丹的情況，以及中原百姓的民情。郭威領命前來，耶律德光聽說他是河東派來的使者，倒也不敢怠慢，隻是言談舉止間隱約透露出信息，希望劉知遠還是能夠親自來覲見一次。郭威也不願多呆，辦完事情便返回了河東。
回到河東，便把自己這一路上的所見所聞告訴了劉知遠，兩個人都是感慨良多，郭威說現在民心大體還是傾向於後晉的，劉知遠便有些心動，問郭威說：“如果我現在起兵，你覺得最後成功的機率會有多大？”郭威說：“我這一路上已經考慮過這個問題，現在契丹剛剛進入中原，兵強馬壯，雖然中原百姓都痛恨外族入侵，但是僅靠民心向背還不能成事。最好的辦法還是繼續等待。契丹南侵中原，並不是想要中原的土地，隻不過貪圖中原的財物罷了，而且天氣現在逐漸暖和起來了，他們也不可能放棄自己北方的土地，來中原做農耕，所以最後必然是要走。到那時，想必會重新指定一個人來做中原的領袖，我們在那時候起兵，應該是恰當的時機。而且我這次上京，見到了不少其他地方的節度使，他們雖然名義上都投降了遼國，但因為兵權還在自己手裏，所以隻不過是暫時的。等到遼國向他們索求的時候，他們必然會進行反抗，我們到時候也正好可以借勢來起兵。”劉知遠欣然同意，於是一方麵在表麵上仍然對契丹恭恭敬敬，另一方麵卻加緊招募士卒，厲兵秣馬，就等著機會一到便起兵抗遼。
事情果然如同他們預想的那樣，過了沒有多長時間，契丹和中原這些節度使的短暫蜜月期便結束了，各地節度使有的起兵抗遼，有的也開始疏遠遼國，對於耶律德光的令旨也是百般推諉，而契丹也準備整兵歸國。就在這個時候，有一個不願向契丹投降的節度使何建歸附了西南的後蜀，劉知遠聞訊後感歎道：“胡人入侵，中原無主，致使藩鎮向外投靠，我身為一方主帥，實在感到慚愧。”這番話被郭威得知，知道劉知遠已經非常心急當皇上，於是趁夜入見劉知遠勸說道：“河東地區山川險固，盛產戰馬，當地的百姓們崇尚勇武，平時在田裏耕作，但是一旦發生變亂，就可以立即披掛上戰場，這就是成就霸業的資本啊。而且主公已經謀劃這麼多年，現在完全可以起兵抗遼，以得天下士子之心。”劉知遠還裝模作樣得說道：“可是後晉石氏對我恩重如山，我現在若是建國，豈不辜負了他們。”郭威笑著說：“既然如此，我們可以繼續沿用後晉的年號啊。”劉知遠手下那些渴望建功立業謀取富貴的將士們也都紛紛勸說劉知遠早日稱帝，劉知遠自然有些心動，可是考慮再三仍舊沒有答應，晚上回到後堂獨自歎息，他的夫人劉氏看他心事重重，便問他為何事憂愁。劉知遠便告訴她說：“現在天下人人思晉，而契丹正要準備北歸，我謀劃多年就是為了等這個機會，現在若是能率先舉起抗遼的大旗，必然能夠得天下，但是要起兵需要大量的軍費，我現在卻沒有足夠的積蓄。看來隻有一個辦法，明天下令，加大河東百姓們的賦稅，盡早湊足軍費以起兵。但是這麼一來，必然加大百姓的負擔，所以有點猶豫。”劉氏聽完對劉知遠說：“大王你現在起兵，打得是恢複國土的旗號，別人都把你當義兵來看待，可是百姓們尚未因為你起兵而受到實惠，反而先要剝奪他們的財產，這可不是一個新天子該做的事情。如果軍費實在不夠，我後宮尚且有一點積蓄，明天就全部捐到軍中去，雖然可能不夠你軍餉的數目，但是將士們看到我們夫妻如此行事，也會諒解一些的。”劉知遠覺得夫人說得有道理，便也斷了加重課稅的念頭。第二天劉皇後果然將自己的私房全部捐做軍餉。消息傳開，將士們個個感激涕零，紛紛表示願意效死軍前。郭威眼看時機已到，便在暗中準備。
這天將士們接到命令，齊齊聚到教軍場上，郭威站在高台上振臂高呼，言明要去迎立主上。將士們中間早已經安插好了心腹，這時便大聲喊道：“後晉已經滅亡，沒有了皇帝，卻叫我們去哪裏迎立？不如先讓北平王即位，然後再出師抗遼，興複中原。”將士們也個個稱是。郭威便派人將劉知遠也請到場中，當麵將兵士們的話語轉述了一遍。劉知遠推辭說：“契丹現在兵勢正強，我軍卻還沒有準備好，應該趁著這個時候繼續建功立業，而且後晉雖亡，我們仍然是後晉的臣子，怎麼能隨便稱帝呢？”將士們不依，高聲大呼萬歲，劉知遠假意掩耳不聽，心中卻是暗喜。到了晚上，郭威又授意河東眾屬下齊齊上書，請劉知遠稱帝，劉知遠自然不肯，眾人連上了幾道書，最後郭威也親自出麵勸說道：“後晉已經亡國，契丹準備北歸，中原眾人都盼望有人出來領頭，這是天時；河東是重鎮，即使失敗也不至於落荒無處投身，這是地利；現在兵士們都想驅除胡虜，隻等大王一聲令下，這是人和。天時地利人和都聚在一起，大王若是還不盡早決斷，將來必然會後悔的。大王若是再推辭，恐怕有人別有用心，那時就更不好收拾了。”劉知遠假惺惺的說道：“話雖如此，但我始終不敢忘了後晉，就算明日稱帝，也不能改了後晉的國號，仍舊要延續後晉的紀年。”郭威笑道：“這沒有什麼，明日便請陛下登基。”
公元 947年二月十五日，就在中原地區民怨沸騰，契丹的統治開始動搖的時候，眾望所歸的劉知遠抓住時機，在晉陽稱帝，仍沿用後晉年號。人們常說：時勢造英雄，契丹南侵後晉滅亡本是中原王朝的悲劇，但亂世梟雄劉知遠正是順應天下形勢的需要，利用晉陽這個退可阻拒契丹進可南取中原軍事重鎮，樹起反遼旗號，收取民心，及時稱帝，成就霸業，從一個底層士卒走入了真龍天子的行列。這一年三月，耶律德光引兵北歸，劉知遠率軍南下，契丹留守官吏紛紛投降，劉知遠沒有費什麼周折就一路順風地進入了大梁，不久改國號為漢，史稱後漢。