李克用死後，兒子李存勖繼位為晉王。一上台他就在與朱溫的交戰中，出其不意地解了潞州之圍，繳獲了大量的糧食軍械。後來李存勖多次擊敗了朱溫的軍隊，使敵人在心理上產生了恐懼，往往兩軍還未交手就紛紛潰散。朱溫感到自己後繼無人，不是李克用兒子的對手，所以感歎說：“生子當如李亞子，我的兒子比起來隻是豬狗而已。”
朱友貞即位後，李存勖集中全力要攻滅後梁，雙方連年混戰。朱友貞因為信用趙岩，外戚張漢鼎、張漢傑等人，大將出兵也派他們隨往監視。趙岩等人又仗勢弄權，賣官枉法，離間將相，賞罰不明，致使忠臣退避，上下離心，前線將領自相殘殺，與後唐交戰屢遭大敗。
李存勖步步得勝，他襲占楊劉，大戰胡柳陂之戰，又贏得了德勝渡口爭奪戰。兩軍爭奪這些黃河沿岸戰略要地，前後持續了兩年，雙方所用兵力均在10萬左右，反複拉鋸。交戰初期，由於梁軍占有這些據點和渡口，後援充足，所以處於有利地位。李存勖攻占之後，一方麵可以進一步鞏固新得到的河北地區，更為重要的是，突破了黃河這個後梁首都大梁（今河南開封）最大的屏障，對後梁構成了致命的威脅。
當時，李存勖的局勢也很危急：後梁大將段凝奪取黃河北岸德勝以西的衛州，契丹軍隊又時常圍攻幽州，潞州的後唐守將李嗣昭之子李繼韜投降後梁。這些使得後唐內部人心不一，以為後梁難以攻取。但機會終於來了，後梁駐守鄆州的將領盧順投降了後唐，盧順透露了鄆州的虛實：“鄆州守城士兵不到一千人，守將又不得人心，可以派兵襲取。”但大將郭崇韜認為孤軍深入，勝利的把握不大。
李存勖分析了全局形勢，認為後梁此時由於西麵的潞州剛剛歸降，注意力已集中於西麵，而東麵準備不足，防守鬆懈，正可以趁機襲占鄆州，動搖其軍心。他派猛將李嗣源率領精兵五千從德勝出發，沿黃河北岸向東急行至楊劉，在雨夜的掩護下秘密渡過黃河，然後揮師直搗鄆州城。梁軍毫無戒備，在後唐精兵的強攻下大敗而歸。鄆州拿下之後，後梁的腹心暴露無遺。從鄆州到大梁已無天險屏障可守，後梁的滅亡隻是時間問題了。
後來，李存勖召見了剛剛歸降的後梁將領康延壽，康延壽為李存勖分析了後梁的形勢：後梁的地域並不狹窄，兵力也不算少，但是朱友貞懦弱無能，致使政治腐敗，賄賂成風，選才用將不以才德與戰功為標準。將帥出征也要派近臣監視，主帥無法自己調兵遣將。所以後梁的敗亡局勢已定。最後康延壽向李存勖獻出滅梁大計：“梁兵聚集則勢眾，分兵則勢薄，陛下現在應該養精畜銳，等其分兵之後，選擇良機率精銳騎兵五千從鄆州直趨大梁，活捉朱友貞，十天或者半月必然大功告成。”
不久，李存勖所部精銳從楊劉渡河南進，初三即進入鄆州城，子夜時分跨過汶水後，命李嗣源為先鋒攻擊前進。初四早晨與梁軍交火，大獲全勝，並攻占後梁的中都（今山東汶上）。此時，有的將領認為，雖然傳言汴州空虛，但不知情報是真是假，主張穩妥用兵，先向東進攻，再尋機而動。康延壽則極力主張迅速發兵汴州，李嗣源也主張晝夜奔襲，趁梁軍未知內情時先奪下汴州。唐軍士氣高昂，初四傍晚時分，李嗣源便奉命率軍快速出擊，趁夜急進。第二天，李存勖率部緊隨跟進。在初七這天，唐軍騎兵圍攻曹州（今山東定陶西），梁軍守將毫無防備，隻得投降。兵不血刃占領曹州之後，唐軍馬不停蹄繼續向西飛弛前進，直逼汴州。
朱友貞得到曹州失陷的消息後，驚慌不已，急忙召集群臣商討對策，眾人無計可施。朱友貞日夜痛哭流涕，不知如何是好，召來老臣敬翔詢問退敵之策，敬翔數落一番他用人過失後，說縱使張良再生也無法挽回敗局了，抱定殉國的決心別他而去。