羊祜看得沒錯，杜預果然也是個卓越的統帥。他到任後先設了一道離間計，讓孫皓換掉了頗有能力的西陵總督張政，削弱了吳軍的西線實力。幾個月後，他再次向朝廷上表要求攻吳，司馬炎又陷入了猶豫中。正在這時，益州刺史王濬也向司馬炎上書請求出兵。為了製造攻打東吳所用的戰船，王濬在幾年前就去了四川，在益州製造了大批艦船，造船時削下的木屑沿著長江順流而下漂到東吳，當地的官員猜出了西晉的戰略意圖，向孫皓報告，但吳王孫皓荒淫無度，不修國政，魚肉百姓，對有識之士提出加強沿江防務的建議不屑一顧。待晉軍驟至之時，吳國基本上沒有形成任何有效的防禦體係。
從王濬開始造船到請求出兵，前後已經有7年了。早期製造的船已經開始朽爛，70歲高齡的老將王濬覺得自己來日無多，向司馬炎表示自己希望能在去世之前看到東吳的平定。在幾位得力大將的催促下，晉武帝決意大舉伐吳。
晉軍的戰略部署，基本采取了羊祜生前所製定的方案，20萬大軍分兵6路，在東西千裏的江防線上同時出擊。晉武帝派遣鎮軍將軍琅琊王司馬伷自下邳向塗中進攻；安東將軍王渾自揚州向江西出橫江渡口進攻；建威將軍王戎自豫州向武昌進攻；平南將軍胡奮自荊州向夏口進攻；鎮南大將軍杜預自襄陽向江陵進攻並越過長江、湘水進入交廣；龍驤將軍王濬、巴東監軍唐彬由巴蜀順江而下，直趨建業，並詔令王濬軍過建平後受杜預指揮，到建業時受王渾調度；太尉賈充為大都督，坐鎮襄陽，節製各軍。賈充一貫反對伐吳，受命之時還堅持說伐吳不利，而且自稱年邁力衰，不能勝任都督之職。晉武帝說：“你若不往，我便親征。”賈充不得已才任大都督。
騎馬陶俑（兩件）
公元279年12月，正當伐吳大軍全線進擊之際，司馬督馬隆率晉軍在涼州大敗鮮卑族軍，斬殺敵酋樹機能，徹底收複了涼州。晉朝西北邊境複歸平靜，使西晉王朝可以專心致誌東向攻吳了。
杜預、王渾二軍攻吳進展順利，所向皆克。杜預遣牙門大將周旨率兵800人夜襲樂鄉以接應王濬軍，待吳軍都督孫歆出戰王濬大敗而歸時，周旨所率奇兵隨同吳軍進入城內，俘虜孫歆。杜預率軍進攻江陵，吳將伍延假意投降，被杜預識破，於是，伍延被斬殺，晉軍攻取江陵。與此同時，胡奮也攻克江安，沅、湘以南直至交、廣諸郡見晉軍破竹之勢，皆表示歸降。
王濬統率唐彬軍共7萬人，是伐吳晉軍的主力。該軍順江而下，擊破丹陽吳軍，又掃清了吳軍在長江中設置的多種障礙，於公元280年2月攻占西陵，殺死吳軍都督留憲、征南將軍成據、宜都太守虞忠。2月5日，晉軍又攻克荊門、夷道二城，夷道監督陸晏戰死。在杜預一部兵力配合下，王濬軍擊殺吳水軍都督陸景。王渾軍向橫江進攻，以求在橫江以東地區建立渡江基地。
吳主孫皓得知晉軍王濬率部正在南下，緊張萬分，即令丞相張悌指揮丹陽太守沈瑩、護軍孫震、副軍師諸葛靚率3萬人馬逆江而上應戰。至牛渚，太守沈瑩提出，晉在蜀地經營多年，所建水軍十分強大，而上流的吳軍無所戒備，恐怕抵禦不住。晉國水軍必然攻取牛渚，吳軍應當集中全力嚴陣以待，與之決一死戰，如能獲勝，晉軍的攻勢便可瓦解。現在吳軍若渡江迎戰，實在不利，一旦失敗，則大事去矣。張悌拒不采納沈瑩的建議，認為晉國的蜀兵一旦到達牛渚，吳軍眾心駭懼，不可複整。吳軍進至板橋，與晉揚州刺史周浚部相遇。沈瑩率精兵5000人三次衝擊晉軍，都以失敗而告終，不得已率兵撤退，晉將薛勝、蔣班揮師追進，張喬也從吳軍背後發起攻擊，吳軍大敗，張悌戰死，吳將孫震、沈瑩等以下7800人被斬，僅諸葛靚領數百人逃走。吳軍在板橋的慘敗，震動了吳國上下。