表麵上，誰都以為杜伏威和輔公祏是生死之交，可事實上這種關係早已不複存在。在造反初期，他們之間或許還有點惺惺相惜、相濡以沫的味道，可隨著時間的推移和環境的變化，他們二人便漸行漸遠，從冷淡和隔膜走向了互相防備和猜疑。後來杜伏威的地位越來越高，輔公祏既羨且妒，可他城府極深，從不表露。內心越是覬覦權力，輔公祏的外表就越是裝得滿不在乎，最後甚至和老友左遊仙成天煉丹修道，以不食人間煙火之狀斂藏自己的鋒芒，淡化杜伏威的戒心。
然而，杜伏威對他的戒心始終沒有解除。
常年在刀口上討生活的人，沒那麼容易被人麻痹。
但是表麵文章總是要做的，輔公祏既然表現得如此低調，杜伏威當然也沒什麼理由跟他翻臉，所以始終把輔公祏放在二把手的位置上。
如果沒有劉黑闥等人掀起的波瀾，杜、輔二人的太極推手也許會一直這麼打下去，誰也別想把誰怎麼著。可後來時勢大變，杜伏威不得不入朝，而且不得不把丹陽的行政大權交給輔公祏。臨行之前，杜伏威特意把他的義子、麾下猛將王雄誕安插在輔公祏身邊，命他掌管軍權，並鄭重叮囑說：“我到長安後，如果一切順利，千萬不能讓輔公祏生變！”
王雄誕是一名勇將，膽識和忠心都不缺乏，可唯獨缺乏心計。所以杜伏威入朝不久，輔公祏就略施小計奪取了王雄誕的兵權——他放出一條消息，說他接到杜伏威的一封密函，信中對王雄誕的忠心甚表懷疑。王雄誕立刻中計，從此心灰意冷，托病不入州衙，軍政大權隨即落入輔公祏手中。
直到輔公祏做好了一切叛變準備，派人對王雄誕發出最後通牒，逼他入夥時，王雄誕才如夢初醒，悔之莫及。他對來人說：“而今天下方平，吳王（杜伏威）又在京師，大唐兵威，所向無敵，奈何無故反叛，自求滅族？雄誕唯有一死而已，不敢自陷於不義！”隨即被輔公祏縊殺。
隨後輔公祏便迫不及待地揭起了反旗，在丹陽登基稱帝，國號為宋，設立文武百官，命左遊仙為兵部尚書，同時聯合洪州（今江西南昌市）的變民首領張善安，命他為西南道大行台。
輔公祏之叛，無疑讓杜伏威百口莫辯。
而且輔公祏又是處心積慮打著他的招牌，說是奉他的密令起兵，擺明了就是要借朝廷之刀置他於死地。
杜伏威意識到——自己的功名富貴和身家性命就這麼被輔公祏一夜之間全給毀了。
八月二十八日，李淵下詔，命各地唐軍兵分四路：趙郡王李孝恭率水軍向江州（今江西九江市）出發；嶺南道特使李靖率交州、廣州等地軍隊向宣州（今安徽宣州市）出發；懷州（今河南沁陽市）總管黃君漢自譙亳（今安徽亳州市）出兵；齊州（今山東濟南市）總管李世勣自泗水出兵，一同討伐輔公祏。
九月，輔公祏命大將馮慧亮、陳當世率水軍三萬進駐博望山（今安徽當塗縣西南），另派陳正通、徐紹宗率步騎三萬進駐青林山（今安徽當塗縣東南），兩軍互成犄角，協同攻防；此外，宋軍又在梁山（今安徽和縣南）一帶的長江兩岸拉起鐵鏈，橫斷江麵，以此阻擋唐朝的水軍，並且在沿岸修築了大量堡壘，綿延達十多裏，最後在長江西岸安營紮寨，嚴陣以待。
宋軍迅速在唐軍麵前築起了一道銅牆鐵壁。
十月，李孝恭和李靖的水軍合兵一處，進抵舒州（今安徽潛山縣）；與此同時，李世勣率步兵一萬南渡淮河，攻占壽陽（今安徽壽縣），並進駐硤石（今安徽壽縣北）。
十一月，宋軍將領陳當世率部南下阻擊唐軍。唐舒州總管張鎮周出兵迎戰，在猷州（今安徽涇縣）的東南麵大破陳當世。
十二月，唐安撫使李大亮在洪州設計誘捕了宋西南道大行台張善安，並擊潰了他的部眾，成功斬斷了輔公祏延伸出來的一隻臂膀。
武德七年（公元624年）正月十一，李孝恭和李靖一路向長江下遊挺進，先是進圍樅陽（今安徽樅陽縣），擊破駐守此地的宋軍，繼而在二月初攻克鵲頭（今安徽銅陵市北），隨即向馮慧亮駐守的博望山挺進。
正當李孝恭和李靖勢如破竹、直搗宋軍腹地的同時，杜伏威忽然在長安暴斃。
杜伏威之死非常蹊蹺，各種史書的記載都很簡略。《資治通鑒》隻寫了一個字：“薨”；而《舊唐書》隻說了兩個字：“暴卒”；隻有《新唐書》給出了死因：“伏威好神仙長年術，餌雲母被毒”。雲母是道家的一種丹藥，可見杜伏威是服食丹藥中毒而死。但問題是，這丹藥究竟是杜伏威自己過量服用而死，還是因某種外在力量的逼迫服食而死？換言之，杜伏威到底是自殺還是他殺？