於是，關於劉邦的種種神奇的傳言迅速傳開，許多老百姓都相信他是赤帝之子，是真命天子而願意歸順他，劉邦也樂於接納各種力量，他率領隊伍遊蕩於芒、碭的山澤之間，勢力一步步壯大起來，他也因此被當地人稱為沛中的豪傑。
這時候，以陳勝、吳廣為主的各地反秦力量風起雲湧，氣勢越來越高漲，沛縣的縣令也想響應起義軍來保全自己，他的手下蕭何和曹參就向他建議說：“大人是秦朝的官員，現在想反抗秦朝，領著沛中弟子起兵，恐怕難以服眾。依屬下看，大人最好把那些逃亡在外的人召集回來，這樣就能聚集幾百人，大家就會有所依附，自然就聽您的了。”縣令聽後覺得很有道理，就表示同意，並且派劉邦的連襟樊噲去請劉邦。但是，還沒有等到劉邦進城，縣令就後悔了，他早就聽說了劉邦斬白蛇的故事，害怕劉邦一旦入城之後會難以控製，眾人擁戴劉邦而不擁戴自己。於是，縣令下令城門緊閉，不讓劉邦入城，並陰謀借機殺死蕭何、曹參等人。蕭何、曹參聞訊後，紛紛逃出城去與劉邦會合。當時為劉邦駕車的，就是他的老朋友夏侯嬰，看來跑出沛縣投靠劉邦的吏員，還不止曹參與蕭何兩人。這時沛縣的縣令已動員各裏社父老統領子弟跑上城頭備戰。劉邦沒有下達攻城令，而是寫了一篇致父老的布告，用羽箭射上城頭。布告稱：天下人苦於秦朝很久了！現在父老們為沛令守城，等群雄並起而攻，勢必屠戮全城生靈。假如今天沛人一起殺了沛令，從子弟中選擇一個可推舉為首領的人，響應群雄，那麼大家都可以保全家園。不然，父老子弟都遭屠戮，這是沒有必要的。
父老們傳閱了劉邦的布告，都認為他說得在理，便率領子弟們一起將這位出爾反爾且平時就不體恤百姓的縣令殺死，打開城門，迎接劉邦進城。可以設想，盧綰的父親，呂雉的父親，以及盧綰、周勃、奚涓、紀信等一批劉邦的同夥和好友，都在這起政變中發揮了鼓動和帶頭作用。
接著，蕭何和沛縣的百姓們決定一起推舉劉邦做縣令，劉邦心裏暗自高興，嘴上卻推辭說：“天下形勢紛擾，群雄並起，假如現在沒有安排妥善，一朝破敗，就會肝腦塗地。我劉季無德無能，恐怕難以勝任。擁立首領是大事，大家還是推舉更有德行的人吧。”
沛縣的百姓齊聲說：“我們早就聽說了你的事情了，你是大貴之人，不用推辭了！”於是劉邦稱沛公，在縣衙裏樹起大旗祭天地，並宣布自己是赤帝之子，奉天命誅無道之秦，正式宣布反秦。在蕭何、曹參、樊噲等人的輔佐下，劉邦逐漸站穩了腳跟，他正式進入了秦末群雄逐鹿的政治、軍事鬥爭當中，這一年是秦二世元年的九月，劉邦已經48歲了。
在劉邦起兵反秦後，秦末農民起義戰爭已經進行得如火如荼。陳勝和吳廣的起義，是反抗暴政的先鋒，可惜他們的軍力弱小，無法抵抗秦軍，而自己又內訌迭起，不久就潰不成軍。
公元前208年，陳勝起義軍在澠池（今河南澠池縣）遭到秦朝大將章邯所率軍隊的鎮壓。陳勝部將大多戰死，吳廣被叛徒田臧殺害。陳勝從陳郡敗走，退到下城父（今安徽渦陽東南），被車夫莊賈殺害。陳、吳的起義宣告失敗。這時，項羽和他的叔父項梁以8000兵從江東之地出發，渡過長江北上，準備進攻薛地，同時在各地的義軍也紛紛響應，頓時項軍成了幾十萬的大軍團，也就成為各地起義軍的中心。
劉邦在沛縣起義後，不停地攻打鄰近的各縣，和秦軍展開了一進一退的拉鋸戰。到了公元前208年的4月，劉邦到薛地拜訪項梁，決定和項梁會軍共同抗秦，因而成了項梁軍下的一個支隊。由於這次的會合，劉邦的軍團強化了許多，而更值得慶幸的事是，劉邦得到了一個軍師——張良。張良精於“太公兵法”，給劉邦提供了很多的戰略指導，對於劉邦能得天下，功不可沒。
劉邦加入項軍兩個月之後，項梁接受了謀臣範增的獻策，找到了一位叫做“熊心”的曾被秦所滅的楚王的血親，讓他登上王位，即為楚懷王，以他作為各義軍的盟主。此時，劉邦的軍隊，也增加到一萬四千多人，他正應和著項梁準備攻打鹹陽。
與此同時，秦將章邯已經攻滅了魏國和齊國。到了公元前208年7月，楚軍經過休整，開始向秦國反攻。楚軍連連勝利，項梁被勝利衝昏了頭腦，驕傲起來，已經聽不進別人的進諫了。9月，章邯得到秦國關中的援兵後，乘項梁不備，突然夜襲定陶。結果楚軍大敗，項梁也不幸陣亡。
由於楚軍續戰不利，不得不縮小戰區，采取守勢，秦軍卻趁著戰勝的餘威，一路北上攻陷了趙國的都城——邯鄲，且將趙王歇及張耳等義軍逼至巨鹿。此時，楚懷王隻得撤退到彭城，準備重整旗鼓，而巨鹿的趙軍也頻頻地派人來，要求懷王派軍支持趙國抗秦。