據李立三說，他當時“沒有明白表示意見”，是因為他才十六歲，又剛從小縣城來到長沙，見識少，一下子答不上毛澤東的提問，所以隻成了毛澤東的“半個朋友”。
1917年，十八歲的李立三中學畢業了，回到故鄉醴陵當了幾個月的小學教師，便投奔護法戰爭時任湘軍總司令的程潛麾下，當了一名小兵。不久，他這個“小知識分子”當上差遣（相當於連隊文書）。一天，他送文書到司令部來，見程司令正在與人下象棋，也就站在一旁看了起來。看著，看著，他忽地漏出一句“應回馬攔卒”。程潛抬頭，見是一名小兵，便問李立三：“看樣子，你會下棋！”於是，程潛與李立三對弈，總司令竟敗在這小兵手下。程潛跟他攀談起來，才知彼此是同鄉，李立三之父李冒珪（字鏡蓉）還是程潛清末同場考中秀才的“同年”。李立三能詩善文，深得程潛喜歡。1919年春，程潛資助李立三進京，進入法文專修館。這年秋天，李立三便到法國留學。1921年冬，他從法國回來，在上海加入中國共產黨。
李立三加入中國共產黨之後，從事工運工作。1922年，他領導了安源路礦工人大罷工。1923年任中共武漢區委書記。翌年任中共上海區委職委會書記。1925年他在上海一家工廠參加選舉，李隆郅三字筆畫太多，工人不易寫，劉少奇建議他改名。正巧迎麵站著三個工人，劉少奇說：“就叫李三立吧。”他思索了一下說：“叫李立三吧。”從此他競以“李立三”這名字傳世。這年，他任上海總工會委員長，赴蘇出席赤色職工國際大會。1927年任中共中央工委書記、全國總工會駐漢辦事處主任，然後又兼任中共湖北區委書記。那時，向忠發是他的部下。後來，他參加了南昌起義，旋即又任中共廣東省委書記。
李立三在蔡和森遭貶之後，當即取而代之。不過，1928年11月上旬，周恩來從蘇聯回到上海，李立三在黨內的威望不及周恩來，中共的領導工作實際上由周恩來主持，11月9日，中共中央政治局常委會便決定，由周恩來起草新的中央的工作計劃。此後，許多中央通告、文件皆出自周恩來之手，而李立三則成為周恩來的副手，向忠發不過是名義上的領袖。向忠發、周恩來淳立三成了當時中共“三駕馬車”。
“三駕馬車”的局麵，持續了一年多。
1929年8月下旬，中共失去了兩位重要人物：政治局委員彭湃，政治局候補委員、中央軍事部部長楊殷，因叛徒告密，兩人被捕犧牲。
1930年3月3日的中共中央政治局會議記錄上，出現一行奇特的暗語：
冠心病入院。決；準假兩月。
“冠生”何人？是周恩來的化名！周恩來生了什麼病，要入院請病假兩十月？原來，“病”是他去蘇聯的暗語。也就是說，政治局批準周恩來赴蘇兩個月，向共產國際彙報工作。
周恩來一走，李立三便成了中共的主持人。李立三原來是個性情急躁的人。由他掌舵，便一下子把中共推向了“左”的航線。
李立三火暴的脾氣，是頗為“著名”的。1921年冬，他和一百多位留法勤工儉學的學生被法國政府遣送回國。輪船在海上悠悠而進。為了打發時光，學生們舉行圍棋賽。四川隊推出了陳毅，湖南隊推出了李立三。李立三急於求勝，給陳毅抓住了弱處，一舉擊敗。李立三一氣，把棋子連同棋盤一起，甩進了大海！此事一直在中共黨內傳為笑談，因為當時在場的許多留法學生後來都加入了中國共產黨。
當他跟朋友聚談，別人說及軍閥之腐敗和凶暴，他每每在一側大聲呼喊“打倒”，“推翻”、“殺掉”。
他恨不得把舊世界在一個早上全部推翻掉。正因為這樣，他的同誌們都熟知他的火暴的脾氣，竟為他開過兩次追悼會：一次是在安源，謠傳罷工失敗，李立三去刺殺軍閥趙恒惕未遂而犧牲，他的同誌們很快信以為真，周恩來主持了他的追悼會！又一次，他參加南昌起義，傳說他跟敵人拚殺，血染戰場。於是，又為他開追悼會，主持人依然是周恩來！