楚國人李斯年輕的時候，曾經擔任過鄉郡裏的小官吏。他發現廁所裏的老鼠吃髒東西時，當感覺人或狗正靠近時，會受驚逃走。而在糧倉的老鼠大膽地吃著儲存的糧食，還不怕人和狗的驚擾。李斯因此便感慨道：“一個人的賢與不賢，正好像老鼠，就在於處在怎樣的環境之中！”
李斯來到秦國的時候，秦莊襄王剛剛去世。李斯請求成為秦國丞相呂不韋的門客。呂不韋覺得他十分賢能，便任用他為侍衛官，李斯由此獲得了遊說的機會。他對秦王嬴政說：“平庸的人常常會坐失良機，成就大業的人則往往抓住有利時機，忍心消滅對手。自從秦孝公以來，東周王朝日漸衰微，諸侯並起，函穀關外形成了六國，而秦國隨著實力的壯大逐漸征服了它們。如今諸侯各國臣服於秦，如是郡縣服從朝廷一樣。但憑借秦國的勢力和大王的賢明，消滅諸侯各國就如同掃除灶台上的塵土一樣。但若遲遲不動手，等到諸侯實力強盛，即使您有黃帝般的賢能，也無法吞並它們了！”秦王嬴政覺得李斯言之有理，任命他為長史，聽從他的計策。爾後，各路遊說者帶著禮物暗中活動，禮物屈服不了的便用鋒利的劍刺殺。李斯的計謀獲得了很好的效果，於是秦王任命李斯為客卿。
此時，一個名叫鄭國的韓國人以開鑿河渠的名義，來秦國刺探情報被發現，秦國群臣便以影響秦國安定為由，想驅逐從各諸侯國來此任職的豪傑和賢能之士。這樣一來，連李斯也在驅逐之列。李斯馬上寫了一篇《諫逐客書》，上書秦王，陳述驅逐列國豪傑和賢能之士的利弊。秦王嬴政讀了這篇文章後，認識到驅逐列國豪傑和賢能之士的錯誤，便取消了逐客令，並把李斯的職位提升為廷尉。二十年後，秦王統一天下，秦王嬴政已成了秦始皇，李斯也被任命為丞相。
秦始皇三十四年（公元前213年），在鹹陽宮擺設酒席，宴請文人儒士。齊國人淳於越進諫道：“殷、周兩代的曆史長達一千多年，君主都分封宗室子弟和功臣，以此輔翼自己。如今陛下擁有了天下，但宗族子弟均為平民，一旦發生篡亂，無法拯救危亡。陛下辦事不借鑒古代的經驗且能長久者，我還沒有聽說過，建議陛下考慮此事。”秦始皇將此奏議交給李斯處理。李斯覺得這價奏議十分荒唐，是以諸子百家及自己的一套理論，來非議朝廷的法令製度。這種現象不消除，會使君主的威勢下降。秦始皇隨即接受了李斯的建議，沒收並銷毀了《詩》、《書》及諸子百家的著作。同時，秦始皇還下令抓了四百六十多名方士和儒生，把他們全都活埋。這樣一來，中央集權的封建王朝更加穩固，但整個社會的思想出現了禁錮狀態。
秦始皇三十七年，秦始皇出巡會稽山，再沿海北上，來到琅琊山，途中患病去世。秦始皇去世後，那封有關安排身後事宜的遺書留在了中車府令趙高手裏。本來，這封遺書應該交給秦始皇的長子扶蘇，但扶蘇因多次進諫，被派往邊境領兵。按照遺書的要求及傳統的做法，繼位應該是扶蘇，趙高卻有意扶植秦始皇的小兒子胡亥繼位。為了達到目的，趙高對外隱瞞了遺書的內容，誘勸胡亥答應繼位，並迫使丞相李斯支持他的做法。李斯在百般無奈之下，隻得勉強同意。事後，他流著眼淚仰天長歎：“啊，生逢這樣的亂世，我不能以死效忠，又該怎樣擺脫厄運呢？”