李斯是楚國人。他年輕的時候，曾經擔任過鄉裏的小官吏。
有一次，李斯看見生活在府衙廁所裏的老鼠，吃著髒東西，遇到人時，還要擔驚受怕、東逃西竄；後來又看見住在糧倉裏的老鼠，吃著細糧，住著大房子，也不會受到人的驚擾。李斯非常感慨地說：“一個人命運的好壞，也和這些老鼠一樣，全看他處在什麼樣的地位和環境裏啊！”後來，李斯跟隨荀況學習帝王之道，又來到秦國，被呂不韋留了下來，當了客卿。
呂不韋自殺後，秦國又發現了鄭國的間諜。秦國的貴族和一些大臣就紛紛議論說，諸候國的人跑到秦國來，都是為他們自己的國家做打算的，有的人說不定就是來做間諜呢！他們要求秦王把來自各個諸候國的人才——客卿，統統趕出秦國去。
秦王接受了這個建議，立即下了一道逐客令：無論官職大小，隻要不是秦國人，都得離開秦國。李斯也在被驅逐的範圍內。他在離開秦國鹹陽的時候，上了一道奏章給秦王。李斯在奏章裏寫道：“從前，秦穆公用了百裏奚、蹇叔，當了霸主；秦孝公用了商鞅，使秦國變法圖強；秦惠文王用了張儀，拆散了六國的抗秦聯盟；秦昭襄王用了範雎，提高了秦國的威望。這四位君王，都是重用了客卿啊！客卿有什麼對不起秦國的呢？再說，秦王宮裏的珍寶、器樂、美女，難道都是秦國出產的嗎？”他認為秦王的做法對秦國的強大和發展是毫無好處的。把人才趕出秦國，隻能幫敵國增加實力。
秦王認為李斯的話很有道理，立刻取消了逐客令，還派人把李斯請了回來，恢複了他的官職。