祖逖，字士稚，父親祖武，任過上穀太守。父親去世時，祖逖還小，他的生活由幾個兄長照料。
祖逖是個胸懷坦蕩、具有遠大抱負的人。可他小時候卻是個不愛讀書的淘氣孩子，幾個哥哥為此都很憂慮。但他為人豁達，講義氣，好打不平，深得鄰裏好評。他常常以他兄長的名義，把家裏的穀米、布匹捐給受災的貧苦農民，可實際上他的哥哥們並沒有這個意思。進入青年時代，祖逖像是突然開了竅，他意識到自己知識的貧乏，深感不讀書無以報效國家，於是就發奮讀起書來。他廣泛閱讀書籍，隻要有書，他無所不看。他知道曆史可以明智，可以使自己增長知識，他又認真學習各個朝代的曆史，從中汲取了豐富的精華，學問大有長進。他常到京城洛陽去，向有學問的人求教。凡是見到過他的人都讚歎說：“這個人將來一定是個人才！”接觸過他的人也都說，祖逖是個能輔佐帝王治理國家的人才。祖逖二十四歲的時候，曾有人推薦他去做官，他沒有答應，他感覺自己的知識還不夠，也沒資格做官。他仍然不懈地努力讀書，不斷增長自己的見識。
後來，祖逖和幼時的好友劉琨一同擔任司州主簿。他與劉琨感情深厚，不僅常常同床而臥，同被而眠，而且還有著共同的遠大理想：建功立業，複興晉國，成為國家的棟梁之才。
有一天晚上，祖逖和好友劉琨一起睡覺了，半夜裏祖逖在睡夢中聽到公雞的鳴叫聲，心想：如果我們聽見雞叫就起來練劍，日積月累，我們一定會有所成就的。想到這，他立刻從床上坐起來，把劉琨叫醒，對他說：“別人都認為半夜聽見雞叫不吉利，我偏不這樣想，咱們幹脆以後聽見雞叫就起床練劍如何？”劉琨感覺這個想法很好，就欣然同意了。於是他們每天雞叫後就起床練劍，劍光飛舞，劍聲鏗鏘。雖然他們感覺很累，但是一想到他們共同的遠大理想，他們就更加堅定了自己的意誌。
春去冬來，寒來暑往，他們從不間斷。功夫不負有心人，經過長期的刻苦學習和訓練，他們終於成為能文能武的全才，既能寫得一手好文章，又能帶兵打仗，受到了人們的賞識。祖逖被封為鎮西將軍，實現了他報效國家的願望；劉琨做了征北中郎將，兼管並、冀、幽三州的軍事，也充分發揮了他的文才武略。