在我軍將領之中，劉伯承學習刻苦是出了名的。他從小就崇尚古人“頭懸梁”、“錐刺股”的刻苦精神。讀私塾時常常最先到校，最後離校，他不僅把課文背熟，而且連注釋也背下來。到了中學和軍校，他更是勤奮刻苦，以致各科成績都很突出。步入行伍之後，他仍不忘學習。
大革命失敗之後，黨派劉伯承到前蘇聯學習，進前蘇聯紅軍高級步校時他已經三十六歲了。到了這個年紀再學外文是相當困難的。但他從字母和發音開始，用了兩年多的時間竟然攻克了外語關，並獲得了俄文和各科成績優秀的佳績。畢業時他已經能夠準確地翻譯俄國的軍事理論著作。
回國之後，成為我軍第一位翻譯科長。他借助俄文工具，係統研究了羅馬戰史、拿破侖戰史、日俄戰爭史等，開闊了軍事視野。還係統研究了蘇軍的條例、條令、作戰理論，增長了正規化軍隊和打現代戰爭的知識。
在革命戰爭年代，劉伯承的大部分時間在前線度過，他常常在炮火之中細扣兵書，置生死於一旁，而一門心思於兵法之中，不絕於耳的槍炮之聲時常成為他研讀兵書的伴奏曲。比如，1941年八路軍總部送來一部《合同戰術》的譯稿請劉伯承校訂。一年後這部譯著校訂好並複印，劉伯承在評序中寫道：“這本書在校正中經過三次反掃蕩的作戰”。當時，正值抗日戰爭最殘酷的階段，幾乎天天在打仗，左權同誌就是在這期間犧牲的。即使如此，劉伯承也不忘校訂工作，他把這項工作看作是學習任務。此後《合同戰術》下部的譯稿又送到劉伯承的手中，校訂完成並複印時，劉伯承作序寫道：“我在上愛國自衛戰爭前線時，帶上這本《合同戰術》及其譯稿，才真正開始校正與補譯。幸好在敵人飛機大炮坦克的督促與我參謀同誌幫助繪定之下，……完成了出征前一切工作”。《人民日報》報道說：“劉伯承將軍在戎馬倥傯之中完成《合同戰術》一書下半部之校譯，計十萬字。此為一百天來劉將軍殲滅蔣軍十一個旅之外又一重大貢獻。……一百天來，劉將軍馳騁於冀魯豫大平原上，五戰五捷，平均每二十天作戰一次。”“劉將軍在極度繁忙的自衛戰爭中，稍有空隙立即開始校譯。”
劉伯承的勤奮好學還在於他對戰爭經驗的總結和思考。他從不放過任何一次有影響的戰爭或戰役，認為那裏麵有鮮血和生命鑄成的經驗與教育。從南昌起義的失敗，到抗日戰爭和解放戰爭的重大戰役和戰鬥，劉伯承常常都有係統的思考與總結。他強調“用兵從實際出發，使主觀符合客觀。”
劉伯承刻苦學習古今中外的軍事理論，認真總結實踐經驗，使他形成了自己獨到的軍事理論。他提出了生動形象的“五行術”，在“五行術”中把我軍看成戰爭主體，把任務當作中心，把敵情看作前提，把時間和地形看作物質條件。他常說：“五行不定，輸得幹幹淨淨。”他集畢生的心血形成了係統的軍事理論。
對劉伯承的刻苦勤奮，朱德稱讚道：“刻苦學習，學而不厭。”陳毅元帥則稱讚說：“苦學入夢寐，勞生曆艱難”。就連國民黨的高級將領也感慨地稱：“劉伯承廉潔虛心，不斷求知，與國民黨將領比較，誠不諦鶴立雞群。”
“治軍必先治校”是劉伯承的名言，他也身體力行，為此奮鬥了一生。早在中央蘇區，他就擔任過紅軍學校的校長兼政委。長征途中，他是中央紅軍的總參謀長，先後擔任了紅二方麵軍和四方麵軍的紅大校長。到陝北後，在繁忙的戰爭指揮中，兼任中央紅軍大學副校長。解放戰爭，率領大軍轉戰南北，在擔任第二野戰軍司令員的同時兼任二野軍政大學校長兼政委，指揮戰爭之餘，還親自任教，以一個教官的身份出現在學員麵前。
全國解放以後，劉伯承初任西南軍政委員會主席，他接受了辦學任務，辭去了軍政職務，創辦了中國人民解放軍軍事學院，他擔任第一任院長，後任院長兼政委。
在解放初期，百廢待舉，萬事待興的艱難環境下，他強支病體，和教員、幹部一起摸索在新的曆史條件下辦好高級軍事指揮院校的道路。他千辛萬苦地選拔教員，字斟句酌地研究和確定辦學方針，逐項科目審定教材。在和平環境下我軍形成的辦學方針，高級軍事學院的課程設置和內容選定都凝結著劉伯承元帥的心血。建國後劉伯承主持軍事學院的工作達七年多的時間，為軍事教育事業作出了不朽的貢獻。
在辦學過程中，劉伯承倡導良好的學風和校風。校風是育人的重要環境，學風是成長的重要條件。為了使剛剛辦起的學校盡快形成良好的風氣，他在很短的時間內使學校建立起完整的正規化規章製度，僅通過嚴格管理保證了這些製度的貫徹執行。
為了適應現代化正規化的需要，劉伯承親自審定教學內容和教學方針。他提出了“戰術為經，技術為緯，經緯交織，縱橫聯係，編織起來”形成整體的訓練指導原則。他強調把訓練和培養善於組織指揮現代化諸兵種協同動作的指揮員作為高級軍事指揮院校的培養目標。
辦學離不開師資，他提出並采用“速成”“速辦”等方法提高教員的專業水平，提倡“尊師重教”以促使教員對教學工作的熱愛。劉伯承十分關心教材問題，他主張教材要少而精，內容要準備無誤。他要求提法妥當，用語準確科學，標點符號無錯誤。他還常常在百忙之中親自抓教材的編寫、翻譯、校對、出版等工作。