為此，他還特地印製了一批日記本，按上述十幾個方麵分成欄目，隨時填寫。在湘鄉所留存的曾國藩材料中，還有這些課程日記的殘本。當親眼看到這些細致、嚴肅的日記時，我們才認識到，曾國藩的成功，絕非僥幸所致，如果沒有這一點一滴的努力，又怎麼可能成功呢？
後來曾國藩根據自己的辦事經驗，總結出“天下事當於大處著眼，小處下手”這句名言。鹹豐九年（1859年）十月，他在給一位朋友的信中說：
“近年軍中閱曆有年，益知天下事當於大處著眼，小處下手。陸氏（陸九淵）但稱先立乎其大者，若不輔以朱子（朱熹）株積寸累功夫，則下梢全無把握，故國藩治軍，摒去一切高深神奇之說，專就粗淺纖細處致力，雖坐是不克大有功效，然為鈍拙計，則猶守約之方也。”
在實踐上，曾國藩凡事都從全局、大處考慮，但小處的具體步驟又有條不紊、極有章法。他一生中，堅持早起，每日必讀數頁書，堅持親自寫家書、批文稿，以勤儉自戒，從不敢違背。正是在這些小事上能認真對待，才保證了他宏大目標的實現。
在用兵治軍上，曾國藩也是從小事抓起。1858年，他教導剛剛從軍不久的弟弟曾國荃說：“治軍總須腳踏實地，克勤小物，乃可日起而有功。”所謂腳踏實地、克勤小物，正是說從小處、實處做起。曾國藩治軍，不僅一切營製、規則、將領選拔任用都親自決定，就是訓練他也一手抓起。他經常親臨訓練場，指揮訓練，親自進行思想工作。當時湘軍的《愛民歌》《水師得勝歌》等，都是他親筆所寫。
曾國藩對軍中細事無不關心，地形勘察，他力主將領要親自進行，不能依靠道聽途說。對武器軍械，他更是關心備至，對規格都作了明確規定。如規定矛杆用的竹子必須是“老而堅者”，桐木必須是“小樹圓身，大樹鋸開者不可用。”鄒壽璋辦事很樸實仔細，曾國藩委派他專門負責軍械，但他自己也毫不放鬆，事事都要親自檢查，有一次做的矛杆不合格，他便立即下令重做。曾國藩還親自研究炮子的打造，他發現用熟鐵要比生鐵好，便改用熟鐵，解決了炮子“經藥輒散”的問題，並且使射程增加了一裏多。
曾國藩這種腳踏實地，從小處、實處著手的做法，保證事情能按計劃、有步驟地向既定目標發展，從而積少成多，由易而難，為最後的成功創造條件。用曾國藩自己的話說，就是“我用一功，實腳踏實地，不敢一毫欺人。”
在曾國藩眼裏，誌向大、不樸實的人有一個共同的特點，他們都“視事太易”，把做一件小事看得很容易，不屑去做，而是貪難求大。實際上，這種做法恰恰違背做事的規律。再大的事，也要從小處做起，再難的事，也要從簡單處做起，可以說是顛撲不破的道理。然而許多自以為高明的人卻偏偏反其道而行之。兩者相較，曾國藩的真正高明處就顯現出來了。
他認為天下事知得十分，不如行得七分。
中國傳統思想中，“知行合一”是個非常重要的命題，但由於儒學是經世之學，因此更強調“行”，也就是實踐的意義。《尚書》中說：“非知之艱，行之唯艱”，提出了知易行難的觀點。孔子說：“君子欲呐於言而敏於行”“君子恥其言而過其行。”力行被看成是君子的一個標誌。看一人品質如何，要“聽其言而觀其行。”以實際行動作為評價的主要標準。這種思想對後世產生了深遠影響，成為“實學”的重要內容。
揚雄在《法言》中說，“學行之，上也；言之，次也”，把行擺在了言的前麵。朱熹也說，“知之之要，未若行之之實”，還說“行不及言，可恥之甚。”有人進一步說，“真知即所以為行，不行不足謂之知”，認為知就是為了行。隻有付諸行動了，才能說取得了真知，否則就不是真知。
清代學者顏元說得好：“讀得書來口會說，筆全做，都不濟事；須是身上行出，才算學問。”古人所說的閉門造船、紙上談兵的典故，批評的就是缺乏實際辦事經驗而自以為是的那種人。