同治九年十二月初一日（１８７１年１月２１日），李鴻章上奏籌劃天津防務事宜。他首先從全局著眼，談中國的軍事積弊，切中要害。
他說，第一，中國目前籌措軍費十分困難。全國的財力消耗於陝甘，連雲貴都無法顧及了。如果認真整頓海防和江防，每年至少要１０００萬兩以上。這是個難以籌措的數字。第二，中國目前練兵也很困難。因為兵士所得兵餉極少，不足以養戰士，不能練出可用的兵來。用這樣少的兵餉練出的兵士製內亂都靠不住，禦外侮就更難有希望了。第三，軍事裝備困難。中國雖然已經設立了一些機器廠，學習製造槍炮，但比起外洋新造的武器落後得多。如能多用些時間認真學習也許能再有進步，但若急於求成，想很快就與外洋對抗，是不自量力。更何況有了武器而沒有人會使用，或者能使用而不甚得法，又是近日的通病。根據這三項隱憂，他認為中國為了國防安全，一麵要穩步加強國防，一麵要維護和平的國際環境，不可生事。
其次，具體地規劃天津的防務。他建議把淮軍周盛傳的部隊“盛軍”的１２０００人，從山東濟寧調到直隸靜海至滄州間。此外，天津應構築新城，添設炮台。
辦理洋務是一項繁重的事情，李鴻章感到人手不夠。十二月十七日（１８７２年２月７日），李鴻章給老師寫信，請求派洋務好手淩煥來津襄辦幕府，信內說：“前情筱嵐（字淩煥）來助，因此間洋務幕吏一無解事者，函犢奏谘必須親製，殊為窘苦。”同治十年三月，李鴻章終於把淩煥要來了。他給曾國藩寫信表示感謝說：“筱嵐辭官北遊，意殊可感。日本事正須借助，惟南洋少一更事之人，徒抱歉耳。”因為這時正好辦理對日的通商簽約事務，極需洋務人才。同時，李鴻章也把另一個幹才周馥調來，讓他負責建築天津新城的事。
四月十二日（１８７１年５月３０日），李鴻章輕騎減從，馳赴大沽和北塘一帶海口查看形勢，檢查防務布置和炮台營壘。十七日（６月４日）他回到天津，奏報查閱情形。針對存在的問題，密令大沽協副將羅榮光修築營壘炮台，並添購洋炮，替換古老的土炮；調通水鎮總兵周得勝帶遵化練軍１０００名移駐北塘，修整該處炮台。
同治十年至十一年直隸大水分散了李鴻章的精力，而且占用了一部分軍費。因為他不僅要督辦救災，還要分出一部分兵餉來賑災和補助河工。防務建設明顯慢了下來。
兩次鴉片戰爭，侵略者都輕易地打進了天津城。天津是北京的門戶，實在有必要從根本上解決，使之成為東方重鎮。這是李鴻章當上北洋大臣最初的想法。
同治十年七月十四日（１８７１年８月２９日），李鴻章致友人函中談到建築一座新城的設想和用意。內稱：“此間為泰西衝突，京師門戶，今昔情形迥異。舊城陴陋，尤不得控扼之勢，故於五大河以北建築新城，以資犄角。”
他指出時代已經大變，此乃“三千年一大變局”，“今昔情形迥異”，舊城已經不能符合海防禦侮的需要了，也不是修修補補所能濟事的。必須另外修一座新城。他與某些空談家不同，是一個說幹就幹的實幹家。但限於經費無著，一直沒有進行。到了同治十二年的二月，周盛傳建議用淮軍兵勇助役，捐出曆年欠餉用為集工購料的經費。他嚴厲督催，派人實地勘查城址，確定大沽後３０裏的明代防倭城的舊址。從三月開始動工。利用燒蛤蜊灰和三合土以及水泥為原料，進行施工。盛軍在周盛傳的督率下，１萬多人日夜勞作，到十三年九月（１８７４年１１月）竣工。扣除中間冬休時間，僅用了一年左右時間，就築成了包括內城與外城兩道牆的天津新城，並設有大小炮台多座。構築新城共用銀５２。７萬餘兩。從此，由海口入海河必經過新城下，新城形勢如同老虎當關。北京的門戶地位得到了加強。
光緒元年，又將城內大炮台頂上添做四處卷洞，加厚台腳，又用銀２。６萬餘兩。前後所用工程費共達５５。４萬餘兩，都由盛軍欠餉中核算。新城鞏固後，與大沽、北塘的海口炮台可以互相援應，大大地加強了京津防務。
李鴻章第一得意的部隊是劉銘傳的銘軍，同治九年八月先於李鴻章到達天津。天津教案結束後，朝廷征求李鴻章意見，要調銘軍到陝西去剿殺回民起義。李鴻章十月初三日覆奏說，左宗棠專用楚軍，如調銘軍去陝可能造成左宗棠的疑忌。如果一定要劉銘傳去，應該給他兼任地方的權利，而不隻是管帶部隊，才能發揮作用。
朝廷對他的覆奏不滿，既不給劉以兼管地方的權利，又嚴旨命令劉一定要去陝西。劉銘傳隻得離開天津，帶銘軍去陝西了。但他到了陝西，就一再請求告退。在同治十年九月十六日（１８７１年１０月２９日）得到朝廷批準後，他推薦曹克忠代替自己統帶銘軍。
對此，李鴻章十分感慨。他給友人的信中說剖析說：“省三不欲與左公共事，又太性急，無忍耐，淮將無人，良可浩歎。”同時，他直接給劉銘傳去信，既惋惜又責備地說道： 吾弟以百戰威名，淮人領袖，新疆不能遽到，眾共諒之；肅州亦必不行，中外清議無可解免。凡辦大事業，遇大艱苦，須要堅忍。如五六年剩撚時，非咬牙狠勁，何能了局？今甫登場，即屢乞退，人必謂飽則揚去，富貴安享。又謂淮將皆取巧畏難，無可倚任。接此信後，鄙人中夜彷徨，心灰氣短，不知計之何出也。
他批評劉銘傳不能與意見不同者共事。
銘軍交由曹元忠統帶後，因馭兵不當，兵將不和，發生嘩變。朝廷讓李鴻章密籌將銘軍撤回安插。李鴻章於同治十一年八月初二日（１８７２年９月４日）奏請起用與銘軍素有淵源的劉盛藻。同時，自己又親自寫信給劉盛藻，讓他為了淮軍的榮譽和大局，而出來接統淮軍。劉盛藻也是一個與劉銘傳一樣不求聞達，但要順心的清高之士。對這樣的人是不能用利祿引誘的。李鴻章在信中求他出山挽救淮軍，說的是：“若不速籌妥人替代，則此軍一壞於曹克忠之手，再壞於穆圖善之手，至壞極時，必歸咎於省三，嫁禍於鄙人。”話說到這個地步，劉盛藻隻有出山了。