這時，華蘅芳等忽然想起了前時在上海認識的廣東人容閎。容閎自幼讀的是洋學堂，遠在40年代赴美留學，為美國耶魯大學的畢業生。在當時的中國，這樣的洋學生真正是鳳毛麟角了。於是，華蘅芳等向曾國藩介紹，認為請得容閎前來，造船、辦廠工作一定能有進展。曾國藩詳細了解了容閎的情況，立即邀請他盡快來安慶。曾國藩的態度讓容閎很吃驚。他不理解，這位全國聞名的理學名臣，為什麼能接受他從西方搬來的那一套。經過一番交談，容閎對曾國藩的認識深表讚同，感到回國六七年來，今天才找到了理解他的人，決定把自己的富國強兵的主張全部拿給曾國藩。
到了同治二年年末，即1864年年初，中國的第一艘火輪船居然在安慶內軍械所製成了，這是中國造船史上的一個創舉。這艘輪船的船體很小，重二十五噸，長五十五尺，高壓引擎，單汽筒，回轉軸長十四尺，鍋爐長十一尺，直徑二吋。嚴格講，這艘輪船還隻能算是一個試驗模型。但“麻雀雖小，五髒俱全”，這畢竟是中國人自己製造出的第一艘軍艦，該艦取名為“黃鵠”號。
軍艦造出來了！曾國藩的興奮比兩年前造出第一批新式槍炮還要強烈。他再次集合軍官和幕僚在安慶的長江中試航，順流航速為二十八裏，逆水時速約為十六裏，曾國藩自認“行駛遲鈍，不甚得法”。但曾國藩也認為既然中國能造出輪船來，“以次放大，續造多隻”，中國便會有自己的艦隊。
不久，湘軍攻陷天京，曾國藩把安慶內軍械所遷至南京。未及辦廠，同治四年（1865年），容閎由美國買回了機器，曾國藩與李鴻章在上海共同辦起了洋務運動中規模最大的軍事企業——江南機器製造總局。該局不僅能製造槍炮彈藥，還設立船塢，製造軍艦。到同治七年（1868年），終於製造了一艘真正的輪船，取名“恬吉”。到了光緒二年（1876年），共造出七艘輪船，其中鐵甲艦一艘、炮艦六艘。繼曾國藩創辦安慶內軍械所之後，李鴻章、左宗棠等人繼續舉辦洋務。先是軍事工業，繼是民用工業，使中國的洋務運動迅速開展起來。
直隸總督練“練軍”
正當曾國藩大力興辦洋務事業，並努力恢複因戰亂而殘破的江南經濟的時候，1868年9月13日（同治七年七月二十七日），曾國藩接到上諭，命他任直隸總督。1869年1月25日，曾國藩抵達京師。
整個清代，直隸總督負有護衛京師的責任。因此，除了特殊的情形如對西北用兵、對太平天國用兵外，直隸總督一直是最重要的地方官，其次才是掌握最富庶的江南、供應朝廷財政需求的兩江總督。
練軍隊是成為曾國藩上任直隸總督後的第一項任務。長期以來，特別是第二次鴉片戰爭以來，直隸的軍隊衰弱不可用，直隸的防務十分空虛。剿撚戰爭時，西撚軍曾衝入直隸一帶，直隸根本無可與撚軍一戰的軍隊，全靠外調來的軍隊。清廷應該也不希望再發生這樣的事情。另一方麵，京師離海較近，兩次鴉片戰爭中，英、法軍隊隨時可到天津海口騷擾、威脅，而1860年又占領京師，因此直隸急需較有戰鬥力的軍隊。可怎樣才能練出這樣一支軍隊來呢？曾國藩的辦法是，將劉銘傳所率的淮軍主力、戰鬥力最強的銘軍一萬人和從綠營中抽調出的一萬練軍，進行編練、改革，以此打造一支能拱衛京師的強軍。
接任三個半月後，曾國藩經過初步了解，對練軍的編練提出了三條建議：
第一條，叫“文法宜簡”。他比較湘軍和綠營兵的差別說，湘軍勇丁“帕首短衣，樸誠耐苦，但講實際，不事虛文。營規隻有數條，此外別無文告。管轄隻論差事，不甚計較官階。而挖壕築壘刻日而告成，運米、搬柴崇朝而集事”。綠營兵則過分講求儀式禮節，好像不是軍隊而是官衙門。出征的時候，行軍要用官車，紮營要用民夫勞作，“油滑偷惰，積習使然”。先前所定的練軍規條有一百五十餘條之多，即使是讀書人也無法完全記住，導致“文法太繁，官氣太重”。這些都要參照勇營即湘軍的辦法加以改革，將條規簡化，做到簡明、易懂、易守，不要排場，不要官氣。
第二條，叫“事權宜專”。從前的練軍，仍然效仿綠營的辦法，統領經常更換。統領之下的營、哨各官，都是由總督指派而不是由統領選拔。統領沒有選拔和撤換下屬之權，沒有管理軍餉之權，一旦作戰，下屬不肯用命。現在要像湘軍一樣，一營之權，全部交給營官，統領不遙製；一軍之權，全部交給統領，大帥不遙製。他說湘軍統領所以能夠發揮其才幹，就在於事權歸一，指揮縱橫如意，練軍就是要仿效這個辦法。