調任湖北 大興實業
張之洞在兩廣總督的任上本來幹得好好的，他計劃中的工廠也都開始投入建設，可是，誰曾想，一道奏折，讓他不得不離開廣東。自己種下的樹，看來隻能讓後人乘涼了，到了湖北，一切就隻能從頭再來。張之洞在1889年離開廣東來到湖北，此後將近20年間，他一直擔任湖廣總督，中間還兩次代理兩江總督，直到1907年被調回北京。在這一時期，張之洞在兩湖頗有一番作為。另外，再算上早年張之洞在湖北任學政的時間，他一生中在湖北的任期超過了20年。
張之洞辦鐵廠的想法在山西時就有過，在廣東他還訂購了設備準備辦廠，可是，不等他訂購的設備到達廣東，他就被調到了湖北。就張之洞本人而言，他是不會放棄辦鐵廠的，他希望能夠在湖北繼續他的事業。
繼任張之洞兩廣總督職位的是李鴻章的兄長李瀚章。和李鴻章不同，李瀚章對洋務並不熱心，張之洞給他留下的那些剛剛開工的工廠讓他頭疼不已。這時候，李鴻章給他出了個主意：讓張之洞把買下的設備帶到湖北去。李鴻章的這個提議，讓張之洞喜出望外，沒想到，在廣東置辦的設備還能帶走。對李鴻章來說，他一來是要給自家兄長分憂，二來是要看張之洞出醜。在李鴻章看來，張之洞要辦的都是大工程，費錢耗力，很難成，張之洞隻會說大話，不善於辦實事，在辦工廠方麵出問題是遲早的事。
李鴻章心裏的小算盤也隻能在寫給他兄長李瀚章的信裏才能透露，張之洞自然是猜不到，事實上張之洞也不計較李鴻章究竟安的是什麼心，隻要能讓他把設備帶走，就是一件好事，否則，還要重新籌劃，又要費時費力。
1890年，經過協商之後，朝廷通過了將廣東鐵廠改建在湖北的提議，當年5月，張之洞就成立了鐵政局，負責鐵廠建設工作。就這樣，53歲的張之洞在湖北繼續他在廣東未完成的事業。
要建鐵廠，肯定要選廠址，那麼廠址設在哪裏好呢？根據當時的國際慣例，鋼鐵廠一般會選在鐵礦或者煤礦附近，這是因為鐵礦石和煤炭是煉鐵時需求最多的兩種原料，就近建廠可以節省不少運輸經費，把成本最低化。由於當時的湖北沒有發現大型煤礦，於是就有人建議把鐵廠建在黃石，黃石附近有大冶鐵礦，可以就近利用大冶鐵礦的礦石。這樣的建議張之洞並不接受，他想把鐵廠建在省城武昌附近。他的理由是建在武昌附近，離他近，方便他監督，而且緊鄰長江，將來出鐵後方便運輸。總督大人既然下旨了，那就別管什麼國際慣例了，按照總督大人的意思辦就是。於是，負責籌建鐵廠的官員便開始在武昌附近尋找合適的地方。
勘查人員前前後後給張之洞找了3個地方，最終，位於漢陽的一處地方讓張之洞感到比較滿意。這一塊地方位於山腳之下，長有2000米，寬有500米，向南靠山，向北臨江，很有氣勢；更難得的是，這個地方與武昌城隔江相對，將來鐵廠建成，張之洞在總督衙門的院子裏就能看見鐵廠的大煙囪。不過，這個地方也有問題，主要是地基太低，汛期時江水容易進入，需要把地基墊高。張之洞認為，雖然墊高地基要費一筆錢，但是，總比在其他地方要省一些錢。就這樣，鐵廠的地址選定了。
張之洞原以為選好了廠址，再把買來的設備安裝起來就能夠煉鐵了，可是，實際情況遠比他想的要複雜。
首先是建設周期的問題，鐵廠在1890年破土動工，直到1893年才建成。建設周期長，所用經費也隨之上漲，張之洞原本以為隻需要200萬兩銀子就能辦成鐵廠，可是，實際建廠經費遠遠超過了他的預計，到建成時，所耗費的資金已經超過了500萬兩。更讓張之洞為難的是，原本朝廷答應支付的200萬兩銀子成了空頭支票，朝廷根本就不給錢，這麼一大筆資金，隻能張之洞自己想辦法籌借。張之洞在廣東經營了5年，離任時也隻攢下了250萬兩銀子，現在他剛到湖北，建一個鐵廠就花了500多萬兩銀子，他在財政上的困難可想而知。為了籌錢，張之洞依舊是不擇手段：湖北當地的經費中，凡是能挪用的，他一概挪用；凡是能借到錢的，他一概去借；甚至就連要上繳國庫的銀子他也截留。
後來，張之洞為錢急紅了眼，他就“賴”上廣東。他給朝廷上書，說鐵廠本來是計劃在廣東建的，現在搬到了湖北，可是，他在廣東為辦鐵廠準備的資金卻沒有跟著去湖北，他要求廣東借給他50萬兩銀子。雖然張之洞為了錢幾乎什麼事都做，但是，他拿到的錢沒有一文是給自己用的，而是全部都用在了辦工廠上。
1893年9月，工廠終於建成，全廠包括生鐵廠、貝色麻鋼廠、西門士鋼廠、鋼軌廠、鐵貨廠、熟鐵廠6個大廠和機器廠、鑄鐵廠、打鐵廠、造魚片鉤釘廠4個小廠，成為名副其實的鋼鐵聯合企業，這樣的規模遠比他最初設想的要大。單就建成時間和規模來說，張之洞的這個工廠要比日本的第一座同類工廠早建成了7年，規模也比日本的第一座同類工廠大，在當時，堪稱亞洲第一。1894年，工廠正式生產的時候，張之洞親自到鐵廠，視察一周。
對於這座工廠的建成，不僅張之洞本人很激動，國內外也都很關注。國內一些人認為，漢陽鐵廠的建成，將使中國產的鐵能夠和歐美競爭，中國要由此覺醒了。美國駐漢口領事認為，這個工廠非常完善，規模巨大，就算參觀一遍也得幾個鍾頭。日本人更加關注這個工廠。明治維新和洋務運動都是在19世紀60年代開始的，日本人始終盯著中國人的近代化進程，時刻想著要壓過中國，漢陽鐵廠的建成，讓日本人感到擔憂。1901年，日本人的第一座近代鋼鐵企業投產，巧合的是，日本的這所鋼鐵企業所用的礦石和漢陽鐵廠用的一樣，都是來自於黃石的大冶鐵礦。然而，日本人的這座鋼鐵廠，要遠比張之洞的漢陽鐵廠成功得多。
漢陽鐵廠建成後雖然看上去很是雄偉壯觀，但是，這樣一座投入巨大的企業，竟然中看不中用！
實際上，當張之洞還在廣東籌劃鐵廠的建設時，隱患就已經埋下。當時，他不顧鋼鐵行業的基本準則，在沒有化驗鐵礦石和煤炭的情況下，就武斷地決定進口設備。當他進口的設備在武漢建成鐵廠要投產的時候，才發現進口來的設備根本就不能冶煉大冶鐵礦的礦石。僅僅這一項，就使得整個工廠遭受巨大損失。鐵廠已經建成，無論如何是不能廢棄的，隻得改造鐵廠的設備，以便能夠冶煉大冶鐵礦的礦石，於是又耗費了大筆資金。還有煤炭的問題，由於湖北沒有現成的煤礦，張之洞隻好一邊規劃鐵廠一邊找煤礦，幾經周轉，選擇了兩個地方采煤。誰知，一處地點煤沒有挖出，卻挖出了大水，原本要采煤的工地，成了一片澤國，隻得放棄。另一處地點雖然挖到了煤，但是產量很小，而且挖出來的煤也不能用於煉鐵。最後，張之洞隻能放棄自己產煤的想法，轉而購買開平煤礦（李鴻章經營，位於河北唐山）的煤，同時還要從國外進口焦炭。就這麼折騰了一圈，到頭來一事無成，而且還耗費了近百萬兩銀子。1894年6月開始煉鐵後，鐵廠一直因為煤炭的問題而開工不足。