代理兩江 入參軍機
清朝乾隆皇帝以後，全國共設有八大總督，分別為直隸、兩江、閩浙、湖廣、陝甘、四川、兩廣、雲貴總督。張之洞先後擔任過兩廣總督、湖廣總督，在擔任湖廣總督期間，他還兩次代理兩江總督。先後擔任三個地方的總督，張之洞的重要性可見一斑。張之洞在進行地方建設的同時，也越來越多地參與朝政，在清末政壇上起著舉足輕重的作用。
1894年，中日甲午戰爭爆發，兩江總督劉坤一奉命北上，指揮對日作戰。兩江是當時中國最為富庶的地區，當時的上海也隸屬兩江，傳統說法中的江南主要就是兩江總督的轄區。如此重要的地方，自然不能缺少一位得力的總督。朝廷經過一番考察後認為，張之洞為人可靠，不熱衷於培養個人勢力，而且湖廣緊鄰兩江，交通便利，所以，朝廷決定讓張之洞先暫時代理兩江總督。1894年10月，張之洞抵達兩江，繼續堅持興辦洋務。
當代有句俗語，叫“要想富，先修路”，話雖簡單，但是其中的道理卻不簡單。交通對於經濟的發展有著至關重要的作用，尤其是近代商業模式興起之後，交通的重要性愈加突出。以上海為例，它就是憑借地處長江入海口的優越位置，在短短百餘年間成為中國乃至世界範圍內的大都市。交通的重要性張之洞早已洞悉，他在湖北積極搞交通建設，到了兩江之後，也依然不忘發展交通事業。
當時兩江總督的駐地在江寧（今南京），上海經過西方侵略者的建設，也成為國內極為重要的一座城市。在張之洞到達兩江時，江寧和上海之間並沒有修建鐵路，主要交通線是長江。長江航運雖然便利，但是，卻受到自然因素的製約，而且輪船的航行速度較慢。火車則不同，受環境影響很小，速度也比輪船快。另外，兩江之地向來富饒，在資金上要比修建京漢鐵路寬鬆不少。而且，兩江經濟發達，對交通運輸的需求很旺盛，鐵路建成，必然可以獲得豐厚的利潤。再者，鐵路對於國防意義重大，兩江又是重要地區，兩江有變，可以通過鐵路快速調兵遣將，維持穩定。總之，張之洞認為鐵路一開，百廢俱興。於是，1895年6月，張之洞根據兩江的情況，設想修建一條從上海到江寧的鐵路，這也就是後來的滬寧鐵路。
張之洞是個辦實事的人，他可不會隻喊喊口號。打定主意之後，他立即投入行動。他很快就招來外國的鐵路工程師，進行路線勘測。對於滬寧鐵路的勘測，張之洞計劃分為兩部分，一部分是南京到蘇州，另一部分是蘇州到上海。經過幾個月的勘測，取得了可喜的成績，驗證了張之洞建鐵路這一設想的可行性。與此同時，張之洞還積極聯絡當地鄉紳，獲得了他們的支持。
前期準備得當之後，張之洞在1895年底上書朝廷，正式申請建滬寧鐵路。朝廷方麵有鑒於甲午戰爭失敗的教訓，也想通過辦洋務富強起來，所以，張之洞辦鐵路的申請很快就得到了朝廷的批準。不過，此時中日戰爭已經結束，李鴻章也在《馬關條約》上簽了字，劉坤一自然沒有仗要打了，朝廷決定讓他回到兩江總督的任上。所以，張之洞申請辦滬寧鐵路這件事，朝廷決定交給劉坤一具體實施。
此時的劉坤一雖然已經由一個保守派轉變為洋務的支持者，但是他並沒有建鐵路的經驗。張之洞則擔心把這些進行到一半的工作直接交給劉坤一的話，可能會造成很多不必要的麻煩，所以，他打算把籌辦工作完成了再交給劉坤一繼續辦。
滬寧鐵路的修築計劃提出之後，擺在張之洞麵前的第一個問題就是商辦還是官辦。就張之洞個人而言，他是傾向於官辦的。但是，江蘇當地的鄉紳卻提出了商辦的要求，他們想自己建設從江蘇到上海的這一段鐵路。雖然商辦可以減輕政府財政的壓力，但是，張之洞此時對於商辦鐵路還是持謹慎的態度。他回複當地鄉紳說，鐵路還在勘測階段，等進入實施階段再談采用哪種形式。也就是說，是商辦還是官辦，張之洞並沒有拿定主意。