張之洞在兩廣辦洋務，除了經費的問題之外，人才也是非常關鍵的一個因素。張之洞要用人，在洋務規模不大的時候尚可通過招募獲得一些懂洋務的人，但是，張之洞是要大辦洋務的，如果隻是四處招募的話，在數量和質量上都難以得到保障，所以，辦學堂成為張之洞的最佳選擇。
到張之洞想要辦洋務時，中國的洋務運動已經進行了20年，而與洋務相關的學堂也早就建立了一大批。最早設立的與洋務相關的學堂主要是翻譯類的學校。當時，隨著西方的入侵，清政府與西方打交道的機會越來越多，由此也就需要越來越多的懂外語的人。出於這樣的需要，早在19世紀60年代早期，清政府就設立了京師同文館，組織人員學習外語，翻譯西方書籍。後來，隨著洋務運動的規模不斷擴大，對技術人才的需求也就越來越大。雖然辦洋務的大員們都或多或少地聘用洋人技師，但是，這些洋人技師在技術上參差不齊，其中還有不少人的目的就是為了騙錢，這使得洋務派的領導者意識到培養自己的人才是非常必要的。
可是，在當時的中國，想要培養自己的人才又談何容易呢？中國人懂洋務的很少，既然自己不懂，又怎麼能培養出懂洋務的人才？所以，當時培養洋務人才唯一的途徑還是找洋人——把中國的孩子送到西方國家，利用西方國家的教育係統來培養中國的洋務人才。就這樣，中國出現了一批批留洋的幼童，這些年幼的孩子肩負著振興祖國的重任遠赴異邦求學。
他們出國後，首先要做的是學習當地語言，因此，大多數學生住在當地居民家中，以便加快過語言關。他們一般是先進小學，再進中學，而後入大學，循序漸進。例如，詹天佑就是先進入西海文小學，再進入紐海文中學，而後考入耶魯大學的雪費爾學院專攻鐵路專業的。
隨著中國人對洋務的了解越來越多，洋務派也開始在國內辦洋務學堂，自己培養洋務人才。如左宗棠、沈葆楨在福州設立的福建船政學堂，這是中國第一所近代海軍學校，培養出了中國的第一批近代海軍軍官和第一批工程技術人才，由船政畢業的學生成為中國近代海軍和近代工業的骨幹中堅。李鴻章則在上海開設機器學堂，培養機器製造人才。
洋務運動的一大重心是強軍，所以，創辦新式軍事學堂也非常必要。1880年，李鴻章在天津建立的天津水師學堂，堪稱中國最早的軍事專科學校，北洋軍係就脫胎於這所學校的畢業生。
到張之洞要在廣東辦新式學堂的時候，他已經有了許多可以借鑒的例子，所以，他創辦的學堂要更有針對性，體係也更加完善。
針對廣東臨海且海軍力量薄弱這一情況，張之洞創辦了魚雷學堂。對於當時的廣東水師而言，魚雷是必須的海戰武器。世界上第一枚魚雷出現在19世紀60年代，由英國人發明。魚雷的威力僅次於艦炮，但是和艦炮不同的是，魚雷對發射平台的要求很低，一般的小艇就可以攜帶發射器進行發射。而艦炮不同，它在發射時會產生非常大的後坐力，而且自身重量也很大，需要大噸位的艦艇才能承載，一艘小艇根本就不可能裝備大口徑艦炮。當時的廣東水師沒有大噸位艦艇的製造能力，因而便選擇了發展魚雷。
張之洞先是在黃埔設水魚雷局，他向德國購買水雷、魚雷艇。後來他又在水魚雷局設立了專門的魚雷學堂，並且聘用德國人作為學堂的教員，負責指導學生學習魚雷艇的駕駛和魚雷的使用。經過數年的努力，培養了一批能夠使用魚雷的人員。
中國疆域遼闊，古代傳遞信息的主要方式是通過專門的人員乘騎馬匹傳遞，效率很低。尤其是在清朝後期，國家多事，邊關一旦告急，往往因為信息傳遞速度慢而延誤戰機。這一點張之洞擔任封疆大吏之後深有體會：他需要不斷給朝廷彙報他在地方的工作情況，而朝廷也得不斷給他下達旨意，如果用馬匹傳遞，中間耽誤的時間非常多。當然，這種低效率的通信方式不僅僅是中國獨有，整個世界都是這般。直至19世紀30年代，電報的發明才徹底改變了人類的通信方式。電報在19世紀70年代初由外國人引進中國，可是，清朝統治者並沒有意識到電報的重要作用，他們拒絕在中國發展電報。直到19世紀70年代末，出於軍事目的，清政府才開始嚐試在中國建立電報線路。由此，中國的電報事業得以迅速發展。當張之洞意識到電報的重要性之後，他立即著手發展電報事業。