要辦洋務，隻有新式軍隊和新式學堂是不夠的，這些隻能算得上是洋務的衍生產品，最直接的洋務就是辦工廠。張之洞在兩廣辦洋務，自然不會不辦工廠。
張之洞到兩廣總督任上的時候，正值中法戰爭，給前線籌集槍械彈藥是張之洞的一大任務。由於當時的中國工業很落後，國內能夠生產的軍火的企業也是寥寥無幾，大多數槍械彈藥都要從國外進口，張之洞要籌集槍械彈藥自然也是從洋人那裏買。對於中法之戰，列強抱著“有熱鬧看熱鬧，有銀子撈銀子”的心態，也樂得向中國出口軍火。中國方麵雖然能買到軍火，但是買得卻不順利，這些洋人都清楚中國急需軍火，所以就坐地起價，百般刁難。這樣的事張之洞遇到不少，依照他的性格，他無論如何是不願意向洋人妥協的，但是，當下是中國有求於人，不得不委曲求全。所以，麵對列強的蠻橫無理，張之洞也隻能忍氣吞聲，以便及時給前線的將士們送去槍械彈藥。更嚴重的是，如果列強串通起來，不向中國出口武器，那麼，中國軍隊就隻能以長矛大刀來對付洋槍洋炮了。
依靠進口的槍械裝備軍隊還有另一個問題，那就是槍械的規格和質量不統一。一支軍隊的武器不統一，最直接的問題就是後勤保障的壓力要增加。後勤上要為前線提供不同規格的零部件和彈藥，運輸時自然要做區別，如此就增加了任務量。如果武器是統一的，那麼後勤上就隻需要為一種武器提供支持，相對而言就簡單了許多，效率也能提高。
對於前線士兵來說，統一的武器也有利於作戰。假如自己的武器出了問題，或者彈藥不足，完全可以在己方陣地上找到自己熟悉的武器繼續作戰。但是，如果武器不統一，士兵就要重新熟悉其他武器的使用方法，彈藥也不能通用，在情況瞬息萬變的戰場上重新學習使用一種武器，這無異於自殺。
通過中法戰爭，張之洞深刻地意識到了武器不統一帶來的問題，所以，戰爭還沒結束，他就萌生了自己辦兵工廠的想法。張之洞雖然有心辦兵工廠，可是軍工行業對技術的要求是很高的，實施起來要比練新軍、辦學堂困難許多。
當時的廣東在工業方麵雖然比內陸的山西有一些優勢，但是這種優勢對於張之洞要辦的事業而言，隻不過是杯水車薪。
1872年廣東人陳啟沅從海外回到家鄉，他有海外經曆，了解西方國家的機器生產，所以，他在家鄉創辦了一家使用機器的新式繅絲廠。陳啟沅的這個機器繅絲廠不僅是廣東第一家民族工業，也是中國第一家民族工業企業。當張之洞準備在廣東辦工廠的時候，陳啟沅的工廠已經在當地形成了規模，而且，在陳啟沅的帶動下，當地出現了一批采用機器生產的新式企業。當地雖然有使用機器的工廠，可是都是輕工業，對於張之洞要辦的大型企業幫助不大，張之洞也隻能另想辦法。
除了這些民營輕工業，廣東官方也辦了一家洋務企業，叫廣州機器局，主要是生產槍炮子彈。和當時其他洋務企業一樣，廣州機器局也是采用衙門式的管理，大小官吏都想方設法從機器局的經費裏撈錢，結果可想而知：銀子花了不少，實際生產出來的東西卻屈指可數。這樣的企業自然是張之洞無法容忍的，在1885年，也就是他到任的第二年，他開始整頓這個機器局，原來的管事因為貪汙被革職，還被罰款兩萬兩。
在對廣東原有的洋務企業進行了整頓之後，張之洞開始了更大規模的建設。1886年，張之洞在廣州城北的市井墟購買了31畝地，創設槍彈廠。這個槍彈廠是在原來廣東機器局的基礎之上擴建而來。為了能夠保障槍彈廠所產槍彈的產量和質量，張之洞派人去上海通過洋行購買了一批英國的設備。經過一番努力，槍彈廠於1887年6月正式建成投產。
張之洞建成的這個工廠雖然叫作槍彈廠，實際上就是一個子彈的組裝廠。生產子彈需要的部件，如子彈頭、子彈殼的銅坯及火藥等，所有這些都是從國外進口的，工廠僅僅是把這些東西拚裝起來。這樣的企業實際上還是要受製於人，僅僅是把進口成品變成了進口原料，如此做法，最多就是比直接進口成品子彈的壓力小一些，還是不能擺脫洋人對中國軍火的製約。另外，工廠的產量雖然較以前有所提高，可還是不容樂觀，最高時每天也隻能生產兩萬發子彈，這樣的產量是非常低的。張之洞的“廣勝軍”最初的編製有2500人，這樣的日產量平均下來每人隻有8發，而打仗時發射8發子彈不過一兩分鍾的時間。如果是一場投入兩萬兵力的戰役，很可能一天就要消耗數以百萬計的子彈，張之洞這個工廠生產一年的彈藥估計也難以應對一場大規模戰役一天的彈藥需求量。除了生產子彈，這個槍彈廠還從國外購進生產槍支的部件，自行組裝槍支，可是，一天也隻能生產五六支步槍，根本就無法滿足軍隊的需求。看著初見成效的工廠，再想想嚴峻的現實，此時已經50歲的張之洞無論如何也不會感到滿足，他想，這樣一個工廠隻能算是小試身手，等技術和資金條件成熟了，他還將有更大的動作。
1888年，張之洞通過調查後認為，當時最好的步槍是德國毛瑟兵工廠生產的毛瑟步槍，於是他就打算從德國購買設備，在廣東建槍炮廠，自行生產步槍。就當時的條件而言，德國毛瑟工廠的毛瑟步槍確實有技術優勢，但是，毛瑟工廠的步槍型號很多，不同型號又有差異，尤其是那個年代的步槍發展迅速，可謂是日新月異，新一款步槍往往會比上一款步槍做出許多改進，性能也大幅提升。張之洞在技術上基本是門外漢，他隻知道毛瑟步槍好，卻不清楚到底哪個毛瑟步槍才是最好的。