經過左宗棠一年多的籌備，馬尾船政局於同治六年十二月二十四日，即1868年1月18日，正式開工，以後幾經擴建，規模不斷增大，計包括繪事院，即製圖班、模廠、鑄鐵廠、船廠（附有舢板廠、皮廠、板築所）、鐵脅廠、拉鐵廠、輪機廠（附有合攏廠）、鍋爐廠、帆纜廠、儲炮廠、廣儲所（附有儲材所）等廠所，以及船槽、船塢等。
此外，根據左宗棠的計劃，還在船政局內創辦了船政前、後學堂（前學堂學製造，後學堂學駕駛）和\"藝圃\"（技工學校）以培養自己的造船工程師、近代海軍軍官和技術工人。
船政局包括工匠、徒工、學生、管理人員、警衛官兵在內，共有兩千六百多人，並有五十名左右的歐洲雇員，成為中國第一座新式造船廠，也是當時遠東最大的造船廠之一。它建造的第一艘木質輪船\"萬年青\"號於同治八年五月初一日（1869年6月10日）下水，排水量一千四百五十噸。截止到同治十三年，就是1874年，馬尾船政局共造船十五艘，總排水量為一萬五千九百三十二噸。到同治十二年（1873）底，洋員匠均遣散歸國。
左宗棠雖在馬尾船政局創建時就離開了福州，但他一直關心著船廠的建設，\"身雖西行，心猶東注\"，每當聽到一艘艘新造輪船相繼下水的消息時，都興奮異常，他在寫給沈葆楨的信中說：
今船局、藝堂既有明效，以中國聰明才力兼收其長，不越十年，海上氣象一新，鴉片之患可除，國恥足以振矣！
但是由於國內工業基礎極其薄弱，船局又缺乏管理經驗，且管理體製陳舊、落後，馬尾船政局在建設中遇到了重重障礙，特別是後幾任閩浙總督與船政局常有齟齬，不能和衷共濟，像接替左宗棠任閩浙總督的吳棠就公開唱反調說：
船政未必成，雖成亦何益？
同治十年十二月十四日，就是1871年1月23日，內閣學士宋晉又上奏清廷，認為\"閩省連年製造輪船，聞經費已撥用至四五百萬，未免糜費太重。此項輪船將謂用以製夷，則早經議和，不必為此猜嫌之舉。且用之外洋交鋒，斷不能如各國輪船之利便，名為遠謀，實同虛耗\"，因此要求\"暫行停止\"。
左宗棠當即加以駁斥，指出：
竊維此舉為沿海斷不容已之舉，此事實國家斷不可少之事，若如言者所雲，即行停止，無論停止製造，彼族得據購雇之永利，國家旋失自強之遠圖，隳軍實而長寇仇，殊為失算。
由於左宗棠和沈葆楨的堅持，馬尾船政局終於得以維持下去，直到光緒三十三年，就是1907年，才因種種不可克服的矛盾而停辦。該局自同治六年，就是1867年，這年十二月正式開工起，到光緒三十三年，就是1907年，停辦為止，幾十年間共造船四十艘，詳情列表如下：
左宗棠創辦了馬尾船政局，這是一個重要的洋務企業。那麼，左宗棠辦洋務有什麼特點呢？
首先，左宗棠辦洋務具有積極進取的精神，體現了他強烈的民族自尊心和自信心。他認為要抵抗外來侵略，維護民族利益，必須立足於自強，他說：
我能自強，則英、俄如我何！不能自強，則受英之欺侮，亦受俄之欺侮，何以為國？\"
為了達到自強目的，左宗棠迫切希望改變中國科學技術落後的狀態，強調\"中不如西，學西可也\"。又說：
謂我之長不如外國，藉外國導其先可也；謂我之長不如外國，讓外國擅其能不可也。
左宗棠認為中國人的聰明才智絕不低於西方人，隻要自己努力，又善於學習，是完全可以迎頭趕上的。在他看來，中國所以在科學技術上落後於西方，主要是因為輕視\"藝事\"，他說：
中國人才本勝外國，惟專心道德文章，不複以藝事為重，故有時獨形見絀。
在得知馬尾船政局已初見成效後，左宗棠十分欣慰，立即給沈葆楨寫信說：
後此賡續，恢張規模，既得熟極巧生，安知不突過西人耶！\"
他提倡學習西方的先進技術，卻不迷信洋人而妄自菲薄，這就是左宗棠辦洋務的可貴之處。
左宗棠辦洋務的第二個特點是他堅持自造、自管的獨立自主原則，反對外國控製。他在總結自己辦洋務的經驗時說：
因思自強之道，宜求諸己，不可求諸人，求人者製於人，求己者操之己。
意思就是，欲達自強之目的，必須堅持自力更生的原則。
還在創辦船政之始，左宗棠就毫不含糊地指出：
所以必欲自造輪船者，欲得其造輪機之法，為中國永遠之利\"；\"夫習造輪船，非為造輪船也，欲盡其製造、駕駛之術耳！\"
左宗棠之所以這樣強調\"自造\"和\"自駕\"，目的就在於擺脫外國的控製，他說：
既能造船，必其能自駕駛，方不至授人以柄。
這一方針基本上是由左的接班人沈葆楨貫徹執行了的。同治八年夏，就是1869年夏天，船政局製造的第一艘輪船\"萬年青\"號下水，\"該輪船自管駕官遊擊貝錦泉以下，正、副管輪、管隊、舵工、水手、管水氣表、頭二等升火各色人等，均係浙江寧波府人居多，無一洋人在內\"。而且以後新造各船，俱由華人駕駛，並無洋人攙雜其間。
再從製造看，同治十一年，就是1872年，船政局與日意格約限將滿，沈葆楨\"力催洋員、洋匠認真教導中國匠徒，刻意講求\"。在沈葆楨的催促下，日意格從同治十二年（1873）夏開始\"逐廠考校，挑出中國工匠、藝徒之精熟技藝、通曉圖說者為正匠頭，次者為副匠頭，洋師付與全圖，即不複入廠，一任中國匠頭督率中國匠徒放手自造，並令前學堂、繪事院之畫童分廠監之，數月以來，驗其工程，均能一一吻合\"。
這一年年底，沈葆楨辭退所雇洋匠，日意格也離開了馬尾船政局。從此，船政局完全在中國當局管理下進行生產。左宗棠在給友人的一封信中曾說：
東南之有船局，惟滬與閩。滬非洋匠、洋人不可，閩則可不用洋匠而能造，不用洋人而能駕。
這是符合事實的。同治十三年，就是1874年，外國雇員如約撤走，中國工程師和技術工人完全承擔了造船任務。光緒二年（1876）二月，英國海軍軍官壽爾在參觀了馬尾船政局後說：\"這裏最近造的一隻船--船引擎及一切部分，在建築過程中，未曾有任何外國人的幫忙\"，\"現在船政局的管理實際上是在中國人手中。\"
後來，馬尾船政局為了改進技術，製造\"康邦\"輪機（複式蒸汽機，有兩個汽缸）和\"鐵脅\"兵船（鐵、木合構軍艦），才又重新聘請外國技術人員，但受聘者純屬雇員，根本不能在船政局起支配作用。隨著中國工程技術人員逐步掌握了新技術，少量洋員也在合同期滿後立即歸國，而\"以學成、藝成之學生、藝徒代之\"
以往論者曾對左宗棠任用法國人日意格、德克碑提出非議，認為兩人是船政局的\"太上皇\"，並由此推論出左宗棠是法國的\"代理人\"。這種指責顯然是帶有先入為主的成見，根本沒有去研究客觀存在的事實。確實，左宗棠對日意格、德克碑相當信任，\"一切事務，均責成兩員承辦\"。
但是當時的形勢是中國要想自造輪船隻能如此，因為\"中國無一人曾身曆其事者，不得不問之洋將\"。後來，德克碑與日意格鬧矛盾，於同治九年（1870）二月離開船政局，去甘肅找左宗棠，監督職務就由日意格一人擔任。
船政局監督負責通盤設計、製造等工作，權限相當大，但他必須受總理船政的節製和調遣，並不是隨心所欲、獨斷獨行的\"太上皇\"。左宗棠在任命正、副監督時就指出他們的權限，在於\"承辦船政大臣委托的一切事務\"，要求兩人信守合同，\"條約外勿多說一字，條約內勿私取一文\"。