台東鎮的市場形成已經將近百年曆史了，根據曆史檔案記載：“1926年7月28日，警察廳、財政科、工程所呈文商埠局，將市場三路商場東院處所設搭小棚攤場改建為96間平房市場，同年12月建成，投資1.06萬元。並按規定租給攤販，分批遷進。翌年7月12日，台東鎮商業代表楊聖訓等9人籌集股資5萬元，興建台東商業市場，定名膠澳台東區商業市場股份有限公司，呈報北洋0叭實業部，1928年2月4日核準發給注冊執照，所設市場麵向居民群眾，以招商租賃、提倡市麵為宗旨，設有蔬菜攤販、魚肉市場、洋雜貨館、估衣鋪、飯館、說書場，以供平民日常生活和工餘娛樂之需要”。
解放後，南山市場調整在人和路以東，桑梓路以北，台東一路以南，延安路以西。那裏當時平方居多，居民生活水平普遍較低，許多居民打開門，擺出塊塑料布，放點百貨用品就開始做買賣了，還有許多臨時板房，賣起台
東小吃。記得那時比較有名的有灌湯牛肉包子，牛肉鍋貼，排骨米飯等各式名吃。
我的少年時代就經常喜歡光顧南山市場，那時的南山到處是破舊的民房，道路兩旁，有賣米麵的、賣菜果的、賣煙草的、賣魚肉的、賣花鳥的、賣廢舊物品的、賣小吃的、形成一個自發的自由市場，逢到過年過節，那市場簡直就象趕廟會，買年畫的、買玩具的、賣鞭炮的、更有那賣食品和肉製品的，熱鬧非凡。南山市場的水產品是青島市品種最多，價格最低的，經常吸引許多人搭出租車光顧購買，那時在台東三路，博興路，四方路都有這種自由形成的市場，後來被政府納人正規管理。南山市場與其他市場的不同之處，麵積特別大，除做買賣的外，還有說書的唱戲的，玩雜耍的。擺連環畫的。買賣的商品品種也比較豐富，從花鳥魚市，瓷器玩具，應有盡有。
在文化大革命中，南山市場就開始蕭條，隻有幾家國營的糧店、煤店、食品店、雜貨店經營，沒有人敢在市場交易，那時自由市場被稱為資本主義泛濫。我記得我有個姓徐的鄰居大哥，他思想很解放，在文革期間就托人從
煙台，福山等地拉來許多蘋果，然後往商店批發或者晚上拉著車賣，不知被誰告發，按照投機倒把罪名關進監獄好多年才出來，偏偏我們院子有個姑娘看上他了，非要嫁給他，她媽媽因為他有過那一段不光彩就是不同意，可惜，媽媽說了不算，姑娘就是嫁了，後來有了兩個兒子，在改革開放中，那個徐大哥成了市北區一家工廠的廠長，並且承包經營了好多商店，兩個兒子都當了兵，一家人過上了幸福的日子。
在八十年代，我由市南工作調整到台東三路來，和正在複蘇的南山市場有了零距離的接觸。每天中午，都喜歡到南山買灌湯牛肉包，並且經常買些捎帶回家讓父母嚐嚐。過年過節，總要買燒雞和鮮魚孝順老人，這裏的蔬菜比較便宜，新鮮、下班回家逛市場也是經常的事情了。南山市場那時已經被納人正規管理，南山市場重新開放後，分為：
水產品市場，茶葉市場，肉類蔬菜市場幹海產品市場，寵物市場，花草市場，那時的外地遊客到青島來，必須要逛南山市場，因為那裏的海米和幹海產品比較其他地方的都便宜。
但由於南山市場占用了六七條馬路，攤位亂擺，占道經營，亂寫亂畫、亂搭亂建、亂排汙水、亂倒垃圾等嚴重影響了青島城市形象。規劃、市政、工商、衛生等管理執法部門費盡了力氣，疲於奔命，收效卻始終不大。市民對此有一個比較形象的說法：七八頂“大蓋帽”管不了一頂“破草帽”，最後，在市北區政府對南山市場舊城改造後，南山農貿市場也實現了退路人室。
現在，南山市場是青島市最大的農貿市場之一，它的規模和交易量堪稱農貿市場中之最，在退路人室開辦市場也是效果比較成功的市場。
硬環境好了，軟環境也不能放鬆。南山市場管理處聯合工商管理部門，以及個體協會一起，在市場門前設立了公平秤，杜絕短斤少兩現象的發生。
南山市場徹底變了樣，這種變化是可喜的，也是市民、業戶期盼的，現在走在南山市場，看到的是整齊的街道，高大的樓房，商品齊全分類管理銷售的各個市場都在室內，整齊排列的商品和售貨員熱情的服務態度，我們真切地感到：南山市場變了，它不愧為全市最佳的農貿市場。