濟寧府，又稱任城，約於公元前2000年夏少康時，封此地為任國。秦稱任城縣，因地瀕濟水，後周廣順二年（952年）又設濟州，初治巨野；但巨野一帶常被水淹，而任城地勢高亢，遂遷之。元時則地取安寧意，設濟寧路，始有濟寧之稱。龍漢王朝洪武帝改濟寧路為府，仍治任城。
這裏自古素有“孔孟之鄉、禮儀之邦”的美稱。曆史悠久、規模宏大、等級最高的孔廟，中國古代最大的人造園林-孔林，號稱“天下第一家”的孔府，均在濟寧府轄區內。甚至據說連春秋時期五大聖人，即至聖孔子、亞聖孟子、複聖顏子、宗聖曾子、述聖孔亻及和人類初祖伏羲、女媧、黃帝、少昊帝也都出生於濟寧。（老實說，我查資料時看到這個也半信半疑，濟寧人民大有往自己臉上貼金的嫌疑哦）
而濟寧成為軍事要地，與京杭大運河是分不開的，作為曆代漕運要道，自五代之後（五代十國時期以後），五代宋元政權均在濟寧設立了相應的軍事機構，充分顯示了濟寧在曆史上舉足輕重的軍事地位。（河北、東北以及大漠南北因為常常打戰的原因，對糧食的需求量很高，而北方本來產糧就少，還不夠本地人吃的，所以要走運河和黃海、渤海，通過河運與海運向北方運輸糧食，這一運糧食，特別是軍糧，軍事上的重要性就突顯出來了）。
各位不會以為一個無敵大將軍隻要帶領一支精銳部隊就會所向披靡吧，其實戰爭首在後勤，後勤能力有多強，決定一個國家的軍事能力有多強！當然，我說的不包括遊牧民族的軍隊，他們是靠純搶的，就糧於敵，無需後勤；明末張獻忠的軍隊就更厲害了，他進四川以後，先搶糧食，無糧可搶後就殺人為糧，比遊牧民族還他媽厲害！結果把純種的四川人都給吃光了，現在的四川人，都是清朝時湖廣填四川，移民過去的！這種軍隊，自然是更用不著後勤了！（軍隊不用後勤也能打勝仗？當野蠻人真幸福！！！）
據《元史》載：運河貫通後，“增濟州漕舟三千艘，役夫二萬人”。元初，經漕運京都的糧米百萬擔，其中通過濟寧所運漕糧達30萬擔。為管理漕運，大元朝廷在魯橋(今濟寧市微山縣)設立了都漕運司使。後又陸續增設濟寧兵馬司、濟寧分樞密院總督河道衙門等等，駐有軍兵1萬2千人。（本來在趙宋王朝統治時期，運河因為海運的緣故，已經漸漸萎縮，呼蘭人統治中原時期，因為恐懼中原漢人與原趙宋王朝時期海外殖民地漢人搞串聯，陰謀推翻大元政權，所以實施了海禁政策，向北方運輸糧食主要依靠運河，所以保護運河糧道的軍隊比趙宋王朝、龍漢王朝都要多得多！）
總督河道衙門負責節製整個京杭大運河的安全，僅山東運河道就轄有沂州道、漕濮道、臨清道、濟寧道等四個兵備道（相當於今天的軍分區），其中沂州道、濟寧道均駐節濟寧。
宋政和（宋政和元年為1111年）年間《兗州府誌》稱：沂州倚角東南，彈壓山海；臨清節製西北，北控燕齊；漕濮在河堤之上，綰轂三省：濟寧處漕渠之中，襟帶四方。各道均由管河司運大臣駐濟寧以節鉞提督。
洪武帝初年改濟寧駐軍為燕山右衛，後又改稱濟寧右衛，並加設濟寧左衛。（這裏的衛大約相當於師團級單位，師團是野戰軍單位的叫法，而重要的地方守備部隊則稱衛，例如威海衛、天津衛守備衙門，但省會首府的守備部隊一例稱為城防軍統領衙門）。兩個衛均受濟南將軍與河道總督雙重節製（也就是駐軍八千人，這個數字比趙宋王朝要多，但比大元呼蘭政權要少，龍漢王朝對向北方運輸糧食一貫采取兩條腿走路的政策，如果有陸上敵人切斷河運，則還有海運；如果有海上敵人切斷海運，則還有河運可以依靠；這也叫不把雞蛋放在一個籃子裏，不怕一萬，隻怕萬一哦！比如現在彭拓占領濟寧，切斷了漕運，那帝國對北方所有軍隊的軍糧輸送，就隻能依靠海運了），濟寧今天有什麼馬場湖、馬踏湖，就是因為濟寧衛屯田養馬而得名。