北宋初期，從宋太祖始，重視禁軍的訓練，親自到郊外檢閱部隊，觀看士兵的軍事訓練。北宋政府規定，“禁軍月奉五百以上，皆日習武技；三百以下，或給役，或習技”。“凡諸日習之
法，以鼓聲為節，騎兵五習，步兵四習，以其坐作進退非施於兩軍相當者然。”通過嚴格的訓練，提高了宋軍的戰鬥力，使宋軍在統一戰爭中節節勝利。但是到宋仁宗以後，由於招募太濫，揀選不實，訓練太差，使北宋禁軍的戰鬥力急劇下降，在對西夏的戰爭中屢次敗北。
北宋軍隊實行嚴格的等級製度，即所謂“階級法”，使各級軍校各司其職，下級絕對服從上級，對禁軍長吏，“付以生殺，寓威於階級之間，使不得動”，以此保證嚴明的軍紀。南宋時，孝宗說：太祖設階級法，“二百年軍中不變亂，蓋出於此”。
為防止禁軍士兵驕惰，北宋還製訂了許多禁戒，要使“士卒衣食無外慕，安辛苦而易使”。北宋的軍事法規很多，北宋曾公亮等人所撰《武經總要》前集卷十四記載的《罰條》，共計有72條。據南宋王質所舉，“有鬥傷之禁，有博戲之禁，有禽犬之禁，有巫卜之禁，有飲禁，有濫禁，有逃禁，有盜禁，有詭名之禁，有匿奸之禁，有斂財之禁，有弛藝之禁，有竊造軍器之禁，有私傳兵武之禁，有出法物之禁，有結義社之禁”。對禁兵的服飾飲食都有嚴格規定：如禁軍士兵不得衣皂，隻許衣褐，長不得過膝，紅紫之服更不許穿；蔥韭不得入軍門，魚肉和酒更是嚴禁入軍營的。禁軍士兵，無故不令出班。每月請月糧時，營在城西者，即於城東支，營在城東者，即於城西給，不許雇車或人幫助，必須士兵自己背負。
北宋還製定了更戍法。更戍就是經常變換禁軍的戍守地區，規定除殿前司捧日、天武兩軍外，“自龍衛而下，皆番戍諸路，有事即以征討”。戍更的時間，是有規定的。據《宋史》卷一九六《兵十》記載，京東、京西、河北、河東、陝西、江南、淮南、兩浙、荊湖、川峽、廣南東路三年，廣南西路二年，陝西城寨巡檢並將領下兵半年。《文獻通考》卷一五三《兵五》記載：“五代承唐藩鎮之弊，兵驕而將專，務自封殖，橫猾難製。祖宗(宋太祖)初定天下，懲創其弊，分遣禁旅，戍守邊地，率一、二年而更。欲使往來道路，足以習勞苦，南北番戍，足以均勞逸。故將不得專其兵，而兵亦不知驕惰。”司馬光也說實行更戍法是為了使軍士“均勞逸，知艱難，識戰鬥，習山川”。實際上，宋太祖實行更戍法最主要的目的是使駐軍統兵官和地方官吏不敢互相結托、陰謀叛亂，也使將不知兵，兵不知將，造成將兵分離，不致率兵叛亂。
在更戍法的製度下，北方禁兵往南方移屯，常常不服水土，造成部隊非正常減員，削弱了戰鬥力。更戍法造成的將不知兵，兵不知將，更是造成戰爭失敗的重要原因。宋太宗雍熙三年(986)，曹彬在涿州大敗，原因之一就是“元戎不知將校之能否，將校不知三軍之勇怯”。
更戍法實行了百多年，直到宋神宗時，宋朝在對遼和西夏打了許多敗仗之後，才“慨然更製”，規定禁兵不再出戍。
遼朝軍製
遼在當時是一個軍事強國。據《遼史》卷三十六《兵衛誌下》記載，遼有軍隊16428萬人。為維護這樣一支龐大的軍隊，遼實行全民皆兵的製度。遼製規定：“凡民年十五以上，五十以下，隸兵籍。”幾乎所有成年男子(老年除外)都是國家的戰士。
遼軍大約可分為六大類：一是禦帳親軍，這是遼軍的主力，是由皇帝直接掌握的精銳禁軍。下分為大帳皮室軍和屬珊軍兩部分。太宗耶律德光(902—947)時，兩軍共有蕃漢精騎50萬。二是宮衛騎軍，又稱“斡魯朵(契丹語“宮”的意思)”軍。遼所立斡魯朵是12宮1府，共有宮丁408萬人，騎兵101萬人。三是大首領部族軍，由親王、大臣的部曲組成。國家有戰事時，首領率領自己的部族軍參戰，數量一般在三五千騎。四是部族軍，這是以部落為單位，由契丹境內各遊牧民族組成的軍隊，包括契丹、奚、渤海、室韋、唐古、突厥、女直諸部，分立南北二府，北府轄28部，南府轄16部，是拱衛國都及邊防要地的地方部隊。五是五京鄉丁，由隸屬上京、中京、東京、南京、西京的民丁組成，約有110萬人，實際是一種民兵，主要是承擔軍隊的徭役。六是屬國軍，是遼朝境外附庸國家的軍隊，如西夏、吐蕃、高麗、回鶻等。屬國軍在遼對外發動戰爭時，有義務派兵助戰。
遼朝的軍隊分為正軍和家丁。正軍是國家的正式軍隊，家丁由奴隸和部曲組成，兵器戰馬自備，不供給糧草，軍需物資靠戰時搶掠供給。遼軍以騎兵為主，主要武器是弓箭和刀槍。每一名正軍，備有三匹戰馬。遼後期從宋傳人拋石機式的火炮，編有炮手軍。
遼朝主管軍事的最高機關為樞密院，後為南、北二樞密院。北樞密院統領契丹兵馬，南樞密院統領漢族兵馬。樞密院使是全國最高軍事首腦。然而，由於遼太宗是以天下兵馬大元帥繼嗣帝位的，所以天下兵馬大元帥一職成為遼朝皇帝以下的最高稱號，隻能由皇太子和親王擔任，成為遼朝軍政大權的實際執掌者。天下兵馬大元帥閑總領全國軍政、有大元帥、副元帥，下又設大元帥府、都元帥府、大詳穩(漢語將軍之意)司、東都省、西都省、護軍司、衛軍司、諸路兵馬統署司等。為了控製諸奚，在上京路置諸軍都虞侯司、奚王府等；為了控製高麗，在東京遼陽路置東京兵馬都部置司和契丹、奚、漢、渤海四軍都指揮使司；為了對付北宋，在南京置南京都元帥府、南京兵馬都總管府、南京都統軍司和南北皮室詳穩司等；為了控製東北諸部，在長春州(今吉林農安縣北)置黃龍府兵馬都部署司、東北路都統軍司；為了控製西北諸部，在西北路置西北路招討使司、西北路總領司、西北路阻卜都部署司等。
西夏軍製
西複實行的是一種全民皆兵的軍事製度，“凡年六十以下，十五以上”的成年男子都是國家的戰士，平時不脫離生產，戰時則參加征戰。但在一般的情況下，國家的常備軍還是有固定員額的，采用的是征兵辦法。《隆平集》載夏國征兵最詳：“其部族一家號一帳，男年十五以上為丁，有二丁者，取正軍一人、負擔一人，為一抄。負擔者，隨軍雜使也。四丁為兩抄，餘號空丁，願隸正軍者，得射它丁為負擔，無則許射正軍之疲弱者為之。故壯者皆戰鬥，而得軍為多。”夏國的常備軍主要是部族軍，西夏“首領各將種落之兵，謂之一溜，少長服習，蓋如臂之使指”。部落是軍事組織的基礎，部落首領即軍隊將領，享有很高的威望。因此，西夏的軍隊有很強的組織性和紀律性。
西夏常備軍的總數大約在70萬左右，戰爭高峰期可能還有所增加。在70萬軍隊中，約有50餘萬分隸於各監軍司。監軍司是西夏設立的地方軍事指揮機構，每一監軍司都領有一支專門的軍隊，並立有軍名，規定駐地。一般常見的有：翔慶軍、神勇軍、祥軍、嘉寧軍、靜塞軍、保泰軍、和南軍、朝順軍、甘肅軍、西平軍、鎮燕軍、強鎮軍、威福軍等。各軍大小不等，有統軍多至10萬者，亦有少至一二萬人的。每一軍都設都統軍、副統軍及監軍使各一人，由“貴戚豪右”充任。總領全國軍事的是翔慶軍，設在靈州西平府。西夏也有樞密使一職，但似乎不是夏國兵權的實際執掌者，很可能隻是一種虛銜。夏國的軍事指揮權由皇帝親自掌握。
除了各監軍司的軍隊外，還有負責保衛皇帝的禁衛軍。禁衛軍有兩種：一稱為“六班直”，揀選豪族子弟善弓馬者充任，元昊時有5000人，後發展至25萬人，並配有7萬人的副軍，主要擔負保衛首都的責任；一稱為“鐵騎(又稱鐵鷂子)”，選軍隊中驍勇之人充任，分為10隊，隊各有長，元昊時有3000人，後增至萬餘人，主要擔負保衛皇帝的責任。另外，夏國還有一支名為“擒生”的軍隊，負責在作戰時俘虜生口，以補充西夏人員之不足。這支部隊由各部落首領挑選精騎組成，共10萬人。
西夏軍隊以騎兵、步兵為主，並有炮兵、水兵。西夏騎兵以“平夏鐵鷂子”為主，乘善馬披重甲，具有很強的戰鬥力。步兵以“橫山步跋子”為主，與“鐵鷂子”配合作戰。炮兵又稱為“潑喜”，僅200多人。水兵人數也很少。
金朝軍製
金朝初期實行的是一種全民皆兵的製度，“諸部之民，無它徭役，壯者皆兵，平居則聽以佃漁射獵習為勞事，有警則下令部內，及遣使詣諸孛堇(女真語，部長之意)征兵，凡步騎之仗糗皆取備焉”。金入主中原後，這種義務兵的征選製度逐漸被簽軍與募軍製度代替。簽軍實際上是強迫征兵，主要對象是金統治區的漢族人民，“有事則簽取於民，事已則或亦放免。”募軍則是采用漢族選募之製，國家以雇傭的形式招募兵員補充部隊。金的侍衛親軍、射糧軍均為選募。
金朝軍事組織的特點是實行猛安謀克製度。猛安相當於千夫長，謀克相當於百夫長。這本是氏族社會的一種職稱(猛安是部落軍事首長，謀克是氏族長)，在阿骨打以前早已存在。阿骨打把它製度化，作為固定的軍製。規定300戶為謀克，10謀克為猛安。對於歸附的諸部，一律用猛安謀克之名稱其首領，把諸部人民編入其中。這就使金軍組織嚴密、號令統一、戰鬥力加強。由於金實行的是兵民合一製度，因此猛安謀克也是地方行政組織。在滅遼戰爭中，曾把猛安謀克製度推行於遼朝境內的漢人居住區，遭到漢人反對而停止。在對遼宋的作戰中，猛安謀克製度曾起過重要作用。到金中期，猛安謀克逐漸瓦解，到金後期則已名存實亡，最後，金朝不得不靠組織虯軍、忠孝軍，來應付戰爭的需要。
金朝的軍隊名目繁多。以民族分類，有女真軍、契丹軍、渤海軍、奚軍、漢軍及軍(各部族雜軍)等；以軍隊擔負的職責和任務分類，則有侍衛親軍、鎮防軍、屯戍軍(含永屯軍和驅軍)、屯田軍、效節軍、射糧軍、牢城軍、防城軍、忠孝軍、忠義軍、長勝軍等，忠孝、忠義、長勝等軍都是臨時組織的軍隊；以兵種分類，則有騎兵、步軍、水軍、炮軍等。金以騎兵為主，一騎多馬，戰鬥力較強；水軍規模不小，但戰鬥力較弱，炮兵除使用冷兵器外，還使用火炮、鐵火炮、飛火炮等火器作戰。
金朝設置的最高軍事機構是都元帥府，掌握全國的軍事大權，下設都元帥和左、右副元帥各一員，由諳班(女真語義為“大”)勃極烈(女真語義為“部長”)和勃極烈擔任。各路設軍帥司或都統司，由都統統領本路軍隊，隸屬都元帥府。金熙宗(完顏直，1119—1150)時，中央軍事機構沒有變化，地方則依遼、宋舊製設路、府、州、縣四級，各路設兵馬都總管統領軍兵，路治所在地稱總管府，各州刺史、節度使統領軍兵，兼管政事。到海陵王時，中央廢除了都元帥府，仿漢製設樞密院，由朝廷任命樞密使、副使掌握全國軍事。
南宋軍製
南宋軍製大體上沿襲北宋製度，仍以募兵為主，禁軍、廂兵、鄉兵等各種軍隊名稱仍然存在，但禁軍作為國家主力軍的地位已為新形成的屯駐大軍所替代，西北邊防的蕃兵，也因陝西的失去而不複存在。
建炎兵製
靖康元年(1126)閏十一月，趙構被任命為河北兵馬大元帥，陳亨伯為元帥，汪伯彥、宗澤為副元帥。十二月(1127)，建立大元帥府，趙構把所領軍隊萬人分前、後、左、中、右五軍，這是南宋建軍之始。靖康二年五月趙構即位後，另設禦營司，由宰相、執政兼任正、副使，其下設都統製，統管禦營軍，禦營軍分為五軍。建炎三年(1129)四月苗傅和劉正彥兵變失敗後，劉光世的禦營副使軍和韓世忠的禦前左軍、張俊的禦前右軍，均脫離禦營軍而獨立成軍，禦營軍分而為三：禦營副使軍、禦前軍和禦營軍。而禦營軍仍有五軍。此時，禦營司僅能管轄禦營五軍，禦營副使軍與禦前軍則與禦營司脫離關係。建炎四年(1130)六月，禦前軍改為神武軍，禦營軍改為神武副軍，禦營副使軍改為禦前巡衛軍，統歸樞密院領導，撤銷禦營司，恢複北宋舊製。
紹興兵製
紹興元年(1131)以後，南宋在江南穩定了統治，軍製也漸趨穩定。當時，除川陝的吳蚧大軍外，東南地區的大軍為劉光世的禦前巡衛軍、韓世忠的神武左軍、張俊的神武右軍、王躞的神武前軍、陳思恭的神武後軍，楊沂中的神武中軍。後來王理、陳思恭部並入神武左右軍。由宗澤餘部發展起來的嶽飛軍，於紹興三年用神武後軍的番號。這樣，南宋軍隊在紹興初年便形成了吳王介、嶽飛、張俊、劉光世、韓世忠為主帥的五支屯駐大軍，其次則有楊沂中的神武中軍、王彥的八字軍等，總兵力30萬。吳王介是川陝大軍主帥，劉光世是禦前巡衛軍主帥，韓世忠是神武左軍主帥，張俊是神武右軍主帥，嶽飛是神武後軍主帥。
紹興五年(1135)，屯駐大軍的番號改為行營護軍。韓世忠為前護軍，嶽飛為後護軍，劉光世為左護軍，吳王介為右護軍，張俊為中護軍。各支大軍都分成若幹軍，軍級統兵官有統製、統領等。軍下設將，將一級有正將、副將、準備將，總稱將官。在將之下，還有部與隊的編製，設有部將、擁隊、押隊等職。
紹興七年(1137)，劉光世被解除兵權，其部下大將酈瓊率4萬人降齊，餘部8000人由王德統率，並入中護軍，左護軍名存實亡。紹興九年(1139)，吳王介病死，右護軍分裂，由吳磷、楊政、郭浩三大將統率，因此，右護軍的地位降低。於是，隻剩下嶽飛、韓世忠、張俊三帥地位最高。紹興十一年(1141)，宋高宗和宰相秦檜推行投降路線，罷韓世忠、張俊兵權，殺害嶽飛。此後，將四支屯駐大軍陸續改編成十支屯駐軍，部署在長江沿岸和川陝交界處，統稱為“禦前諸軍”，為南宋的主力軍。
三衙和班直
南宋初，三衙機構仍然保留，但不統兵。班直也保留充當宿衛。紹興五年(1135)，楊沂中的神武中軍改為殿前司軍，三衙始有兵將，且兵力不斷增加。紹興十一年以後，三衙軍成為與禦前諸軍平列的屯駐大軍，不再有隸屬關係。三衙軍的編製，與禦前諸軍相同。南宋的三衙軍與北宋時有所不同，侍衛馬軍司並非全統馬軍，侍衛步軍司也掌管部分馬軍。三衙各軍的情況是：
殿前司：紹興五年，改神武中軍為殿前司軍，共7軍。紹興九年(1139)，殿前司有統製13，統領21，正、副、準備將178。紹興十八年(1148)，兵力增至7萬餘人，轄12軍。宋孝宗時(1163—1189年在位)規定，殿前司軍的編製為73萬人。從此維持到南宋末年未改變。
侍衛馬軍司：紹興七年(1137)開始組軍，共6軍12將、6000人。紹興十四年(1144)，從四川右護軍調入4個軍。到紹興三十一年(1161)，馬軍司共有兵力3萬人。孝宗乾道七年(1171)，調馬軍司戍建康，臨安隻留殿前司和步軍司兩支部隊。此時，馬軍司共有6個軍，實有兵力27萬人。