古代北方遊牧民族是騎兵戰術的最早的實踐者，戰國時期北方的遊牧民族“三胡”（東胡、林胡、樓煩）以大規模的騎兵和中原地區的諸侯國發生衝突，中原諸侯國也逐漸開始組建騎兵部隊。最著名的事例是趙武靈王的“胡服騎射”改革。戰國時期中原各諸侯國的騎兵主要是起作戰輔助作用，《六韜》認為騎兵是“軍之伺候”，用於追擊、隔斷作戰。騎兵的編製和步兵什伍相似，作戰時騎兵以什伍為單位輪番上前發射弓箭，近戰格鬥則各自為戰。
秦漢時期的騎兵戰術仍然以集團馬上射箭為主。匈奴騎兵善於射箭，也能夠在沒有馬鐙的情況下進行使用長矛、刀劍的格鬥，而中原地區騎兵隻有項羽那樣具有高超騎術的人才能夠做到，一般騎兵主要依靠射箭為戰鬥方式。為提高射擊密度，戰鬥隊形比較嚴密，估計也采用和步兵一樣的方陣，基本方陣“曲”為100名左右，以下有幾個“屯”，可以橫隊或豎隊迎敵。漢朝武帝開始組織騎兵大兵團深入漠北求戰，應該有嚴密的騎兵戰陣，以集體發射和衝擊對付匈奴騎兵的散兵戰術。綿延將近百年的漢匈大戰結果是以漢朝的勝利而告一段落。
4世紀時馬鐙開始普遍使用，同時馬的防護裝備也大量普及，馬刀、長矛成為騎兵的主要作戰武器。這種技術進步迅速影響到騎兵戰術的改革。集團橫隊衝鋒、近戰格鬥成為“鐵騎”（人馬都披甲的重甲騎兵）取勝的法寶。遊牧民族建立的十六國以及後來的北朝政權都依靠這種新的騎兵戰術對漢族皇朝的步兵取得壓倒性勝利。唐朝興起時，在繼承北朝重甲騎兵戰術的同時，更注重以輕甲騎兵部隊迂回突襲，李世民本人就擅長率領輕騎兵長途突襲。
唐皇朝建立後，將騎兵結合在步兵戰陣中。從《通典》所引的李靖語錄來看，唐皇朝的標準戰術是將騎兵部署在第二線步兵戰陣的兩側，當第一線步兵戰隊開始進攻時，騎兵無須上馬，在戰鬥膠著、第二線步兵投入戰鬥時，或者是敵軍已經動搖、陣腳不穩時，騎兵從兩側發起猛烈突擊，給予對方決定性打擊。騎兵戰鬥單元也是50人的“隊”，可以排縱隊或橫隊陣勢。輕騎兵作戰手段包括了射箭和馬上格鬥，以長矛突擊為進攻的主要方式。
唐以後的中原皇朝再也沒有能夠建立起大規模的騎兵兵團。騎兵戰術的主要發展在於和步兵的協同作戰。北宋初年沿襲唐朝傳統，在宋太祖製定的“禦製平戎萬全陣圖”裏，騎兵作為輔助兵力，部署在陣內的3萬騎兵，仍然按照唐朝製度進行編製，但顯然並不是主動出擊的部署，而隻是平均配置，作為中間三個大步兵方陣的屏障。
北方少數民族政權遼、西夏、金、元都以騎兵稱雄。遼朝騎兵戰術是以輕騎兵為主力，輕騎兵誘敵，野戰時故意三三兩兩的布置為散兵陣，一般並不主動突擊，等敵軍突擊靠近後迅速集結射箭，然後以主力排橫隊衝鋒，每一橫隊500～700騎，輪番衝擊，打開缺口後以縱隊騎兵插入分割或追擊，失利即迅速撤離戰場。西夏騎兵以重騎兵著名，野戰時以重騎兵“鐵騎”為先鋒，人馬披甲，以鐵索連接為30騎的橫隊，即使陣亡的士兵也不會從馬上掉下來。對於步兵為主的宋軍來說，要能夠抵抗這種重騎兵突擊有相當難度。一旦宋軍步兵戰陣被打開缺口，西夏的輕騎兵和步兵就乘勢猛攻。
金朝騎兵戰術更為成熟，平時作戰都以輕重騎兵混編，50人為隊，作戰時20名重騎兵居前，以長矛棍棒為武器，30名輕騎兵居後，以弓箭為武器。一般並不輕易突擊，在發現對方薄弱環節後，集中射箭，重騎兵衝鋒，輕騎兵跟進。在和宋軍相持不下時，則會以號為“鐵浮圖”的重騎兵投入戰鬥，這種騎兵身穿著兩層鐵鎧，馬披堅甲，箭矢無法穿透，三列橫隊，每列戰馬都用鐵索相連。這種重騎兵由於盔甲太重，無法疾駛，因此以緩慢步伐前進。在遇到猛烈抵抗時，會在重騎兵後麵放置拒馬，迫使人馬不得後退，向前一步就將拒馬往前移。在這種撞城式的攻擊下，一般敵軍都會瓦解，金軍同時也會出動“拐子馬”重騎兵從兩側迂回攻擊。