在大力選拔文人參政的同時，削減武將在政權班子中的比重或者把武將轉化成文臣的工作也在緊鑼密鼓地配套進行著，這就是史家們通常所稱的唐代“文武之變”現象，即唐代政權人員組成結構中文臣武將的不同比重和社會風氣中是尚文還是尚武的變化趨向和走勢。
本來，大唐帝國是以李淵父子為代表的軍事貴族集團的勝利果實，李淵父子所依靠的軍事貴族集團，基本上是以周隋以來形成的關隴地主集團為核心，聯合了關東地區世族地主集團、豪強地主集團以及當時北部邊疆少數民族的部落貴族而形成的。這個集團的重要特點，就是崇尚武力，關隴地區的尚武風氣源遠流長，早在漢代即有“關西出將，關東出相”之說。宇文泰西入關中創建府兵製時，除依靠部分代北戰士外，主要依靠關隴世族地主所領的鄉兵。到了周隋，關隴集團的尚武之習依舊濃厚，從西魏八柱國之一的李虎，到兒子李昞、孫子李淵、曾孫李建成、李世民，皆可以算是標準的武人。另外，在唐高祖武德年間陸續參加到中央政權機構中來的，還有關東地區的世族地主集團和所謂的“山東豪傑”集團。關東地區，特別是河北、山東一帶，由於長期處於北方少數民族的襲擾和統治之下，故無論是地主階級，還是一般農民，都漸漸染上了較重的習武之風。加之唐代皇室本出自胡化較深的北朝漢人，故當時統治集團並沒有強烈的夷夏區分觀念。而夷夏之辨觀念的淡薄，軍事上也急需善戰能武的番將的幫助，故唐初朝廷中少數民族將領和武臣極多，而這些人本來尚武少文，唐代統治集團容納了大批番將，無疑對強化尚武風氣起了正向的刺激作用。
唐代武德年間，武將的地位是相當高的。在政治上，有的武臣位居文職，如在中央政權內擔任宰輔和六部尚書等要職，但此類情況極少，隻有李靖、李績、侯君集等幾個名將，大多數武臣則是出任地方長官，擔任都督、刺史、總管等職，如尉遲敬德、段誌玄、程知節、劉弘基、張亮以及江夏王道宗、河間王孝恭等。還有不少武將與唐初皇室通婚聯姻，唐公主的駙馬中，有一半的是武將或名將之後，其政治地位、社會地位在當時的尊崇狀況可以想見。我們隻要看一眼唐高祖創立大唐帝國後，所定的年號也明確地叫做“武德”，當時的尚武重武之風，就不言而喻了。
唐太宗即位之後，雖然沒有一下子革除父皇時代重武輕文的風氣，但他卻在艱難地紮實地向“尚文重士”的方向努力。在大力采用科舉製選拔文人進入政界和通過其他各種途徑提拔知識分子的同時，他也開始大規模削減以前武將在朝廷的官位。唐高祖在位期間，科舉取士隻有32人，而唐太宗一朝科舉取士猛增至234人，奠定了科舉製大規模發展的基礎，科舉製漸漸成為入仕之首選，社會上才智之士趨之若鶩，社會風氣因而大變。而在穩定了政權以後，唐太宗也清楚地看到許多武臣因為善武少文，缺乏行政管理才能，對封建統治機構的正常運轉往往有所妨礙，這就迫使他要讓武將逐漸退出行政機構，減小他們在政權中的影響力。如屈突通乃唐初有名戰將，高祖因他戰功卓著，為人忠貞，任命他為刑部尚書，但他文化水平太差，無法勝任，隻好改任工部尚書，為時不久，還是隻好調往地方，當他最擅長的軍事將領——洛州都督。又如尉遲敬德，盡管是唐太宗最信任的心腹大將，在玄武門之變中，論功第一，賜賞之厚，任何人無法比擬，但唐太宗即皇位以後，他並沒有掌握過中央政府大權，而是派遣到外地，擔任總管。他“好訐直，負其功，每見無忌、玄齡、如晦等短長，必麵折廷辯，由是與執政不平……嚐侍宴慶善宮，時有班在其上者，敬德怒曰：‘汝有何功，合在我上？’任城王道宗次其下，因解喻之。敬德勃然，拳毆道宗目，幾至眇。太宗不懌而罷，謂敬德曰：‘朕覽漢史，見高祖功臣獲全者少，意常尤之。及居大位以來，常欲保全功臣，令子孫無絕。然卿居官輒犯憲法，方知韓、彭夷戮，非漢祖之愆。國家大事，唯賞與罰。非分之恩，不可數行，勉自修飭，無貽後悔也。’”這一情節一方麵反映了尉遲敬德居功自傲，仗勢欺人等修養方麵的缺陷，另一方麵更反映了唐太宗即位後壓抑武將，限製功臣，獎勵文士、提倡文治的事實。尉遲敬德後來被調出中央，數年後，授以虛尊的“開府儀同三司”的最高官階，基本上被排斥於實際行政之外，閑置了起來，以後的幾十年內，這位赫赫有名的頭號功臣，就因為是一介武人，再也沒有參與過朝政，而隻好“篤信仙方，飛煉金石，服食雲母粉，穿築池台，崇飾羅綺，嚐奏清商樂以自奉養，不與外人交通。”武將中，還有秦瓊，在唐太宗即位後，一直臥病不出，從未過問政務；唐儉除了出使過一回突厥外，也一直以閑職供養起來，因為無法參與中樞政要，所以也隻得“在官每盛修肴饌，與親賓縱酒為樂，未嚐以職務留意”。長孫順德，是長孫皇後的族叔，玄武門政變中幫助李世民的功臣，後因貪汙受賄被唐太宗責罰，並乘此被逐出政壇，以後就隻有借酒澆愁，鬱鬱度日。劉弘基、劉政會、柴紹、程咬金、段誌玄、張公瑾等昔日的開國功臣、凜凜將軍，也都充其量派在邊防前線統軍帶隊，效力沙場，要麼就安排一個虛銜閑置起來，吃喝玩樂盡可自由自在，但就是不得再插手國家政務，朝廷大事再也沒有過問的機會了。唐太宗也選擇一部分優秀武將，把他們培養轉變成能文能武的貞觀名相，如李靖、李勣、侯君集等都是一代名將，唐太宗通過各種途徑和方法讓他們朝文相方向努力，使他們終於成為出將入相、文武雙全的能臣。這與太宗自己讀書習文有關，他說：“朕年十八便帶兵，二十定天下，二十九為天子，少從戎旅，不暇讀書。貞觀以來，手不釋卷，知風化之本，見政理之源，行之數年，天下大治。”並號召群臣讀書識理，以求天下致治，鼓勵大臣讀經議政，他說：“人性台靈，待學以成其美，博學以成其道。”把讀書提高到亂後思教，致治太平的高度。他要求大臣向篤意學問的虞世南學習，虞世南被人譽為“文學之宗”，唐太宗總結他有五絕：一德行、二忠直、三博學、四辭藻、五書法，並說：“群臣皆若世南，天下何以不治？”