既然國家的安危係於軍隊的強弱上，而軍隊的強弱在很大的程度上又取決於將帥的素質和才能，那麼選擇將帥之重要就可想而知了。所謂“千軍易得，一將難求”，說的就是對將帥選擇的重要與要求之嚴格。諸葛亮對將帥的選擇，與他治國舉賢授能一樣，注重德才並重。德，就是良好的道德，這裏麵包括對國家的忠誠，處事以公的原則，同時也包括愛民的思想。眼裏如果沒有老百姓，處事不考慮民眾利益的將帥，他就不是國家的良輔，就沒有資格當軍中的主帥。才，就是要求作為將帥要精通軍事，懂得謀略，善於打仗。
在蜀國，能夠稱得上合格的將帥，在諸葛亮的心目中並不多。從《三國誌·諸葛亮傳》中所敘，以及《出師表》中所涉及的，隻有將軍向寵和後來擔任蜀漢主帥的薑維，諸葛亮才認為他們夠稱得上是德才並重的將帥，可見他對將領的選擇要求之嚴。
對軍事將領全麵軍事素質的要求，集中體現在下麵的一段話中：
一個將領要審知天時與地利，更要注意人和，要關心和愛護部屬；既要熟悉各種攻防兵器，擅長運用掌握，又要注重賞罰公正嚴明對士卒作戰勇敢與否所起的作用；要洞察敵人的陰謀，善於掌握敵人的動向，要了解進軍路上的險阻，何處安全，何處危險，要變被動為主動；進軍和退卻，要掌時機；防守要充分部署、提高警惕，進攻要加強力量，擴大聲勢；攻與防，都一定要積極發揮士兵的作用；對成功和失敗都要充分估計到，要爭取盡量減少傷亡。（原文見《諸葛亮集·文集》卷3）總而言之，諸葛亮強調：一個優秀的將領，一定要深謀遠慮，要集思廣益集思廣益：集中大家的智慧，廣泛采納有益的意見。，切不可獨斷專行。
在具體治軍的方法上，諸葛亮采用禮治和法治相結合的辦法。
所謂禮治，就是用儒家思想進行教育。諸葛亮在治國治軍方麵，最反對“不教而誅”。平時要重視教化，對軍隊要在思想上用禮義忠信的封建倫理觀念武裝將士們的頭腦。為什麼要這樣做？諸葛亮解釋說，從軍事觀點上講，一個將帥能夠“善養士卒”就可稱得上是“仁”；將士如果能“以身殉國”，就是“忠”；不為利祿富貴所動搖，就是“義”；勝利了不驕傲，不居功，是“禮”；能夠“奇變莫測，動應多端”，就是“智”；“賞不逾時，刑不擇貴”，就是“信”。能夠做到忠、義、禮、智、信的軍隊，就是一支戰無不勝的軍隊（以上見《諸葛亮集·文集》卷4）。
以法治軍，就是強調要以典型、賞刑來警戒官兵。如果說禮治是務虛的話，那法治就是務實的了。在諸葛亮看來，厲行法治是軍隊的法寶，他說：“一個作將帥的，統率著百萬的軍隊，要使這麼多人束肩斂息，躬身並足，集中注意力，連大氣也不敢出，連頭也不敢抬起來服從命令，靠的是什麼呢？靠的是法製。”（原文見《諸葛亮集·文集》卷4）如果“賞罰不明，法令不信”，即使有“百萬之師”，也是“無益於用”的。諸葛亮非常推崇先秦軍事家孫武、孫臏等人，讚賞他們在治軍之中執法嚴明的作風。他認為，將士作戰立了功，就要按功勞的大小給予獎賞，如果違犯了軍法，那就不管他地位有多高，平時對他多親近，也要依法處罰。著名的例子，就是忍痛揮淚斬馬謖。馬謖違犯軍令，失了街亭，被處以死刑。當時蔣琬到漢中對諸葛亮說：“天下未定，殺掉智能之士，豈不是很可惜嗎？”諸葛亮回答：“孫武之所以能夠製勝天下，就是靠他嚴明的軍法。現在剛剛和敵人交戰，就因人而使軍法受到破壞，怎麼能夠去討賊呢？”（原文見《三國誌·蜀書·馬良傳》裴注）可見諸葛亮對以法治軍的態度是相當堅決的。法治對於諸葛亮本人也不例外，當第一次北伐失敗時，他上疏承擔責任，自貶三級。
在用“禮”與“法”治軍的同時，諸葛亮還十分注意對軍隊進行技術訓練，即重習練。他說：“一支經過高度習練的軍隊，如果由一個才能不高的將帥來指揮，不見得就會失敗；如果一個很有才幹的將帥，統率的是一支沒有訓練的軍隊，也很難取勝。”
對軍隊具體的的技術訓練中，諸葛亮要求將士要掌握行軍、作戰、屯駐的要領，懂得進退攻守的次序，發揮各種兵器的效用。他還在軍隊中提倡互教互學的訓練風氣。他說：“一人可教十人，十人可教百人，百人可教千人，千人可教萬人，萬人可教三軍，然後教練而敵可勝矣。”
正因為諸葛亮以“禮”、“法”治軍，軍隊訓練有素，陣容嚴整，因而蜀軍的戰鬥力是比較高的。縱觀蜀軍在曆次北伐戰鬥中，勝多敗少的情況來看，諸葛亮治軍的成效應該是很卓著的。
諸葛亮在治軍方麵，還有值得一提的方麵，這就是史傳上所稱的“長於巧思”。這是指諸葛亮在改進兵器和運輸工具方麵有所創新，創造性地發展和豐富了古代的兵法陣圖，在軍事科學方麵有一定的貢獻。
弩（nǔ），是一種用機械力量射箭的兵器。諸葛亮改進人連駑，稱之為“元戎（rónɡ）”，這是一種殺傷力很大的勁弩。1964的年，在成都附近出土的蜀漢銅弩機，證實了是經過諸葛亮改進的人連弩的一種。