愛屋及烏，康熙與四子胤禛的關係，愈發親密起來。康熙親筆書寫“五福堂”匾額，賜給胤禛，胤禛將它懸掛在王府後室。胤禛的政治地位也得到提高，大祀被視作是地位及皇帝恩寵的象征，康熙登基後，凡大祀必要親自主持，到了晚年則安排胤禛主持。在晚年康熙的心中，皇四子胤禛能給他親情，自然是最賢良、最理想的接班人。
允祥旁觀著一切，其他的皇子與他有隔閡，他自然地親近於四哥。而在太子爭奪戰中，沒有野心的允祥，自然也讓胤禛信任，並放心交往。
康熙去世後，胤禛繼位，年號雍正。
四兄當上了皇帝，允祥的命運也發生了翻天覆地的變化。雍正即位後，命允祥為總理事務大臣，封怡親王。同時被任命為總理大臣的還有允禩、馬齊、隆科多。允禩是當年太子位置最強有力的競爭人，追隨者號“八爺黨”，這一黨在朝內樹大根深，盤根錯節，一時難以清除。馬齊是康熙朝的重臣，曾與佟國維等聯名保奏過允禩為皇儲，因此被康熙囚禁，後轉投胤禛門下，得到重用。隆科多則因在雍正登基時立下大功，日益驕橫。
為了緩和登基後的緊張局麵，雍正暫時重用允禩、隆科多等人，實際依靠的還是允祥。雍正後來曾回憶說：“輔政之初，允禩包藏禍心，擾亂國是。隆科多作威作福，攬勢招權。實賴怡親王一人挺然獨立於其中。”
允祥擔任總理事務大臣後，顯示出了出色的才能。他奉命管理戶部時，從中央到地方都在瞞報虛報，戶部虧空驚人。在允祥管理下，國庫收入大增，庫儲豐裕。直隸地區水患嚴重，允祥受命辦理水利。古時中國，辦理水利一向是最肥的差事，但允祥兢兢業業，認真規劃，使得直隸地區的水患得到了抑製。
出於對允祥的信任，雍正將一個重要的任務交給了他，那就是為雍正挑選帝陵。入關之後，順治、康熙的墓地都在遵化，本來雍正也是要在遵化建陵墓的。允祥親自挑選，在遵化九鳳朝陽山選了塊吉地，不想開工後發現地下土中帶有砂石，於是廢棄。允祥在遵化附近沒有找到好墓地，就到易縣永寧山附近找到了風水寶地，此塊陵地讓雍正極為滿意。
在選址的過程中，允祥往來審視，不辭辛苦，“常至昏夜始進一餐”。允祥的盡職與努力，自然讓雍正滿意，更讓雍正欣賞的是，允祥從不居功自傲，總是謙恭謹慎。雍正登基後，沿襲康熙朝封王時的慣例，賜給允祥銀二十三萬兩。允祥堅辭不收，在雍正的再三勸勉下，允祥才收下十三萬兩。親王的待遇是，六年內由朝廷供給物品，允祥又推辭不受。雍正三年，因為允祥盡心盡力，雍正封他的一個兒子為郡王，允祥又不敢受。雍正看他清廉，令給他加俸銀一萬兩。允祥沒法推辭，就暫時收下存放起來，待機再還給雍正。允祥知道伴君如伴虎，他謙卑地活著，時刻警醒著，唯恐逆了龍鱗。
對忠誠而又謙恭的允祥，雍正無比信任，而軍國大事的處理，自然要靠允祥出力。早在雍正四年，雍正就已經開始準備對準噶爾用兵，以允祥、張廷玉、蔣廷錫三人秘密辦理，為此特設了軍需房。經過允祥的精心策劃，用兵西北的軍需物資皆出自庫帑，而不額外從民間征募，“經理二年有餘，而各省不知有出師運餉之事”。
雍正七年，雍正正式對準噶爾用兵。
為了配合準噶爾部用兵，軍需房被改為軍機處，並在隆宗門內辦公。隆宗門是內廷與外朝聯係的重要通道，非奏事待旨及宣召，即使王公大臣也不得私入。軍機處設在此處，既方便辦公，又可以保密。不過此時的條件比較簡陋，在隆宗門內軍機處隻是臨時搭建了小板房，天寒地凍時，辦公極為辛苦。
軍機處創立初期，既無專門衙署，也無專門官員，所有官員都從各部調來，作為兼職，是為“有官無吏”。軍機處成立以後，內閣僅負責處理一些象征性的國家事務，軍機處則成為統治機構的中樞。
軍機大臣秉持皇帝之命而行事，以皇帝的私人秘書機構的身份，操國之權柄。軍機大臣由雍正親選滿漢大學士、尚書兼任，人數初期並無定額，隻有最得皇帝信任，且熟諳政事者方能得任。首任軍機大臣三人，分別是怡親王允祥、大學士張廷玉、大學士蔣廷錫，以允祥為首席軍機大臣。
軍機處創設不久，由於長年操勞，雍正八年起，允祥臥病不起。生病期間，允祥聽說雍正幾次想要來探望自己，就強撐著進宮去見雍正，以致每次都筋疲力盡。允祥得病之後，雍正焦慮異常，“商確醫藥，默禱神袛”，但人間帝王終究不能號令陰間神鬼。