對於蔣經國領導的許多不在編機關、特務組織預算外的經費要求與請托，吳往往不客氣地予以婉拒。吳後來告訴雷震說：“我隻是采用消極的行為，不發給經費，所以蔣經國恨死我了。” 江南對吳國楨此舉評論說： “假使換一個主席，如俞鴻鈞、嚴家淦之流，持遇事請示，凡事‘推事’為座右銘，經國越權來得裝聾作啞，不聞不問，好官我自為之。那麼，何止衝突不會升級，連上海時代的誤會，都可以消弭於無形。”“公正地說，吳意氣用事的成分很大。”“否則不至於發展到形同水火的階段。”
吳當時侍寵而驕，過高地估計了蔣介石對他的信任，竟天真地向蔣介石進言說：
“如鈞座厚愛經國兄，則不應使其主持特務，蓋無論其是否仗勢越權，必將成為人民仇恨的焦點。”
吳的進言並非空穴來風，就連蔣經國的部下也認為：“特工一類的工作，是不宜由有政治前途的人來擔負，因為一般大人物，都不是從特工出身的。”然而吳的進言對準備傳位於子的蔣來說自然聽不進去，蔣經國亦有“我不入火坑誰入火坑”的精神。直到此刻，吳氏才深深認識到：蔣介石“愛權之心，勝於愛國，愛子之心，勝於愛民”。吳的進言也使蔣介石產生了想除掉吳的念頭，如不是吳及時地發覺，早已成為蔣氏父子的刀下鬼。
由於吳的進言與社會輿論對蔣經國充當特務頭子頗多議論，故蔣經國迅速擬報成立“國家安全局”統轄之，使自己退居二線。蔣介石經審慎考慮，批準了蔣經國的建議，於1954年恢複“國防會議”組織後，又於當年10月成立了“國家安全局”。1967年，“國防會議”改為“國家安全會議”，“國安局”隸屬於“國安會”，並按美國中：央情報局建製，調整該局內部組織與業務，成為督導和協調台灣各情治機構及治安機關業務的最高機構。蔣介石的嫡係鄭介民擔任‘‘國安局”的第一任局長。
盡管蔣經國不直接掌管“國安局”，但其特殊身份與權威，使台灣情治部門仍成為其手中一顆小小的棋子。
手抓軍權
蔣經國真正在台灣嶄露頭角，是從他出任“總政治部主任”開始的。
蔣介石不僅要讓蔣經國抓住特工大權，而且要牢牢掌握軍權，這是蔣介石在幾十年的殺拚中得出的“有軍則有權”的經驗所致。為了兒子的任職，蔣介石頗費心思，經苦思手令“國防部”設立“總政治部”，恢複軍中政工製度。此舉不僅為蔣經國謀一職位抓軍權，而且還是蔣退台後實施軍事改革的一項重要措施。蔣在總結國民黨兵敗大陸的教訓時，認為部隊缺乏政治訓練，士兵不知為何而戰?北伐時期政治工作製度有效，使國民革命軍打敗了北洋軍閥。今天為完成“反共抗俄”戰爭，就必須加強政治工作。如何加強政治工作呢?蔣介石當時采取了三個步驟：
第一步：統一軍人思想。蔣介石到處發表演講，其中主要有：《革命魂》、《軍人魂》、《民族正氣》、《漢奸必亡與侵略必敗》，攻擊共產黨，鼓吹“殺身成仁”、“舍身取義”。其中心之點在於讓官兵今後明確為誰而戰為何而戰。
第二步：組建“總政治部”與設立政工製度，以喚醒部隊的所謂“革命靈魂”。在蔣介石看來，能勝任此一職務者，非從蘇聯返國的蔣經國不可。1950年3月21日，蔣經國正式受命為“總政治部主任”，官階二級上將。這對於一個沒穿過幾天軍裝的人來說，如果他不是蔣介石的兒子，是決然難以想像的事情。對此有許多人不滿，周至柔就是其中一個。周至柔是蔣介石的同鄉，又是黃埔的幹將，時任空軍總司令，官階一級上將。當有人向周祝賀榮升一級上將時，他不以為然地說：“現在連老百姓都可以當上將，我在沙場上拚了幾十年才升了這麼一個一級上將，想想也沒有什麼可喜。”蔣經國聞聽此話後，除了對周不滿之外，在“總政治部主任”任期內，極少穿將軍服在公共場所露麵。
蔣經國出任“總政治部主任”後，據他自己後來稱：“個人自負責軍隊政工以來，深感責任重大”，“惟恐有失領袖人民的期許”。
第三，創辦政工幹校。此項工作也交蔣經國辦理。
蔣經國走馬上任後，使出渾身解數，針對習染所有北洋軍閥毛病的國民黨軍隊拋出了幾個殺手鐧：
一是消除吃空額。此舉是蔣經國與陳誠聯手進行的。國民黨部隊中吃空額現象司空見慣。軍隊機構番號眾多，有將無兵，有軍無兵，幾個人湊成一個軍、一個師、一個旅番號的現象都存在。蔣經國憑著特殊身份與鐵腕作風，強行編遣了不少將官，解散了眾多徒有虛名的機構、單位，打破原有建製，進行混編。在1952年的一次性處理中，被宣布退役的軍官中就有四星上將閻錫山、徐永昌；三星上將何鍵、林蔚、朱紹良、楊愛源；中將加上將軍銜的有孫震、楊森、羅卓英、李品仙、錢大鈞、劉士毅；中將按上將待遇的有秦德純、俞濟時；及穀正倫、陳繼承、徐庭瑤、賀國光、劉汝明、韓德勤等中將；甘登俊、劉樹人等80名少將。與此同時，蔣、陳還對軍隊進行三次大整編：第一次整編，目的在於統一編製，後兩次整編意在減少指揮機構，將權力集中。經此整頓，老弱無能的軍官被裁掉數萬人，同時撤銷了軍隊中的60多個番號，將撤掉番號的殘兵充實保留番號的機構，從而確立了台灣日後的軍事建製與規模。
二是政工改製。1952年4月1日，國民黨軍隊正式實行政工改製。當時提出了政工改革的六大目標：