蔣介石侍從室這一機構，是非常引人矚目的。因為，首先它的蔣身邊的一個機要部門，得悉最高機密與內幕；其次，它是直接秉承蔣介石的意旨辦事的，權利很大，也可以說是一人之下，萬人之上。凡是下邊要呈報情況、打通關節，最便利的捷徑便是通過侍從室；而直接從侍從室放出去的人員，也大多在國民黨軍政界擔任要職。
國民黨政府的組織機構相當龐大。它模仿的是西方資產階級國家的政權結構形式，設有行政院、立法院、司法院、考試院、監察院，還有內政、外交等十幾個部及軍事委員會、建設委員會、蒙藏委員會、勞工委員會等若幹委員會。查一下它的編製表就會發現，侍從室隻不過是軍事委員會下屬的一個辦事機構。它起的作用也無非是蔣介石個人辦公室的作用，如此而已。
但是，蔣介石“玩”政治的手腕與一般人不同，用其“文膽”陳布雷的話來說，此人“處理國事如同處理家事，事事要親自處理”。他是一個嗜權如命的人，大小權力都要一把抓。他又是一個領袖欲極強的人，一個喜歡獨斷專行的人。他曾多次說：“我的決定就是命令，不要再在行政院討論。”蔣介石這種搞政治的作風，他的這種獨裁統治方式，很需要在身邊有一個機構為他辦事，為他出謀劃策，為他控製人事，為他收集國內外的各種情報，還要為他提供萬無一失的安全警衛保障。在這樣的背景下，侍從室這個本來意義上的一般單位，就成了一個非常特殊的單位。可以說，侍從室是那個時期畸形的中國政治的“衍生物”。
有人打比方說，侍從室有點像清朝的“軍機處”。雍正七年（1729年），雍正皇帝為了對西北用兵，成立了“軍機房”，為他辦理和參讚軍機。雍正十年改稱“辦理軍機處”。這個機構是輔佐皇帝處理軍國要務、用麵奉“諭旨”的名義對各部門和各地負責官員發布命令的。蔣介石侍從室和軍機房確實有某些相似之處。侍從室每天將各院、部、委、局（如軍統局、中統局）呈送蔣“皇上”的報告、文件等等，提出擬辦意見，直接呈送蔣介石。蔣介石批閱後，由侍從室再將這些報告、文件轉至各承辦單位。報告、文件，侍從室呈送還是壓下不呈送，先呈送還是後呈送，呈送時的擬辦意見是什麼，這些別以為是小事一樁，無關緊要，它所起的作用可大得很，甚至會決定一個單位或一個人的進退榮辱、生死存亡。
有人打比方，說侍從室好比蔣介石的眼睛，替他眼觀六路；侍從室好比蔣的耳朵，替他耳聽八方；侍從室好比蔣的鼻子，替他嗅出各種不利於他的政治氣息；侍從室好比蔣的手，替他寫文電；侍從室好比蔣的腿，替他東跑西顛，到處聯絡；而最重要的是，侍從室好比蔣的頭腦，替他思考、謀劃，運籌帷幄，決勝千裏。侍從室的觸角伸得很長，許多事情都要介入，甚至對標榜“司法獨立”的法院也要幹預，也要指手劃腳。
侍從室這個機構的成立，大致經過兩個階段。在1932年“一二八”戰爭結束後，蔣介石擔任了軍事委員會長，他在“攘外必先安內”的口號下，到處“剿共”，在漢口成立了鄂、豫、皖三省“剿共”總司令部，在南昌成立了行營，他時常出發到鄂、贛，親自“督戰”，隨身帶著幾個秘書。副官、參謀人員。當時楊永泰建議，把這些跟從他的親信組成一個侍從室，列入南昌行營編製之內，這是初期階段。
1935年中國工農紅軍北上抗日，在陝甘寧邊區建立了根據地，一直到1945年抗日戰爭結束，蔣介石準備召開“國大”，這十年間，侍從室不斷擴大，從原來的一、第二兩個處擴增到三個處。這是侍從室發展的重要階段。