但他母親覺得既然他在東京求學未能如願，他就不應該還呆在那裏，於是她假稱家中有件不可推托的事——姐姐出嫁——以此為借口催他回家。到底是個孝子，他於當年冬天返回了家鄉。
然而，1908年蔣家發生了一件更為重要的事。蔣介石的大兒子蔣經國出世了。這是毛福梅對蔣家的巨大奉獻。剛開始她和蔣介石的生活並不順心，婆婆既苛刻又羅嗦，老是要她唯唯諾諾，恭敬順從，官方的傳記作者們都稱讚毛福梅落落大方的性格，但她本人卻經常向自己的朋友流露，她其實是過著一種對自己丈夫粗野性格的恐懼以及對自己常遭到的毒打提心吊膽的生活。
蔣介石開始接受軍事教育了，但卻是在中國，而不是在日本。1906年，盡管有段日子他曾抱病在身，但他還是通過競爭激烈的考試，考入了保定軍官學校。
浙江報考者有1000多人，隻考中了60人，他是這60人中的一個。但是有兩件事對他不利：他是漢人而非滿族人；另外他留著短發，在革命前的中國；這可能就會被認為是對帝國傳統的蔑視，招致叛逆的嫌疑——被認為是一種具有危險思想的人物。
學校裏的教員大多是日本人。由於他們國家剛剛打敗沙皇軍隊，取得了輝煌的勝利，早些時候還戰勝了中國軍隊，所以他們一個個都顯得趾高氣揚，毫不掩飾對中國人的蔑視。
有一次上衛生課，日本教員拿出一個土塊，將它比作中國，看到學生們一個個臉上都露出迷惑不解的神色，這個教員解釋道：“中國有四億人，而他手中的那個土塊正好有四億個微生物。”
看到這，蔣介石胸中陡然升起一股怒火，他不顧軍紀走上前去，把那土塊一下掰成差不多大小的八塊，兩眼怒視著教員問道：“日本有五千萬人，是否也像五千萬個微生物，寄生在這土塊的八分之一中？”
教員被問得啞口無言，可不一會兒，他用手指著蔣介石剪去了辮子的頭威脅他說道：“你是個革命分子！”據說蔣答道：
“先回答我說的對不對，請別把問題岔開，”
在軍校，是不允許學員這麼做的。對蔣介石來說，他是冒了很大的風險的。他可能因此而被軍校趕出來；還有可能被秘密逮捕。
他被召到校長辦公室，算他走運，校長覺得他這麼幹有他自己的理由，隻嚴厲訓斥了他一頓，並不深究，這件事就這麼了結了。
這年年終，有一批人數有限的學生被選送到日本去學習軍事，蔣介石是其中之一。他懂得日本語，在選撥中派上了用場。
1907年春，他注冊進入東京振武學堂。
在這段時間，他的同學們覺得他對人雖然彬彬有禮，但很冷淡，他對同學間的友誼並不大在意，常常對別人的友好表示無動於衷，這使他不大受人歡迎，他的同學們認為他傲慢。不過他對一個人是例外的，那就是張群——他是蔣介石當時的同學，並贏得了蔣介石的終生信賴。除了蔣夫人和蔣經國外，張群要算蔣介石最親密的知己了。
當時的學習生活比他所能想象的還要艱苦，甚至超過他在母親寡居時所受的困苦。一日三餐很簡單：每頓一碗米飯，加上幾小片魚和一小盤蘿卜，他強迫自己把分到的這點東西湊合著吃下，由此他漸漸養成了節儉的習慣並終生如此。
每到漫長的暑假，蔣介石總要千裏迢迢趕回家去看望母親（看妻子倒是次要的），不過每次他總要在上海停留去看望那裏的革命者，並幫助他們征募人員和籌集資金。他這時尚未加入任何革命組織，盡管他的衛生課老師曾對他產生過模糊的懷疑。
後來在東京，陳其美介紹他參加了同盟會。蔣介石第一次參加同盟會的大會時，孫逸仙在會上發表了講話。會後陳其美向孫逸仙引見了蔣介石。
關於這次後來被大書特書的“曆史性”會晤，既無文字記載，又無影像有聲資料。按照喜歡臆想的傳記作者所說，這位熱血青年給孫中山留下了極深刻的印象。孫中山對陳其美說：
“這個人將成為革命的中堅，我們的革命運動正需要這樣的人。
現在回顧一下，這句話的後一部分比前一部分要說得恰當一些，除非孫逸仙是個輕率的人，否則他就不會對陳其美這麼說，因為陳其美那時有理由認為，要是革命確實需要個中堅的話，那麼這個角色定是非他陳其美莫屬。
不管蔣介石在與孫逸仙的第一次會晤中是否給他留下了深刻印象，他倆的會晤倒確有其事。那時的蔣介石正是一個渴求找到領袖的熱情青年。
而今他終於找到了領袖，這正值孫逸仙活動的高潮，也是革命最具有吸引力的時候，他感到欣喜若狂。
那時候，中國公民不需要履行任何手續就可以進入日本，不管他屬於什麼民族，也不管他的政治信仰如何，既不須護照也不必辦登記。
然而要是清廷官方向日本指出有某個不良分子要去日本或已在那兒，日本方麵就會禁止此人入境。如果已在日本，也會將其驅逐，以滿足清廷的要求。
對孫逸仙，清廷正好向日本提出了這樣的要求，這大概是在孫蔣會晤之後不久。毫無疑問，孫在日本已培植了一大批革命的迫隨者。他過去是從上海被趕出來的，如今東京也呆不下去了，他就將革命總部移往香港。
當蔣介石還在軍校學習時，孫逸仙在不到兩年的時間內在華南各地就進行了不少於七次的革命嚐試，但都失敗了，他的許多追隨者被殺了頭，清朝的統治依然如故。
蔣介石每次總是主動提出要為革命出力，但每次都由於出於長遠的考慮而被拒絕，孫逸仙說，他為革命為中華能作的最大貢獻就是完成他的軍事學業。
1909年。11月底，蔣介石從軍校畢業了，下一步是上正規的軍事大學，但在此之前軍校學員得去體驗一下最低級的軍事人員的生活，看看自己能否受得住這種艱苦生活的考驗。
1910年1月一個凜冽的早晨，蔣介石站到了駐紮在高田的野戰炮兵第十九聯隊隊長日奉大佐麵前，“啪”一個立正，打了個敬禮，他倆的頂頭上司是“大胡子將軍”長岡外史，他統帥著日本陸軍第十三師團，日奉大佐的聯隊就隸屬於這個師團。
整個冬季，蔣介石每天天亮前三小時就起床，第一件事就是去喂自己的馬，然後上早操，他整天都在戶外，晚上日本士兵們通常要幹奴仆般的苦活。
後來蔣介石對他在日本這幾年的生活隻字不提。這些活是規定死了的，非幹不可，他幾乎沒有時間和自己的中國同學往來，但一旦和他們聊起來，他總要說些“上戰場比這要苦得多，沒有人不可忍耐之事，習慣成自然嘛”等等諸如此類的話。
很奇怪，蔣介石似乎並沒給他的日本長官們留下什麼印象。他們絕沒想到他會幹成什麼大事。幾年以後的1929年，這時的蔣介石已出名了。
長岡外史冥思苦想試圖找到蔣成功的秘密，他寫了篇文章回憶說：1927年在東京，他邀請蔣和日奉大佐一起喝茶。和往常一樣，蔣穿戴得筆挺，“象個瀟灑的影星”，謙恭有禮得有點兒過分，告別的時候，蔣獻給長岡一個條幅，上書“不負師教”四個字。長岡外史認為正是忠心耿耿和知恩必報才是蔣介石成功的秘密。
當武昌起義的消息傳到蔣介石耳中時，他便決定暫時放棄在日本的軍事學業，馬上回去參加革命。自那以後，尤其是參加杭州戰鬥以後，蔣介石的個人經曆就開始同中國的現代史結合在一起了。
開始他並不引人注目，後來則成為一個舉足輕重的人物。
國民黨的史學家們都稱蔣介石的部下為“敢死隊”。在帶領部下成功地攻打浙江巡撫衙門之前，他給母親寫了封信，信中懇切地希望母親“恕兒不孝之罪”。接著他又說他是多麼希望能幹一番事業出人頭地，縱然戰死也心甘情願。從他母親的回信可以看出，她確實是個名副其實的剛強的母親。她在給兒的回信中說：“獻身與否均由你的事業決定。家中的事不必掛念。”
戰鬥勝利結束了，盡管對一個年輕人來說，他的作用與重大得多的整個事業相比顯得很有限——而且這場戰鬥的勝利充其量也隻能算整個杭州起義的一部分，但大家都認為他於得挺不錯。後來，一位將領寫了本不長的書《浙江獨立紀實》，書中把蔣介石當作英雄特寫了一番。為表敬意，他獻給蔣介石一本，並隨書附信一封。按照儒家的風尚，蔣介石回信說，他無功受過獎，受之有愧，並希望此書再版時，作者也能公正地評價一下書中未曾提及的參加了這次戰鬥的其他人員。
有一本蔣介石的傳記記錄了這次信件往來，但沒說明日期。不過可以推斷出這事可能發生在1912年8月。正是在這個月．國民黨成立了。也正是在這個月，袁世凱派人暗殺了一位民國將領。
這些事件反映了革命運動的狀況：清政府被推翻了、但這種變化的結果隻是僅僅讓另一個清朝的官員上台，而他對孫逸仙的革命綱領——三民主義毫無興趣，如果這樣的話，那這種變化還有什麼意義呢？蔣介石覺得幻想破滅了，他不甘謀職於袁世凱麾下。也就是在那一月——1912年8月，他決定返回東京繼續學習他的軍事。
他一麵學習，一麵擔任《軍聲》雜誌的編輯工作，該雜誌經常由他自己撰槁。他的第一篇軍事政治著作就是在1912年——
1913年這段時間寫成的。他在《軍聲》雜誌創刊號上撰文向往一個大同的世界，在這樣的世界裏各種族和睦相處，隻需警察來維持秩序，沒有戰爭，因而也無需軍隊。他更現實地分析了西藏和蒙古的局勢，指出俄國和日本最有可能與中國為敵，他排除了中國能經受得住俄國人進攻的可能性，指出實際上無論侵略來自何方，中國都不堪一擊，並大聲疾呼建立一支至少有60萬人的正規陸軍來保衛國家。