歲月闌矣！問此一年來，所為何事，則茫然不知所以。蓋自來救國者，未有不先治己。方今海內鼎沸，已同瓦解，求所以下手之方，而不可得，唯有先盡其在我，此治己之謂也。
自此開始，張君勱決定潛心自修，暫時離開政治一段時間。
然而，張君勱畢竟對政治存有難以割舍的眷戀之情。整個20世紀20年代，雖然在大多數的時間，張君勱都忙於講學和辦學，但一有機會，還是要過問政治。20世紀20年代初期，各地軍閥紛紛推出“自治”和“製憲”的口號，逐漸形成聯省自治運動。當時張君勱已是小有名氣的憲法專家，自然受到各路諸侯的邀請，為其製定憲法。或許軍閥們倡議憲法隻是為他們的獨立提供借口，但張君勱卻是一絲不苟地起草了《國是會議憲草》和它的說明書《國憲議》，代表了那個時代中國自由主義知識分子憲政思想的最高水平。
不幸的是，這部憲法卻明珠暗投，終遭廢棄。1923年6月，曹錕、吳佩孚把自己打扮成“恢複法統”的功臣，將黎元洪趕下台。曹錕賄賂國會議員，就任大總統。在大多數人看來，曹錕上台，必然是推行獨裁專製，踐踏憲法。但張君勱卻天真地認為憑借他的一紙憲法便可以約束總統，保證民主進程。他曾言：“曹錕為非常總統之說，恐亦不易實現。曹雖多財，然以議員經年辛苦，甘心獨為曹氏作嫁，吾不信焉。”隻要南北雙方成立一個“和南北要人於一爐”的國民委員會，則“此頻年不解之爭，或有萬一解決之希望。”這真是一番書卷氣濃厚的主張，可見張對軍閥尚抱有不切實際的幻想。並且，張還支持曹錕等人以自己的《國是會議憲草》為藍本，製定了《1923年憲法》，招致了一片反對之聲。曆史很快便印證了張君勱的天真，不到一年的時間，曹錕政權便土崩瓦解，《1923年憲法》也隨即永遠被丟進了廢紙堆中。
意識到製憲條件尚不成熟之後，張君勱決定在“憲法之前提”尚不具備的情況下，暫時“不談憲法，而注意國民身上”。在20世紀20年代後期至30年代早中期，張君勱和李璜、張東蓀等人合辦《再生》《新路》等刊物，抨擊國民黨一黨專政。他指出，國民黨若想不失敗，重蹈北洋軍閥的覆轍，就必須實行民主政治，而實行民主政治，就必須“停止黨部獨占的活動”和“廢止訓政”，同時“人民言論自由”和“結社集會自由”“速議地方製，實行地方自治”“速議國憲，實行政黨政治”。這些言論無疑都點到了國民政府的痛處，國民黨很快便查封了《新路》雜誌。更令張君勱氣憤地是，國民黨竟派人將自己綁架，以期通過此手段威嚇張君勱等人閉嘴，並導致張腿部受傷，落下了終身殘疾。
脫險之後，張君勱意識到國內已不可久留，於是再度去國避難。
在海外漂泊兩年之後，張君勱方得以回國。此時的國內形勢已發生重大變化，日本帝國主義加緊了侵略步伐，民族危機空前嚴重。以改良政治、救國為己任的張君勱自然不會袖手旁觀，他同羅隆基、黃炎培等人組建了國家社會黨，並發表了其政治主張《我們所要說的話》一文。這反映出“九一八”事變後，上層小資產階級和資產階級及其知識分子不滿於國民黨的一黨獨裁，要求改革中國政治、經濟和教育的願望。其實質是要變專製獨裁為資產階級的民主政治，變思想統製為思想自由，同時在維護私有財產製度的前提下，實行國家資本主義政策，以加強國家的經濟競爭能力。當然，他們的具體主張也反映了嚴重的民族危機和國際政治思潮的變化對他們的影響，張君勱他們在堅持民主政治之基本原則的同時，又具有濃厚的認同極權主義的傾向。也就在此內憂外患的時局下，張君勱以國家社會黨黨魁的身份投入到抗戰當中。
“七七”事變前夕，國民政府邀請各界代表分批舉行“廬山談話會”，商討國是。張君勱作為民主人士表示，如果政府討論憲法問題，他願意就製憲事宜提供意見。不久，張當選國防參議會議參議員。這個參議員，其實僅是統一戰線初期的一種組織形式，並無實權，正如梁漱溟所言：“不接近中樞”。而張君勱卻認定有此身份，便可以大膽向政府進言，推行憲政運動，並且不惜得罪政府高層。一次，參議會開會，由汪精衛主持。會議開會之前，汪精衛的心腹周佛海忽然拉著胡適低頭說了兩句話，胡適便過來向參加會議的人說：“國民黨開會，主席照例要念一遍總理遺囑，在座客人也照例要站起來恭聽，始能就座開會。”胡適把這個規矩向參加會議的非國民黨人一一運動，都沒有提出異議，但到張君勱麵前，張表示拒絕。他聲明，如果要他守這個他一向反對的規矩，站起來恭聽他所反對的這個不合理的“遺囑”，他就退出會議，隻好有負於國民黨相邀的厚意了。胡適再三說，這等於基督教徒請客吃飯，飯前主人要禱告一樣，並與來客不相幹的，張君勱就是不同意。胡適運動無效，隻好回複周佛海，周佛海又轉告汪精衛。這本來是個僵局，幸好汪精衛乖巧，他立刻說道：“請各位就座，就開會了。”坐定後，汪精衛一人站著，匆匆地默念一遍遺囑，才解了這個僵局。有了張君勱這次的嚴行拒絕，此後國防委員會乃至後來的國民參政會開會時，都不再全體起立恭讀遺囑了。
敢於“犯上”尚不算什麼，更令國民黨難以容忍的是，張君勱不斷要求政府厲行政治改革，實行憲政，建立起民主製度。為了能達成此事，張君勱可謂是使盡了渾身解數，他聯合非國民黨的各界人士，不斷向國民政府建言。一方麵，他們向政府提交議案，認為隻有“結束黨治，實施憲政”才能“收拾人心，集中人才”的話，必須改革政府機構；另一方麵，他們又不斷造勢，開展憲政提案的討論，成立憲政促進會。經過一番努力，張君勱等人終於寫成《中華民國憲法草案之修正草案》，不承想深諳權謀的蔣介石采用拖延之計，致使提案最終不了了之。麵對政客的翻雲覆雨、圓滑詭詐，張君勱顯得實在過於幼稚、天真了。
國民黨不僅壓製了張君勱的憲政運動，並且深感張的活動實在影響一黨專政，於是將張君勱軟禁起來，這一關便是兩年多時間。軟禁期間，張君勱對國民黨的反對麵目有了較深的認識，曾作《讀史玉言》一首，借史諷今，以表不滿：
昔聞儒家言，斥私因尚公。唯公無所蔽，耳目罔違聰。公能致祥和，舉國自從風。此義懸天地，誰敢向之攻？乃考三代下，秦政軌文同，燒書愚黔首，文物付祝融。漢高舉義日，三傑崇命隆，一朝天下定，鳥盡先藏弓。下至名宰相，宋代半山翁，書生權在手，目中一切空。旁證西方史，曲異亦同工。亞曆山大帝，鑿空歐亞通。法國革命日，拿翁吐長虹。一時意氣橫，舉世成沙蟲。嗚呼！曆史大變局，不造仁民愛物之賢主，反起於私心自用之梟雄。