胡適雖然積極介入政治運動，但是絕不入閣當官。他一直堅持知識分子的在野態度，多次拒絕當局的從政邀請。他說：“我所以想保存這一點獨立的地位，決不是圖一點虛名，也決不是愛惜羽毛，實在是想要養成一個無偏無黨之身，有時當緊要的關頭上，或可為國家說幾句有力的公道話。一個國家不應該沒有這種人；這種人越多，社會的基礎越健全，政府也直接間接蒙其利益。我深信此理，故雖不能至，心實向往之。以此之故，我很盼望……為國家做一個諍臣，為政府做一個諍友。”在民國知識分子中，他是堅守“民主憲政”理念最持之以恒的一個。丁文江、蔣廷黻等知識分子一度大力鼓吹“新式獨裁”，認為中國還需要相當長時間的“開明專製”，胡適則從來沒有過這種動搖，他堅信民主政治是中國通往未來的唯一大道。1947年，胡適仍然堅定地說：“我是學曆史的人，從曆史上來看世界文化的趨向，那民主自由的趨向，是三四百年來的一個最大目標，一個最明白的方向。”
在各方麵力量的推動壓力下，中國艱難地、一點一滴地朝著胡適等人設想的方麵前進。然而，人算不如天算，宣布進入“憲政時期”聲音剛剛落地，日本開始全麵侵華，“還政於民”胎死腹中。
抗戰勝利後，大規模的內戰就全麵爆發，國民黨敗走台灣，胡適的幾十年努力告一段落。
不過，離開大陸後，胡適還是堅持他在大陸時期的一貫做法，繼續對國民黨的批評。1956年9月，蔣介石在自己70歲生日之前，希望社會各界給自己“各種缺點，作具體的指點與指正”。胡適借美國總統艾森豪威爾的故事，告誡蔣介石要信任下屬，凡事不要管得太多太死，要做一個“無智而能禦眾智，無能無為而能乘眾勢的元首”。
胡適在1958年4月8日，回到台灣，就任“中央研究院”院長。
他回國的一個重要原因，是在台灣可以更有效地批評國民黨。他對趙元任說：“我有一個責任，可能留在國內比留在國外更重要，因為那邊有一些人實在怕我說的話。”
在與蔣介石較量的一生中，胡適堅持說負責任的話，說公正的話，說理性的話，他基本做到了進退有據，不卑不亢。