剛回到國內的羅家倫，一度擔任過東南大學的史學教授。後來，卻卷入了民國政治，曾擔任過蔣介石的政治秘書、北伐軍戰地動員委員會文化教育方麵的負責人，算得上是一個北伐功臣。
1928年，蔣介石北伐成功。於是，新組建的蔣介石南京政府，為了標榜自己推崇大學教育的誠意，一度推行大學院製度，所請的第一任院長便是羅家倫的恩師蔡元培先生。蔡先生根據自己對弟子羅家倫的了解——當時，羅家倫雖已投身政治，但是他的本性，卻仍屬於寧願為知識、理想、自由而殉道的一類文人，政治於羅家倫的氣質未必合適——推薦羅家倫為清華大學校長的人選。1928年8月29日，由南京政府的外交部部長王正廷正式簽署了羅家倫為清華大學校長的任命書。後來，有人羨慕地說：像羅家倫那樣31歲即出任一所名牌大學校長的際遇，在中外的現代教育史上，都是難得的。
實際上，羅家倫在清華園執掌校長大印的時間並不長，從1928年8月至1930年5月間，大約不過20個月的時間。可是羅家倫對於清華大學的發展卻是開拓型的。羅家倫在1928年9月18日的清華大禮堂宣誓就職大會上，即以“學術獨立與新清華”為辦學宗旨，提出了清華大學的“廉潔化、學術化、平民化、紀律化”四項辦學指標。如此，清華能把握自1928年至1937年的十年民國黃金建設時期的機遇，從最初的一個半舊半新的學堂，一躍而為一個巍巍然屹立於世界各大學校的現代化名牌大學，除了周詒春、曹雲祥諸位前校長的奠基性工作，羅家倫具有一個承前啟後的相當重要的作用。
羅家倫走馬上任伊始，僅帶了在東南大學任教時自己所欣賞的郭廷以、戈定邦、唐培經三個學生，以及中央黨務學校的馬星野、唐心一兩位學生。這五人隻能在未來的校長室做秘書，承擔一些具體的事務工作。羅家倫真正得力的哼哈二將，卻是請來當年北大時的同窗好友楊振聲與馮友蘭，分別出任教務長與秘書長的重要職務。羅家倫在就職時，雖然曾口口聲聲向清華的師大們說明自己的自由主義傾向，但之前的羅家倫在做蔣介石的秘書之時，也曾經一再表白自己的“國民黨忠實黨員”的身份；加上清華的兩個重要位子——教務長與秘書長，羅家倫一上手便禮請了兩位北大派的幹將來掌握，因此羅家倫治校伊始，便有清華的教授與學生，在暗中失聲驚呼了一聲：呀，這國民黨與北大的勢力，要聯手來侵占清華園了。
不過，不管當時的人們，對於羅家倫的治理清華存在過怎樣的議論，現代研究民國教育史的專家們，則基本上肯定了羅家倫在清華期間的四大作為。
第一大作為，便是他一力促成了“國立清華大學”的新生。
我們知道，清華的起源，來自於“辛醜條約”之後的庚子賠款。1911年，美國人在促成“清華學堂”的成立之時，並沒有多大的雄心，他們隻是想辦起一所留美的預備學校，資助中國學生赴美留學，以便在中國的知識界培養一點親美的種子。因此，它起步時“殖民”與“買辦”的氣息是頗為濃鬱的。為了改變這種過分依賴美國的狀況，清華第二任的校長周詒春，即已提出了將清華提升為正規大學的規劃。但是，一直到曹雲祥校長治校之時，清華才於1925年成立大學部。當時，曹校長將清華靈活地劃分為遊美預備部、大學部和國學研究院三個學製。但是清華想要進入國立正規大學的行列，仍然困難重重。
1928年，羅家倫走馬上任時，蔣介石顧忌美國的感受，在發給羅家倫的“清華大學校長”委任書時，仍然不敢冠上“國立”二字。羅家倫大為不滿。他請民國的大書法家譚延闓先生，為自己寫了“國立清華大學”六個顏體大字，然後，請來當年北平的所有新聞媒體，集體觀摩“國立清華大學”的學校招牌之揭幕儀式。羅家倫給蔣介石通電話：清華原有的學校招牌太舊了，卑職換了一塊新的，請總司令指示！蔣介石忖度羅家倫是敢說敢做敢承攬的一類書生，便不再多講，便責成有關方麵理順關係，從速將清華園納入國立大學的體係。終於，在羅家倫手上，實現了數代清華校長的夢想。為此，馮友蘭頗有感慨地說：國立清華大學的問世，實為中國現代教育史上的一座裏程碑。
第二大作為，羅家倫強硬地從貪官汙吏手中奪回了“清華基金”。
前麵我們已經講過，清華學堂的經濟開支是靠“庚子賠款”支撐起來的。當年，美國為確保這項資金專款專用，曾經成立了一個由美國公使和中國外交部共同負責的“清華基金保管委員會”。後來，這筆資金的實際使用權，卻落在了少數的外交部實權人士手中，學校董事會也對該項基金負有一定的監督責任。
不久前，羅家倫在履行戰地政務委員責任時，曾經於偶然中看到過清華基金賬目報告，他發現有一筆外交部的股票，正欄填的卻是當時外交次長陳篆的名字，僅此一項，陳篆即堂而皇之地將20萬“清華基金”轉入了私人的賬戶……如此，羅家倫上任伊始，即在給學校董事會的報告中，猛烈抨擊外交部的少數官員投機倒把、大肆以“清華基金”中飽私囊。例如，羅家倫冷顏疾言地說：“清華基金向來是一個啞謎，很少人能夠明白其實情。”“大家知道清華有800萬基金，但追問實際，就不免使人氣短，必須徹底清查，嚴究以前的損失。”羅家倫忘了，學校董事會對於“清華基金”也是負有監督之權的。羅家倫指責“清華基金”管理混亂，實際上也是在指責學校董事會的監督缺失。學校董事會決定給這位年輕的校長一點顏色看看。於是，1929年4月，學校董事會全盤否決了羅家倫提出的學校發展規劃和相關預算。
羅家倫立即以辭職為反擊手段。羅家倫的態度很堅決：這勞什子破校長，一個媳婦，有教育部、外交部、清華董事會三個婆婆管著；同一件事情，大婆婆喊你往東，二婆婆喊你向西，小婆婆則讓你立正。這樣的校長，不讓人家整出神經病來才怪呢。咱羅爺不伺候了，誰願意伺候，民國政府請誰去幹！
羅家倫擺出辭職的姿態，並不是真心想走，而是想把“清華基金”的控製權拿回教育線，以及教育部對之的專轄權。清華師生莫不認為羅校長在做一件大好事，便發動聲勢浩大的示威活動來聲援羅家倫。羅家倫自己的反擊手段也是澎湃有聲。他回到上海的家中，即向各大報刊披露了權威會計師事務所對於“清華基金”的查賬結果，其舞弊、貪汙和流失的嚴重情況，引起了社會各界的震驚。美國駐華公使從羅家倫處知悉了“清華基金”的貓膩，也向南京政府表示不滿。於是，羅家倫說服民國大佬戴季陶、陳果夫二人聯名提案，又事先取得了蔣介石、譚組庵、孫科三位政府大員的支持，終於將清華基金的主權拿回了清華，而清華今後的管理權也專轄於教育部。如此，因教育、外交兩部共管而衍生出來的清華董事會也失去了存在的基礎。此役羅家倫贏得痛快淋漓！