1947年6月，艾森豪威爾當上了哥倫比亞大學校長。當他邁入這所舉世聞名的大學門檻的同時，他也麵臨著在新崗位上許多他回避不了的棘手問題。
一些學術界的代表人物反對新任校長，他們認為這樣的學府應當由學者主持，而不是將軍。艾森豪威爾聽到這種議論，心裏並不痛快。但是，他有一套處世本領，因而這次他又想出了擺脫困境的妥善辦法。
艾森豪威爾在和學校教授們第一次見麵時就宣布，他不追求學者的桂冠，因而在處理學術問題時，將主要聽取教授們卓有見地的意見。
1947年橄欖球賽季結束後不久，耶魯大學來挖哥倫比亞大學的牆角，耶魯大學聘請哥倫比亞橄欖球隊的教練盧·利特爾為該校首席教練，而利特爾表示願意接受。
這下子哥倫比亞大學慌了神。利特爾是當時最成功的、最受人尊重和歡迎的教練，他領導的哥倫比亞隊，在當年橄欖球比賽中以21比20擊敗陸軍隊，破了陸軍32局不敗的紀錄。因而可以說，若離開利特爾的話，無疑是對哥倫比亞隊的一個致命打擊。
哥倫比亞的校友們一致認為，隻有艾森豪威爾才能為學校挽留利特爾。艾森豪威爾笑著搖搖頭：“我哪有這麼大的能耐？”
不過，他還是決心試一試。在辦公室裏，艾森豪威爾笑吟吟地對利特爾說：“利特爾先生，我們以前見過麵。”
利特爾大吃一驚，經艾森豪威爾提醒，他才明白是怎麼回事。
原來，利特爾當過喬治頓隊的教練，當時，艾森豪威爾任米德堡隊的教練，他們曾經是球場上的“冤家對頭”，彼此相互都很欣賞。
接下來，他們回憶起那段美好的時光。最後，艾森豪威爾言歸正傳。他話鋒轉向耶魯的聘請一事。
艾森豪威爾對利特爾說：“你不能到耶魯去。你是我來哥倫比亞大學的原因之一。”
利特爾眼圈一紅，他頓時明白了將軍的一番苦心。當利特爾回到華盛頓的旅館臥室後，他掛電話給在紐約的妻子說，“別收拾行裝了，我們不走了！”
後來，當利特爾在談到艾森豪威爾時說，“隻見一次麵，他就把我緊緊吸引住了。他沒有增加薪水，卻能夠使我留下來。他有著那種使你感到自己受人賞識、受人重視的難得的天賦，你會不由自主地受到鼓舞。”
這期間，艾森豪威爾虛心學習，他經常到各個班級和院係去聽課，這在一所名牌大學內幾乎是少見的事。他對曆史和物理特別有興趣。他把較年輕的曆史學家們召集在一起，向他們發表講話，談他們的職責和任務。
艾森豪威爾最喜歡的是物理係，他對原子能極感興趣。他和諾貝爾獎金獲得者伊西多·拉比建立了親密的關係。
後來，當普林斯頓大學的高級研究所向拉比提出聘請時，艾森豪威爾使盡他渾身解數，挽留拉比，艾森豪威爾對拉比說，哥倫比亞需要他，他本人需要他，如果拉比離開，哥倫比亞大學的聲譽會遭到十分沉重的打擊等。拉比被說服同意留下來。
在哥倫比亞任職其間，艾森豪威爾一麵主持校務，一麵撰寫回憶錄。
1948年，艾森豪威爾的第一本回憶錄《歐洲十字軍》首版問世。這本書得到評論界幾乎一致的讚揚，人們稱讚作者的謙遜、坦率、公正、機智和全麵的美德。這本書被稱為美國最佳的戰爭回憶錄。
這部書在引起巨大反響的同時，也使作者賺了不少的收入。征稅機關考慮到艾森豪威爾不是專業文學作家，向他提供了特殊的征稅優惠，作者的純收入高達47.6萬美元。
至1966年底，《歐洲十字軍》一書在美國的銷售量已達170萬冊，並被譯成22種文字。可以說，這是與艾森豪威爾和他對國家的貢獻非常相稱的一本書。
1948年6月，艾森豪威爾一家搬進哥倫比亞晨邊山莊大道上的校長住宅。他們不喜歡這所裝修過於豪華的宅第，因為這不合他們的口味。
大學董事會把樓上兩層改成現代化公寓。艾森豪威爾看了托馬斯·斯蒂芬所畫的瑪咪肖像後，頗有感觸，在丘吉爾慫恿下，有了新的愛好，畫油畫。
艾森豪威爾一般在僻靜的樓頂小室中畫畫。他通常畫人像，但每畫3幅便要毀掉兩幅。
盡管如此，這一愛好給他的校長生涯帶來了極大的樂趣，他每天都要花上半個小時畫油畫。
艾森豪威爾在哥倫比亞大學兩年半時間內，實際上在那裏工作的時間不到一半，他開始實行了一連串的計劃，給學校帶來聲譽、金錢和更加活躍的知識氣氛。
艾森豪威爾在擔任哥倫比亞大學校長期間，也是全美議事會的組織者。這個議事會的宗旨是把企業家、勞工、學者、黨派代表聚集在一起研究全國性問題。這個組織不僅為哥倫比亞帶來了基金，也為學校帶來了顯赫的名聲。