唐朝末年，軍閥割據，戰亂頻繁，獨霸一方的李克用割據晉陽。李克用是一個有著雄才大略的人，其子李存勳在滅梁前期，也還是頗有作為的。大概是因為馮道看到了這一點，才投奔李存勳，以圖求得前程。在這以前，馮道先在離家鄉較近的幽州做小吏，當時，幽州守軍劉守光十分凶殘，殺人成性，對於屬下，也是一言不合，即加誅戮，甚至殺了之後，還叫人割其肉而生吃之，馮道與這樣的人相處，自然很危險的。一次，劉守光要攻打易、定二州，馮道卻敢勸阻，結果惹怒了劉守光，幾乎被殺死，經人說情，被押在獄中。由此可見，當時的馮道還是較正直的。馮道經人幫助，逃出牢獄，投靠太原，於是他在晉大將張承業的門下做事，經張承業的推薦，馮道為李存勳的親信所信任。從那以後，馮道的生活從此有了著落，這也為以後出名打下了基礎。
馮道最初擔任晉王府中的書記，他負責起草收發各種政令文告、軍事信函，不久，李存勳看到朱溫建立的後梁政權特別腐敗，從那以後他就想了一個準備消滅掉後梁的念頭。
李存勳消滅掉之後，在後梁建立了後唐，從此，他隻重視那些名門貴族出身的人，馮道這樣的沒有“來曆”的人，他並不重用。直到莊宗李存勳被殺，明宗即位，他才被召回。明宗鑒於前朝教訓，重用有文才的是他的以文治國之法，從此，馮道這才被任命為宰相，真正發跡。
馮道雖然是宰相了，還是有很多人看不起他，殘留在人們意識中的門閥士族觀念還未肅清。一天，馮道下朝回家，一個出身於“衣冠門第”的工部侍郎跟在他後麵起哄道：“宰相走得太快了，必定要從腰裏掉下一本《兔園策》來！”當時，《兔園策》是一本鄉村裏儒用來教農夫和放牛孩子的讀本，這麼說馮道，明擺著是諷刺他出身低微。一個小小的工部侍郎竟然敢在大庭廣眾之下奚落宰相，在等級森嚴的封建社會裏，這是不能發生的事，從這件事上，可以看到馮道當時所處的環境。
後唐明宗去世以後，他的兒子李從厚即位。從那以後，馮道沒有了正直向上之氣，一味為做官而做官了。李從厚即位還不到四個月，同宗李從珂立即興兵來攻打，要奪取帝位。李從厚得到消息後，連臣下也來不及告訴，就慌忙跑到姨夫石敬瑭的軍中。第二天早上，馮道及諸大臣來到朝堂，找不到皇帝，才知道李從珂兵變，並率兵往京城趕來。馮道這時的做法是一反常態，極出人意料，他本是明宗一手提拔，從寒微之族被任命為宰相的，按理說，此時正是他報答明宗大恩的時候，況且李從珂起兵實屬大逆不道。但馮道沒有考慮這些，他所想的是李從珂擁有大軍，且性格剛愎，李從厚當時還是個孩子，自從即位就從來沒有掌握實權，為人又太過於寬和優柔。權衡了利弊之後，李從厚決定率領百官把李從珂迎接進來。
馮道已是宰相，他的權位比諸官都高，又有一些官吏是他所親手提拔的，他一倡議堅持，多數人也不好說什麼。但個別正直官吏還是出言潔問。中書舍人盧導首先抗言說：“哪有天子在外，大臣反去勸別人當皇帝呢？我們是不是該去投奔天子？”丞相李愚等人也隨聲附和。但馮道卻要大家認清當前形勢，不要固執己見。大多數人無奈，隻得跟馮道一起到洛陽郊外去迎接李從珂，並獻上請李從珂當皇帝的勸進文書。就這樣，馮道由前朝的元老重臣搖身一變，又成了新朝的開國元勳。隻有李從珂對他實在不放心，不敢讓他擔當重任，把他調到外地去任職了，後來李從珂覺得過意不去，又把他調回了京中，給了他一個沒有多大實權的司空之職，讓他在那了。
過了不久，石敬瑭和李從珂發生了矛盾衝突，在契丹人的支持下，石敬瑭打敗了李從珂，從此做了中國曆史上臭名昭著的“兒皇帝”，他以恢複明宗為號召，把原來明宗的官吏大多複了職，馮道從中也是一位被複了職的，石敬瑭不記往他以前的事，他也是樂於當官。
實現對耶律德光許下的諾言是石敬瑭當皇帝的第一件大事，否則，王朝就有了傾覆的危險。尤其是自稱“兒皇帝”，上尊號於契丹皇帝與皇後，實在是一個說不出口的事情。據載，寫這道詔書的官吏當時是“色變手戰”，乃至於“泣下”，可見這是一種奇恥大辱，至於派人去契丹當冊禮使，更是一個既要忍辱負重，又要冒生命危險的事。石敬瑭想派宰相馮道去，一來顯得鄭重，二是馮道較為老練，但又怕馮道拒絕。誰知他一開口，馮道居然毫不猶豫地答應了，也沒有作推辭的意思，這真讓石敬瑭喜出望外。
其實，馮道的“苦衷”石敬瑭哪裏會知道。馮道十分清楚，隻有結交好耶律德光，他在石敬瑭那裏的位置才能保得穩，把“爸爸皇帝”籠絡好了，這“兒皇帝”也就容易對付了。從這一點看，有膽有識的馮道對於長保富貴的確算得上一位厚道的人。
這次外交任務可以說是馮道特別圓滿地完成了。他在契丹被阻留了兩個多月，經過多次考驗，耶律德光覺得這個老頭兒確實忠實可靠，才決定放他回去。誰知不願回去的馮道，多次上表表示對耶律德光的忠誠，想留在契丹。經過多次反複，耶律德光一定要他回去，馮道這才顯出一副依依不舍的樣子，準備啟程。一個月以後，他才上路，在路上又走走停停，走了兩個月，才出契丹的國境。他的隨從不解地問：“能活著回來，恨不得插翅而飛，您為什麼要走得這麼慢呢？”馮道說：“一旦我們走得快，可能就顯出我們要逃跑的樣子，即使走得再快，契丹的快馬也能追上，這有什麼用啊，還不如我們按部就班的慢慢地走呢？”跟隨他的人員都佩服他深謀遠慮。