公元957年，周世宗進攻南唐的壽州，南唐軍築連環寨據守，高懷德奉命帶領帳下數十親信視察敵軍的防禦設施。他帶兵連夜渡過淮河，拂曉時分便行至城下，敵軍這才有所覺察，高懷德以少勝多，擒獲—名副將，探明了敵軍虛實，並具告世宗。世宗大喜，賜給他襲衣、金帶、器幣、銀鞍勒馬，以彰其功。一日,世宗騎馬在淮河邊上觀察敵情，忽見一將單騎追擊敵軍，並掄奪長矛而回，世宗馬上令親信探查此人，方知是高懷德，於是立刻召高懷德進帳慰勞，並特許他使用節铖的禮遇。世宗北征契丹時，高懷德和韓通率先進入滄州，飛速攻占關南和瓦橋關。
恭帝即位後，提升高懷德為侍衛馬軍都指揮使、寧江軍節度使，後又升任北麵行營馬軍都指揮使。
3.擁戴有功，建功大宋
公元960年，時任殿前都點檢的趙匡胤，通過“陳橋兵變，黃袍加身”，被部下擁上皇位，史稱宋太祖。高懷德正是發動這一事變的主要將領之一。太祖即位後，高懷德因擁戴有功被拜為殿前副都點檢，鎮守滑州，充任關南副都部署，太祖還將胞妹燕國長公主嫁給他，加封他為附馬都尉。
後周太尉李筠在上黨反叛宋太祖，太祖要禦駕親征，命令高懷德率部與石守信聯合先行進攻，在澤州南，宋軍便一舉殲滅李筠部隊。消滅叛黨後，高懷德以功升忠武軍節度使、檢校太尉。此後他又追隨太祖平定揚州。公元973年秋，高懷德被加授同平章事一職。
宋太宗時期，加封高懷德為兼侍中、檢校太師。公元979年，高懷德隨太宗平定太原後鎮守曹州，被封為冀國公，七年後，他改任武勝軍節度使，於當年七月去世。朝廷感念其功勳，追贈他中書令，追封渤海郡王，諡號“武穆”。
軼事廣傳民間
1.高父“借人頭”，結拜太祖
高懷德與宋太祖趙匡胤可謂是至交。據民間相傳，趙匡胤之父與高懷德之父高行周是結拜弟兄。趙匡胤在後周為將時，後周皇帝郭威，因忌高行周之名，疑其有不臣之心，便派趙匡胤前去征討，並要求他攜高行周的人頭複命。趙匡胤難以違抗軍令，進退兩難。進兵巴公原後，趙匡胤單騎隻身入關求見，言於高行周說：“君命難違。若借得叔王人頭，巧奪兵權，殺昏君統一天下，不但此仇可報，天下百姓亦感叔王恩德。”高行周見趙匡胤氣度不凡，躊躇滿誌，又聽得此真切之語，料定眼前之人日後必有所為。於是答應借人頭與他，但要趙匡胤允諾與其子高懷德、高懷亮結為生死兄弟，並推翻郭威江山為民除害，趙匡胤一一答應，還許諾將小妹嫁於高懷德為妻。高行周應許拔劍自刎。趙匡胤披麻戴孝，重殮高行周後，將其首級裝入禮盒中，帶回汴梁複命。趙匡胤獻上人頭後，郭威被高行周怒目圓睜的人頭嚇死。後柴榮繼位，封趙匡胤為兵馬大元帥。趙匡胤通過陳橋兵變稱帝，統一江山，建立宋朝，並封高懷德為大元帥，賜婚燕國長公主。這一傳說在民間廣為流傳，還被編成地方戲，劇名《高平關》，亦稱《借人頭》。
2.杯酒釋兵權，功臣解甲
高懷德既是宋太祖的結拜兄弟，又是太祖妹夫、皇親國戚，還是大宋的開國元勳，在宋朝建立後，理當位列朝廷重臣，於公於私，他都可能日漸得勢。誰知功成之後，宋太祖一場“杯酒釋兵權”徹底打消了這種可能性。趙匡胤即位後，有鑒於唐中葉以來藩鎮割據、武將拔扈造成的的後果，與宰相趙普密商，遂決定削奪大將兵權，以加強中央集權。
公元961年，一次晚朝後，太祖設宴款待各位開國大將。喝到酣醉之時，太祖突然屏退侍從，感歎地說:“如果沒有諸位的功勞，我不會有今天的地位，現在我雖身為天子，卻沒有從前當節度使時輕鬆快樂，自登基以來，我是夜夜不得安眠啊！”眾將聽聞此言，都驚慌下跪。得知皇上在為皇位擔心，石守信等人忙叩頭說：“現今天下安定，誰還敢有異心?陛下何出此言?”太祖說:“不然。你等雖無異心，可天下誰不貪圖富貴呢?假使你們的部下也把黃袍加在你們身上，到時你們可就由不得自己了。”眾將說：“我們昏庸無能，沒想到這些，請求皇上寬恕。”太祖說：“人的一生匆匆而過，不如多積錢財、廣置田宅留給子孫，天天欣賞歌舞，享樂一生，這樣，君臣之間互無猜忌，彼此相安，不是很好嗎?”眾將見皇上話已說明，再無回旋餘地，隻得俯首聽命。次日，石守信、高懷德等人紛紛以年老體病為由，請求解除兵權。太祖欣然批準，一律授以閑職，給予豐厚待遇。後來宋太祖還兌現了與禁軍高級將領聯姻的諾言，把守寡的妹妹嫁給高懷德。