公元1057年，六歲的亨利（史稱亨利四世）登上了德意誌王國的王位。在那個時代，天主教主教的授職權實際上操縱在國王手中。為此，羅馬教廷一直深懷不滿。新國王即位後，羅馬教廷乘國王年幼無知，根基未牢，提出教會獨立的主張，反對主教由國王授權，借機擴大教會的勢力，削減國王的權力。
1073年，新當權的教皇格裏戈利七世在敕令中公開提出：教皇的權力高於一切，教皇不僅可以任免主教，也有權廢除君主，有權審判和懲罰國王。卻沒人能夠製約或審判教皇。亨利四世已經22歲了，年輕氣盛的國王亨利四世當然不會甘心忍受教皇的頤指氣使，於是雙方的衝突發生了。1075年，亨利四世不顧教皇的敕令，委派了幾個主教，填補缺位。教皇聞知此事後，立即致信亨利四世，要他考慮後果，嚴令他立即懺悔，並向教皇交上懺悔書。亨利四世不僅不理睬教皇的警告，反而在聖誕節剛過，新年到來之際，召開宗教會議，宣布廢黜教皇。
教皇給予亨利四世更有力的回擊，宣布剝奪國王亨利四世的王權，並將他開除出教會。這時，反對亨利四世的公候和高級教士趁機發出呼應。幾個月後，他們又提出：亨利四世應暫時放棄國王權力，宣誓效忠教皇；如果在一年內亨利四世得不到教皇的赦罪令，他的王位將被廢黜。
亨利四世一下子陷入腹背受敵的境地，他不得不簽署服從教皇權力的保證書，並對自己的“嚴重罪行”進行懺悔。緊接著，反對亨利四世的勢力又作出決議：定於1077年2月在德意誌中部的奧格斯堡舉行會議，並將邀請教皇出席，以共同裁判亨利四世。
當獲悉教皇從羅馬到了阿爾卑斯山南麓的卡諾莎城堡，等候德意誌王國反對亨利四世的公侯派來的迎護軍隊，以便前去參加裁判會議時，亨利四世意識到了問題的嚴重性。
亨利四世換上普通服裝，帶上少數隨從人員，翻過阿爾卑斯山，一路風塵地趕到了卡諾莎城堡。亨利四世跳下馬，立即脫下皮帽和靴子，將一條氈毯披在身上，冒著鵝毛大雪，一步一步地走到教皇的宅第前。
這是亨利四世的懺悔形式。當時羅馬教會允許被他們宣判的罪人以各種方式懺悔，比如自我杖責、捐納巨款、赴聖地朝拜。赤足露頂地哀懇等等，以求得教會的赦免。亨利四世正是選擇了在隆冬時節赤足露頂向教皇直接哀懇這種懺悔方式。整整三天，教皇都沒有理睬他。第四天，亨利四世還是站在風雪中痛哭流涕，乞求教皇赦免他。
許多教士被亨利四世的真誠所感動，紛紛向教皇代乞。教皇餘怒未消，但礙於多人求情，勉強傳亨利四世進來見他。亨利四世感激不盡地匍匐而進。這個青年國王此刻威風掃地，一副可憐相。
比亨利四世大十歲的教皇格裏戈利七世，望著這個乳臭幹卻膽敢跟自己分庭抗禮的國王，怒不可遏。他控製住自己，威嚴地說道：“我已經以上帝的名義革除你的教籍，剝奪你的國王權力。你是一個罪人，還有何臉麵來見我？”
亨利四世誠惶誠恐地俯伏在地上，向教皇懺悔自己的罪過，淚流滿麵。他又呈上自己服從教皇權力的保證書和宣布撤銷關於廢黜教皇法令的命令書。
教皇並不滿意，他嚴厲地訓斥亨利四世，曆數他的種種罪行。亨利四世一一點頭認罪。看到曾經趾高氣揚的國王如今可憐到如此地步，紅衣主教、大主教和一些貴族，紛紛求教皇赦免亨利四世。教皇終於鬆了口，同意不將亨利四世逐出教會，但仍不恢複其國王的權力。他要求亨利四世當眾寫下效忠教皇的誓詞。亨利四世當即寫出誓詞，宣誓遵照教皇的旨意痛改前非。
卡諾莎之行的屈辱並沒有挽回亨利四世的權力和安寧。當他回到德意誌時，反對勢力已宣布他被廢黜，新的國王已經選出，並竭盡全力爭取教皇的支持。亨利四世則立即組織武裝討伐。
1080年，教皇借口亨利四世違背他的命令，革去亨利四世的教籍並廢黜其王位。亨利四世立即作出反應。他指使支持他的宗教會議通過決議，再次宣布廢黜教皇。當年，亨利四世還率軍徹底擊敗了反對勢力選出的新國王及其軍隊，牢牢地掌握了政權。
不久，亨利四世為報卡諾莎之辱，出兵意大利，討伐教皇。1084年，亨利四世的軍隊攻陷羅馬城，教皇倉皇出逃到意大利南部。隨即，羅馬教廷被迫加冕亨利四世為“神聖羅馬皇帝”。1085年，羅馬教皇在寂寞中死去。二十一年之後，亨利四世在他的王位上死去。但教皇與國王的權力之爭並沒有結束，雙方的繼承者仍然各不相讓，鬥爭又持續了十多年。
1122年，在德意誌西部的沃爾姆斯城，羅馬教皇和德意誌國王共同簽署了一個宗教協定。協定的主要內容是：德意誌境內的主教將不再由皇帝直接任命，而是在有皇帝或他的代表出席的情況下，由教士自己選舉產生；主教的政治權力由皇帝授予，宗教權力由教皇授予。這就是曆史上有名的“沃爾姆斯宗教協定”。
至此，羅馬教皇與德意誌國王之間長達半個世紀之久的權力之爭才告一段落。