如果我們縱覽科爾的政治生涯，不難發現這樣一個特點：他始終是作為反對黨或反對派的一員，一步一個台階走上來的。
1960年10月，在路德維希港市議會選舉中，科爾雖然出任基民盟的最高候選人，並為選舉煞費苦心，但是最終沒有戰勝社民黨而以失敗告終，甚至在一番周折之後，基民盟連聯合執政黨的地位也未撈到。
在萊茵蘭—法爾茨州議會中，基民盟雖然是以執政黨的身份出現，但是科爾並未因此而改變充當反對派頭目的命運。州長阿爾特邁爾和州議會黨團主席都不喜歡他，同他的思想格格不入。這樣一來，科爾為了在州議會中占據一席之地，又成了執政黨的對立麵。
到了1971年10月4日基民盟選舉聯邦主席時，科爾又站到了聯盟黨議會黨團主席賴納·巴澤爾角逐對手的位置上。但是這一次，科爾對對手缺乏正確的估計，而且頗不識時務，使得他在520張選票中，僅占了175張。
當時的巴澤爾比科爾州長實力顯然強勁得多。1971年8月初，基民盟的絕大多數組織包括州一級的黨組織、黨的主席團以及地區的基民盟組織，就一致提名巴澤爾為黨主席候選人。而科爾的支持者隻有漢堡、下薩克森、萊茵蘭—法爾茨三個州的基民盟執委會。懸殊如此之大，科爾明智的做法應該是放棄競選，等待時機成熟。但是，他仍然一意孤行，堅持自己的競選計劃。他表示，在必要的時候準備迎接挫折和失敗。
在阿爾特邁爾擔任州長的時候，科爾曾經因為時機不成熟而拒絕出任某部長的缺額。可是，在1971年10月他卻犯了操之過急的大忌。從政治策略來講，這是絕對不允許的。後來，科爾就此錯誤進行了反思，並承認，自己當時實屬“不識時務”。
現在，我們不妨隨著原基民盟的代理發言人沃爾夫岡·貝格斯多夫的回憶，看看科爾是如何在薩爾布呂肯遭受挫折的。
1971年10月，德國的一場重要演出在薩爾州大廳舉行。在德國基督教民主聯盟的曆史上，首先有兩位政治家為了繼承康拉德·阿登納的遺產而競爭該黨主席的職務。從1966～1969年在大聯合政府擔任總理的庫特·格奧爾格·基辛格辭去了基民盟主席的職務，決定把這個位子讓給一個較為年輕的人。
當時擔任基民盟和基社盟議會黨團主席的賴納·巴澤爾利用其反對黨領袖的身份，在過去的一段時間裏，已大大加強了自己的地位。他想使自己在預計1973年舉行的聯邦議院大選中，理所當然地成為聯邦總理勃蘭特的競爭對手，而在薩爾布呂肯舉行的黨代會上他能否當選為黨的主席，則是他成為基民盟總理候選人的先決條件。
對於被社民黨和自民黨聯合政府在1969年取而代之的聯盟黨來說，這意味著繼續推行其迄今為止的反對黨綱領，批評家一再稱之為等待中的執政黨。聯盟黨還一直沒有進入反對黨的新角色，他們在聯邦議院中的所作所為，在別人看來好像還擔負著政府重任，或者好像勃蘭特政府馬上就要垮台，他們又要掌權似的。赫爾穆特·科爾這位年輕的萊茵蘭—法爾茨州州長卻對此有不同的看法。很早以前他就主張對基民盟的綱領和組織進行徹底的改革，他要求基民盟接受反對黨的角色，從而為未來承擔政府責任進行充分準備。在一些人看來，隻有對基民盟進行徹底的改革，才有可能在大選中獲勝。
正因為這樣，科爾才提出要競選黨的主席一職，他和曾長期擔任過內政、外交和國防部部長職務的格哈德·施羅德交換過看法，並一致認為，應由施羅德出任總理候選人。按照科爾的意見，巴澤爾的任務就是繼續擔任反對黨的領袖，在聯邦議院充任經改革而麵貌一新的聯盟黨的頭麵人物。