抵達波恩不久，科爾將昔日在美因茨那些忠誠可信的人馬召集過來，組成新的班底。這些人是：尤利亞妮·韋伯、沃爾夫岡·貝格斯多夫、霍斯特·特爾奇克和愛德華·阿克曼等人。此外，他又從美因茨將州部長海納·蓋斯勒召到身邊，取代了庫特·比登科普夫的基民盟秘書長職位。
為了能夠爭取工會的好感，為聯盟黨贏得新的選民層，科爾在1977年6月初把42歲、能幹好鬥的諾貝特·布呂姆提到黨的社會委員會主席的位置上，取代了漢斯·卡策爾的職務。
諾貝特·布呂姆博士是一位引人注目的社會活動家。他曾在呂瑟爾斯海姆的奧佩爾公司當過學徒，後來又輾轉到建築業、金屬手工業及卡車司機等崗位上工作過。長期的基層工作，不但使布呂姆了解基層組織並在這裏贏得了頗高的聲譽。科爾認為，布呂姆出任此職是再恰當不過了。
科爾需要一批休戚與共、誌同道合的人馬，隻有這些人團結在自己的周圍，他才有可能在工作的時候得心應手、遊刃有餘。他希望有一個良好的“人事政策”為己所用。他說：“如果自由的思想傳統有能像社會和保守的思想傳統那樣在基民盟內找到自己的政治故鄉的話，這個黨就不可能是人民的黨。”
在波恩，科爾依舊沿襲了他在美因茨任命新官員的風格，擅自將一些黨內、甚至連公眾素未謀麵的州部長和州務秘書召到自己的身邊，委以重任。科爾在掌管美因茨時如此，在充當反對派領袖時如此，在進入聯邦總理府後還是如此。
但是目前鑒於地位的變化，科爾不得不在一夜之間改變昔日在萊法州時那種粗放得毫無約束的工作作風。在這裏，他必須小心謹慎、像地震儀那樣對任何風吹草動都有所反應。現實不允許他犯任何錯誤，否則那些政治對手和吹毛求疵的人又將繪聲繪色地貶責一番。
科爾在波恩很快適應了新環境，人們同時也很快地適應了他。在他作為反對黨領袖進入聯邦議院4周後，據英弗拉民意測驗的調查結果表明，科爾的日子遠遠比他的對手勃蘭特和施特勞斯好過得多。在一份從-5到+5的表格上，施特勞斯得0.4，勃蘭特為0.1，而科爾卻達到了1.2.
就在這個時候，連任的施密特總理卻為目前的尷尬局麵傷透腦筋。在聯邦議院選舉後的兩個星期，勞動部長、衛生部長、國防部長、郵電交通部長、發展部長紛紛向總理遞交了辭職報告，各奔前程，原因是施密特不能實現其在新的任職期間內不更換內閣成員的承諾。
與此同時，養老金的問題使得施密特心煩意亂、不知所措。競選中，政府宣布從1977年7月1日開始，把養老金提高10%。但是，選舉之後，從新的統計數據中發現經濟增長率比原先預期的要小，政府根本無法實現這一承諾。如果養老金像宣布的那樣從7月份開始增加，1977年僅養老保險金一項就將造成100億馬克的赤字。
起初，政府決定將增加養老金的時間向後推遲半年，但尚未實施，各地的批評便蜂擁而至，他們不得不取消了這個決定。聯盟黨就此抓住不放，抨擊施密特是一個“養老金撒謊者”，用莫須有的事實欺騙了善良的選民。1979年9月，科爾對《星期日世界報》說，“我們的年邁公民要求誠實。”對他們來說，“養老金是長期勞動生活的結果”。
這時，施密特還遭到了來自工會和社民黨議會黨團的指責。社民黨議會黨團公開表示：他們將拒絕接受養老金延期的決定。
養老金的問題使得曾經被譽為“經濟與貨幣政策的魔術師”的施密特憂心如焚、食不知味。他後來回憶起此事的時候，還心有餘悸地說道：“在我擔負政治責任的漫長歲月裏，曾遇到過各種各樣的難題，但沒有一次像1976年底發現養老金的財政估算與實際情況不符的那些日子裏更使我痛苦。”
接踵而來的是維利·勃蘭特的聲望急轉直下。赫伯特·魏納對其肆意攻擊，使得勃蘭特叫苦不迭，狼狽不堪。
不僅如此，社民黨和自民黨的聯合政府出現了分裂之兆。約有一萬名黨員打算同母黨決裂，成立一個右翼的分裂黨，旨在反對社會主義和反對階級鬥爭。為此，這些右翼分子於1976年3月在漢諾威附近的加倫貝爾格宮舉行會議商討大計。在30年前，也正是在這個地方，政治家庫特·舒馬赫重新組建了社會民主黨。
1977年6月中旬在不倫瑞克，另一部分社民黨人士揭竿而起，成立了一個“社會民主聯盟”，力圖為社民黨開辟“另一條自由出路”。
執政黨內部分崩離析，危機四伏。反對黨中一些權威人士也節外生枝，決定不再履行支持科爾的義務，而把目光轉移到剛剛走馬上任的聯邦議院議長卡爾·卡斯滕斯身上。科爾料想不到這幕劇的導演者居然是他在1966年支持出任聯邦總理的庫特·格奧爾格·基辛格。基辛格向公眾們暗示，科爾不再是聯盟黨總理的“合適人選”，卡斯滕斯將取代科爾。