宋紹興三十一年（金正隆六年，金大定元年，1161），正當金帝完顏亮南下攻宋之際，金廷發生政變，擁立東京留守完顏雍為帝。完顏亮南侵失敗，又為部將所弑。宋軍乘勢收複淮東淮酐西末地。
自紹興七年（1137）遭罷免的宰相、著名的抗金將領張俊，於謫居20餘年後，直至完顏亮兵臨江北之時，方被重新起用，接替因臨陣逃脫而被解職的王權，受命出任判建康府兼行宮留守。張浚自潭州（治今湖南長沙）出發，日夜兼程，至嶽陽（今屬湖南）買小舟冒風雪而行。途中遇東來行人，方知金軍正犯采石（今安徽馬鞍山東北），路人請他慎行勿輕進。張浚不顧，徑直駛入長江。時金軍已占據兩淮，江北金軍騎兵出沒無常，長江上無一舟敢行北岸。張浚卻乘小舟依舊順江而下。待他趕至建康府（今江蘇南京）時，金軍已因完顏亮被殺，相繼撤回淮北。張浚複出，為眾望所歸，“衛士見浚，無不以手加額”，軍民皆倚以為重。就連趙構也認為：“卿在此，朕無北顧憂矣。”①隨後又委他兼節製建康、鎮江府、江州、池州、江陰軍軍馬。張浚受任後悉心經營；招集忠義民兵，招募淮楚地區壯勇之士，任命陳敏為統製。考慮到金軍長於騎兵，宋軍長於步兵，故須揚長避短，令兵士製弩造車。
完顏雍即位之初，為鞏固統治，穩定社會秩序，於宋紹興三十二年（金大定二年，1162）正月，向宋朝派遣使臣，要求恢複和維持宋、金間原有的關係。宋帝趙構雖於金軍大舉南侵之時，迫於形勢而重用主戰派將領，而當威脅解除之後，卻依舊苟且偷安，企盼與金求和。主戰派臣僚希望朝廷能重用張浚。主持軍務，但趙構卻任命主和派楊存中為江、淮、荊、襄路宣撫使，全麵負責軍務，又以虞允文為副使。給事中金安節、中書舍人劉珙上奏指出：“若聖上以為虞允文不能獨自擔當此重任，宜別擇重臣。”趙構為之大怒，認為是指未任用張浚，遂改命楊存中負責淮東、淮西地區防務，虞允文改任兵部尚書、川陝宣諭使，負責招軍買馬及與四川宣撫使兼陝西、河東招討使吳磷議事，而拒不任命張浚。此前，抗金名將劉綺因病重免官，故張浚已成為朝野上下企望的主戰派首領。
三月，金使臣入宋，到達臨安（今浙江杭州）。盡管趙構一再表示仍將奉行對金廷納貢稱臣之策，宋尚書左仆射，同中書門下平章事陳康伯等人卻更定金使入境接伴、館伴舊儀，強製要求金使以對等的態度與南宋君臣相見，遏製了金使以往傲慢無禮的態度。同時，兩淮、川陝地區宋軍繼續與金軍作戰，捷報頻傳，又相繼收複一些失地，抗金形勢再度好轉，對南宋王朝極為有利。這使得宋帝難於再硬性推行投降求和政策，不得不重用張浚。五月，趙構命張浚專一措置兩淮事務兼節製江淮東西、沿江州郡軍馬，又命他招募淮南之民，設置禦前萬弩營。但並未因此而最終改變宋廷的對金政策。在此之前，宋曾遣洪邁等使臣入金，賀完顏雍即位，準備再次與金議和。是戰是和，令趙構左右為難。五月底，他冊立養子趙瑋為太子，更名奮（爸慎）。六月，以自己“倦勤”休養為由，傳位太子，自稱太上皇帝。實際是將懸而未決的戰和之議推卸給繼承者，不過他在退位之前，下令撤銷為抗金而專設的招討司，為宋廷與金廷的議和鋪平道路。
同年六月，趙眘即位，是為宋孝宗。趙眘入宮為趙構養子時，即主張抗金，及即位，便召張浚入見，說：“久聞公名，今朝廷所恃唯公。”②且授其為少傅、江淮東西路宜撫使，進封魏國公。再次表示：“朕倚魏公如長城，不容浮言播奪。”③金見宋遲遲不議和，遂派兵10萬屯駐河南，聲言將用兵準東、準西，又移文向宋索取海（治今江蘇連雲港西南）、泗（治今江蘇泗洪東南）、唐（治今河南唐河）、鄧（治今河南鄧縣）、商（治今陝西商縣）諸州之地及歲幣。張浚向宋帝進言，稱金廷詭詐，不當因此而動撼，遂以大兵駐守於肝眙（今屬江蘇）、濠州《治今安徽鳳陽東北）、廬州（治今安徽合肥），迫使金軍未敢進犯。
宋隆興元年（金大定三年，1163）正月。趙眘進張浚為軀密使，都督建康府（今江蘇南京）、鎮江府（今江蘇鎮江）、江州（治今江西九江）、池州（治今安徽貴池）、江陰軍（今江蘇江陰）軍馬。在重用張浚的同時，趙眘又追複嶽飛的官爵，起用主戰派胡銓，並下令將秦檜黨人逐出朝。
但是太上皇帝趙構安插於趙眘身邊的翰林學士史浩，卻是主和派臣僚，及他升任參知政事兼權知樞密院事後，極力散布求和言論，阻撓張浚的抗金部署。在史浩的建議下，抱有無須動武而能求得與金平等地位幻想的趙眘，竟不顧張浚等人的反對，派遣使臣入金通報即位之事。由於金廷堅持要求宋廷履行“紹興和議”，宋使被迫退回。宋四川宣撫使兼陝西、河東路宣撫、招討使吳磷自紹興三十一年（1161）迎擊金軍對川陝地區的進攻之後，乘勝收複秦風路（治今甘肅天水）、熙河路（治今甘肅臨洮）、永興軍路（治今陝西西安），等大片失地。然而趙膏卻下詔，要吳磷“審度措置，保全川蜀”④。隨後又詔令四川宣撫司退兵，吳磷隻得放棄已攻占的德順軍（今甘肅靖寧東北），於撤追途中遭金軍邀擊，傷亡慘重，3萬兵士僅有7000餘人僥幸生還，川陝前線將士浴血奮戰奪回的失地得而複失。