由於金朝內部的主和派暫時占了上風，放鬆了對南宋的進攻，戰爭形勢表麵上有所緩和，金軍一時沒有南下的跡象。以宋高宗為首的南宋統治集團得到了暫時的喘息機會。
這時候，安內成了主要問題。自從金軍入侵，天下大亂，流寇盜匪橫行。在江西、湖南、湖北一帶，那些竄擾不定、結隊劫掠的兵匪遊寇極其猖獗，他們霸占地盤，洗劫州縣，無惡不作。
由於受到遊寇的危害，老百姓處於水深火熱之中，連遭內亂外患之苦，無路可走，紛紛起義，自己建立政權，抗賦稅，保家園，以求得生存。鼎州（湖南常德）鍾相起義，就是為了反抗遊寇孔彥舟而組織起來的。從穩固南宋政權考慮，遊寇這一禍害必須先行剔除。
於是，宋高宗任命江南路招討使張俊為江淮路招討使，要他率領軍隊討伐在江淮、兩湖地區為患最為嚴重的遊寇李成、張用、曹成。
李成已經成為南宋政府的心腹大患。李成自稱“李天王”，擁眾數十萬，其勢力達到江淮十餘州，曾率兵圍攻江州（今江西九江）三個月，朝廷派出幾名大將皆不能解圍，朝廷為之震動。
後來嶽飛趕到洪州，才改變了消極防守的局麵。嶽飛向統軍大將張俊建議，由洪州贛江上遊繞到敵後，攻其不備，並且自願擔任先鋒。
三月七日，嶽飛身披重鎧，帶頭越馬泅渡，於是大家依次過江。雙方進行了大會戰，嶽家軍首先突擊馬進的右翼，大敗敵人，馬進逃跑，嶽飛搶先追逐。沿途有座小土橋，嶽飛率幾十騎過橋後，土橋坍了，馬進乘機揮軍反撲，嶽飛一箭射死敵方的先鋒將，指揮幾十名騎士奮勇死戰。張俊派人修複土橋，大軍繼進，馬進再也支持不住，便逃往筠州。
馬進戰敗後，向北逃竄，尋求李成援助。嶽飛連夜率領將士銜枚急行軍，趕到馬進前麵，在朱家山埋伏。待馬進的殘部逃到朱家山時，伏兵一鼓作氣進行了殲滅戰，馬進隻剩十幾騎倉皇逃跑。
李成不甘心失敗，留馬進守江州，親自領兵反撲。他命部將商元在洪州新奉縣樓子莊的草山依險設伏。
張俊的大軍由小路衝上山頂，殺敗伏兵，奪取險隘，把李成的反撲計劃徹底粉碎了。此戰使張俊獲得“張鐵山”的稱號，其實這主要得力於嶽飛等部的奮戰。
這一戰役後，李成損兵折將，已無力反攻了。李成逃到洪州武寧縣，恰好洪水暴漲，殘兵敗將們還來不及渡河，嶽家軍已如神兵天降，匪徒們四散奔逃，潰不成軍。李成不敢再在江南停留，到了三月底，江南已無這支匪軍的蹤影了。後來李成逃奔到了偽齊。
從此以後，李成不得不收斂自己的野心，心甘情願地匍匐於金朝“子皇帝”劉豫的足下，成為劉豫最得力的爪牙。
李成北逃後，鄱陽湖一帶還活躍著一支以張用為首的土匪武裝。張用原是杜充部下軍官，杜充任汴京留守時，他脫離杜充，靠劫掠為生，曾多次擊敗官軍。金兵南進，張用和曹成合為一股，在淮北一帶流竄。
在此期間，前抗金名將宗澤的得力助手閭勵曾遇見張用，勸他投奔南宋，為抗金效力。為了籠絡張用，閭勵把義女、已故官軍統製馬皋之妻“一丈青”改嫁給張用為妻。
“一丈青”武藝高強，號稱“萬人敵”。
但張用並未歸順南宋。後來淮西缺糧，張用和曹成的十餘萬人馬便流竄到德安府（今湖北安陸縣）一帶搶掠。在他們內部，爭權奪利、互相殘殺之事也時時發生。張用為避免暗遭毒手，便率領數千親兵拔營離去，到漢陽（今武漢市漢陽）一帶後又擴充了人馬。
張俊大軍驅走李成之後，移師鄂州，企圖一舉降服張用。張用知道自己勢單力薄，便避開官軍，向分寧縣（今江西修水縣）一帶流竄。此時，曹成部土匪也向分寧一帶靠攏。為了分化張用和曹成，張俊令嶽飛勸張用歸降。
嶽飛曾在汴京城外以少勝多打敗過張用，嶽飛的勇猛令張用折服。同時，嶽飛與閭勵的關係親密，也使張用之妻一丈青對嶽飛有一種信任感。於是，張用夫妻決定歸降。張俊任命他為統製，挑選張用所部精壯士兵五萬人改編為官軍，其餘老弱病殘遣送回鄉。
收降張用之後，張俊派嶽飛駐防洪州。後來嶽飛又收編了幾支脫離編製的小股官軍，嶽家軍的實力再次壯大，嶽飛也把全軍家屬接到洪州。
經過這幾次戰役，張俊對嶽飛的智謀和膽量更加讚賞。張俊回到越州向朝廷報捷時，他在宋高宗麵前力陳嶽飛的功勞。在這次軍事行動中，嶽飛對取得全局的勝利確實起到了關鍵性的作用。因此，朝廷將嶽家軍的規格提升為神武右副軍，任命嶽飛為統製。並受命駐守洪州。
鎮守洪州一年，嶽飛嚴格要求部隊，不許將士騷擾民舍。因此，數萬之眾屯駐洪州，市麵上見不到軍人，贏得了當地老百姓和士大夫的尊敬。士大夫常去拜見嶽飛，一次，有人問嶽飛：“天下將何時太平？”嶽將軍回答得十分幹脆：“文官不愛錢，武官不怕死，則太平矣。”