1217年秋，成吉思汗封木華黎為太師國王，賜九尾白旗，使承製行事，命統劄剌亦兒、弘吉剌、亦氣列思、兀魯、忙兀、汪古諸部軍以及歸降的契丹、女真、乣、漢諸軍，專征金朝。成吉思汗對木華黎說：“太行山以北，我自己經略；太行山以南，由你去努力。”授予他攻取中原的全權。1223年，木華黎死後，由其子孛魯繼承他的職務。
木華黎受命專征後，繼續奉行成吉思汗製定的籠絡漢族地主的政策，他手下的契丹、女真、漢族地主武裝成為攻金的重要力量。
1217年，木華黎軍攻河北、山東諸州，劉伯林、石抹也先等所部漢軍隨從，陷蠡州（今河北蠡縣）、大名府、益都、密州等城。易州人張柔聚宗族數千家，選壯士組織隊伍，結寨自保，金朝授以經略使職。1218年兵敗降蒙，木華黎命他仍用舊職，統領本部兵馬，於是張柔搜集部曲，攻下雄、易、安（今河北新安西南）、保等州，軍於滿城（今河北滿城縣西）。當時，河北地區兵力最強的地主武裝是據有真定（今河北正定）的武仙。武仙歸附金朝，屢次發兵攻張柔，張柔也攻入武仙控製的地區。1219年，先已降蒙的董俊攻下真定，逐走武仙。1220年，金朝封武仙為恒山公，武仙得金朝援兵，打敗董俊，複據真定。
1218年，木華黎統兵攻入山西，史天倪、史天祥兄弟等各領所部漢軍從行，攻下太原、平陽、絳州等八十餘城。1219年，金郭文振、張開軍收複太原，胡天作軍收複平陽。次年，金朝封郭文振為晉陽公，張開為上黨公，胡天作為平陽公，讓他們分疆守土，與蒙古軍作戰。
木華黎主力攻山西時，河北有幾支地方武裝奪據了許多地方，與降蒙派地主武裝相互攻戰，金朝也封他們為公。1220年，木華黎將攻略的重點轉到河北，親駐滿城，遣史天祥攻真定。史天祥勸說武仙投降，於是真定複歸蒙古，邢（今河北邢台）、相（今河南安陽）、衛、懷（今河南沁陽）、孟等州相繼被蒙古軍攻下。
1221年秋，木華黎率蒙古軍主力及石天應、史天祥等漢軍攻山西、陝西。由東勝渡河，征召西夏兵從戰，取葭州，使石天應守之；攻延安不克，破綏德、鄜（今陝西富縣）、坊（今陝西黃陵）等州，從丹州（今陝西宜川）東渡黃河，取隰州。1222年，蒙古軍複取太原、平陽，皆設官置守。冬，木華黎率大軍渡河而西，攻下同州（今陝西大荔）、蒲城，徑趨長安。金京兆行省完顏合達固守，蒙古軍攻不下，遂西攻鳳翔，再召西夏兵助戰。鳳翔軍民英勇抵抗，木華黎圍攻了一個多月，仍不能克，西夏軍帥又率師離去，隻得引兵退還，於1223年三月死於聞喜。
武仙降蒙後，木華黎命史天倪為河北西路都元帥，治真定，以武仙副之。但兩人勢力不相上下，武仙對史天倪不服，常鬧矛盾。1225年，史天倪攻取武仙部下所據山寨，武仙怕他進一步來收拾自己，就設謀請史天倪赴宴，將他殺掉，以真定地投歸金朝。一時河北震動，許多州縣都隨著叛蒙附金。孛魯命史天澤襲其兄職，招集史氏部曲攻武仙，並遣肖乃台率蒙古軍助之，槁城董俊亦出兵會攻，武仙敗走汴京，真定及河北諸州又為蒙古占領。
至此，金朝在河北、山東的地盤喪失殆盡，雖然在山西打了幾次勝仗，收複了平陽、太原等地，但已難挽回整個敗局。正值此時，成吉思汗親率大軍在擊潰西夏主力後，揮師入金，攻陷了臨洮等府州。金哀宗趕緊派使臣帶了大量珠寶向成吉思汗求和。不久，成吉思汗死於清水縣附近。臨死前，他製訂了以下的滅金戰略：假道於宋，進攻唐州和鄧州，後直搗大梁，取下金精兵所據的潼關。
成吉思汗死後，在陝西的蒙古軍繼續向鳳翔等地進攻。1228年，蒙古軍八千入大昌原（今甘肅寧縣西），被金完顏陳和尚率領的四百騎軍擊敗。金朝與蒙古打了近二十年仗，才第一次得到這麼輝煌的勝利，頗起了一點振奮作用。1229年窩闊台即位後，決定親自出征金朝。
1230年秋，窩闊台與拖雷率軍渡漠而南，攻拔天成等堡，進入山西，渡過黃河，與陝西蒙古軍會合，攻取鳳翔。金哀宗命行省完顏合達、移剌蒲阿從閿鄉（今河南靈寶西）提兵出關救援，合達等兵至渭北，見蒙古軍勢盛，慌忙收兵入關。次年春，蒙古軍攻破鳳翔，金棄京兆，遷民於河南，潼關以西盡為蒙古所據。
1231年夏，窩闊台避暑於官山九十九泉（今內蒙古卓資北灰騰梁），大會諸侯王，商議攻金之策。當時，金以重兵把守潼關，不易攻破，猛將速不台在此接連受挫；黃河一線守備亦嚴，武仙一軍屯於北岸衛州，史天澤曾率軍攻之，不克。蒙古軍進展緩慢。窩闊台采納拖雷的意見，決定兵分三道進征：窩闊台自統中軍渡河，由洛陽進；斡赤斤以左軍由濟南進；拖雷統右軍，由寶雞南下，通過宋境，沿漢水達唐、鄧，以成包抄之勢，定於次年正月會師汴京。