次年正月，金國將領崔立發動汴京政變。汴京在蒙古軍猛攻下城陷指日可待。這時速不台奏請窩闊台：“金人抗拒時間非常長，我軍死傷了很多人，待城破之後宜盡屠戮。”窩闊台點頭同意。耶律楚材聽到屠城預謀，急忙馳騎趕來入奏說：“我國將士在野外征戰數十年，所想到的是土地與人民。得到了土地卻沒有人民，又有什麼用處呢？”可窩闊台仍然猶豫不決。楚材見以公論尚不足使窩闊台速下決斷，便施了假私濟公的伎倆，巧借私欲來打動大汗，又說道：“能工巧匠，富實之災，都聚集在汴梁城中，如果全部殺了，我們將一無所獲。”窩闊台才動了心，立刻準其所請，下令隻把金國皇族完顏氏殺掉，其餘一律赦免。自此以後援為定例，遂廢屠城之法。
四月，蒙軍入汴京。當時為逃避戰亂留居汴京者147萬人，皆得保全性命。
六月，蒙軍攻取洛陽，金哀宗完顏守緒走歸蔡州（今河南省汝南）。窩闊台汗六年（1234）正月，蒙、宋合兵攻入蔡州，完顏守緒自盡，完顏承麟（lín）為亂兵所殺，金國遂告滅亡。
河南初平，蒙軍俘獲甚多。軍隊返回途中，逃走的俘虜十有七八。窩闊台汗下令：凡是收留逃民和供給他們衣食的人，一家都處死，同時鄉親鄰裏也要受到連坐。由此逃者不敢求舍，沿途不敢留宿，以致餓殍（piǎo）遍野。耶律楚材念及民心向背，又從容進諫：“河南既然平定，那裏的百姓都是陛下的子民，他們還能走到哪裏去呢？何必因為一個俘虜，讓數百或幾十人一同連坐處死。”窩闊台醒悟，遂撤銷此禁令。
金亡之後，西部秦、鞏等二十餘州久未能攻下。耶律楚材獻計說：“過去我們百姓中的逃犯，可能集中在這些地方，所以他們拚死抵抗，如果準許不殺他們，那麼這幾個州將會不攻自下的。”窩闊台下詔赦免逃亡舊罪，又宣布廢棄殺降之法，由此諸城接連請降。
窩闊台即位後，耶律楚材參照中原禮數，確定了尊君抑臣的朝儀，並且經常向他宣傳“周孔之法”
的妙用，同時推薦了一批名儒到政府任職。
窩闊台汗五年四月，蒙軍開進金都汴京，金亡在即，中原已在掌握之中，而偏安江南的南宋的消滅也是指日可待的。此時此際，力興文教，崇奉儒術是當務之急。耶律楚材在進入汴京後，趕忙遣人入城收求孔子後人，找到了孔子51代孫孔元措，奏請襲封為“衍聖公”。又付予林田廟地，為之修孔廟，建林苑。又命令招收太常寺因戰亂散亡的禮樂生，以及征召著名的儒生梁陟（zhì）、王萬慶、趙著等人。叫他們把《九經》譯成口頭語，講解給太子聽。又帶領大臣們的子孫，手捧著經書解釋其中意義，使他們領會聖人的學說。他在燕京設立編修所，在平陽設置經籍所。正由於這樣，文化事業興旺發達起來了。
窩闊台汗九年，耶律楚材啟奏並具體製定了校試辦法，分為經義、詞賦、論三科，還規定：儒者被俘為奴者，亦皆釋放就試；倘有家主隱匿不放，以死處罪。這年一舉得士子四千餘人，其中四分之一是被赦免奴隸身份的儒者。
製定稅製解決財源
蒙古貴族崇尚武功，根本沒有稅製觀念。耶律楚材深知如今的蒙古國已是一個多民族的國家，長治久安之計是行漢法，大力發展農業，如果保守地強調畜牧是狹隘的，不合國情的落後政策。他對太宗說：“陛下您將南上征伐，軍需物資應該及時供給，如果能合理地製定中原地區的地稅、商稅及鹽、酒、鐵冶和山林河泊等項上繳國家的稅收，每年可以得到白銀50萬兩、帛絹8萬匹和糧食40餘萬石，足以滿足軍隊的需要，這不遠勝於變農為牧嗎？”窩闊台經過認真考慮，認為頗有道理，便命耶律楚材全權籌劃，實行征稅製度。耶律楚材領旨後，立即在燕京等十路設立征收課使，凡是長官和次官都用讀書人，如陳時可、趙昉等都是寬厚長者，是從全國選舉出來的最拔尖人物，下麵的屬官全部用原金朝尚書省的舊人。辛卯年（1231）秋天，太宗來到雲中，十路使者都呈了糧倉的簿冊和黃金、帛絹，陳列在朝廷上，太宗笑著對楚材說：“你沒有離開我的身邊，卻能使國家費用充足，南方金國的大臣，還有像你這樣的人嗎？”楚材回答說：“在那裏的人都比我強，我才能不夠，所以留在燕京，為陛下所用。”太宗為表彰他，升他為中書令，事無大小，都先向他通報。