忽必烈聽後，很高興，馬上創立禦史台，以前丞相塔察兒為禦史大夫、張雄飛為侍禦史。忽必烈特意對他們說：“卿等既為台官，朕為汝君，職在直言，亦當極諫，苟所行未善，況百官乎！汝宜知朕意”。
從此，忽必烈就將糾正缺失、廣開言路的任務交給了禦史台，以樞密院、醫治中書省左右兩手及時諫阻皇帝缺失。繼而，忽必烈又立諸道按察司及肅政廉訪司等機構，來加強對他的監察。
忽必烈曾經與李冶討論曆史和曆史人物，忽必烈問李冶，魏征何如？李冶回答說：“魏征忠言讜論，知無不言，以唐諍臣觀之，征為第一。”忽必烈又問：“今之臣有如魏征者乎嚴？”李冶回答說：“今以側媚成風，欲求魏征之賢，實難其人”。
李冶明確指出，當時很盛行阿諛逢迎，溜須拍馬，很難尋找像唐朝魏征那樣敢於犯顏直諫的人。竇默也曾向忽必烈指出：“君有過舉，臣當直言，都俞籲睇，古之所尚。今則不然，君日可臣亦以為可，君日否臣亦以為否，非善政也”。這種阿諛之態忽必烈是看不慣的，下決心改變它，真正打開言路，以便利國利民。
至元十四年（1277 年），王思廉為忽必烈講讀《資治通鑒》，講了魏征犯顏直諫的故事。主思廉說魏征經常犯顏直諫，有一次，把唐太宗氣得要死，回到後宮生氣說，一定要殺掉魏征，長孫皇後知道事情原因後，馬上換上朝服向唐太宗進諫賀喜，說我國有魏征那樣諍臣是皇帝的福氣，國家的福氣，隻有皇帝虛心納諫，大臣才敢犯顏直諫，這也是皇帝英明的一種表現。唐太宗聽了長孫皇後的話，轉怒為喜，與魏征和好如初。忽必烈聽了這個故事以後，讓王思廉到皇後閣為後妃們講這個故事，也讓大臣們都知道這個故事，目的就是要魏征成為大臣們榜樣，長孫皇後成為後妃們的榜樣，敢於進諫。他自己當然要把唐太宗作為榜樣，虛心納諫。有一次，忽必烈遇到趙孟頫以後，問趙孟頫說“葉李與留夢炎孰優？”趙
孟頹回答說：“夢炎，臣之父執，其人重厚，篤於自信，好謀而能斷，有大臣器；葉李所讀之書，臣皆讀之，其所知所能，臣皆知之能之。”趙孟頫的意思是“夢炎優”。
忽必烈不把它放在心上，說：“夢炎在宋為狀元，位至丞相，當賈似道遵誤國罔上，夢炎依阿取容；葉李為布衣，乃伏闕上書，是賢於夢炎也。汝以夢炎父友，不敢斥言其非，可賦詩譏之”。忽必烈認為葉李賢於留夢炎，就是反對“依阿取容”的風氣，倡導廣開言路、踴躍進諫的風氣。
為了扭轉阿諛逢迎之風，忽必烈無處不表現出鼓勵進諫的樣子。而反對那些溜須拍馬的人。某天，一位獵人不慎將忽必烈的一隻獵鷹丟失，忽必烈見自己丟了心愛的獵鷹，非常生氣。一位侍臣看到此種情況，從旁邊大聲說：“宜加罪”。
忽必烈對丟失獵鷹非常生氣，而對別人的阿諛迎合更是生氣，下令杖罰迎合的侍臣，而對丟失獵鷹的獵人卻不予追究。
對那些敢於直言進諫的人。忽必烈都給予鼓勵和表揚，比如，姚天福敢於“廷折權臣”，忽必烈非常欣賞，特賜名為“巴兒思”，“謂其不畏強悍，猶虎也”。
要扭轉阿諛取諂之風，真正廣開言路，單靠皇帝鼓勵大臣們廣泛進言是不夠的，更為重要的是皇帝要有虛心納諫的態度。忽必烈在漢儒們的幫助下，逐步認識到了這一點。
忽必烈經過飲馬湩時，得了足疾，許國禎為忽必烈配製了草藥，讓他喝。忽必烈嫌“藥味苦，卻不服”。
許國禎勸道：“古人有言，良藥苦口利於病，忠言逆耳利於行。”忽必烈聽了，雖然沒有說什麼，但還是沒有服藥。
後來，忽必烈足疾發作，又召許國禎來為他看病，忽必烈特對許國禎說：“不聽汝言，果困斯疾。”許國禎回答說：“良藥苦口既知之矣，忠言逆耳願留意焉。”
勸忽必烈注意采取別人的意見。忽必烈聽後特贈給他七寶馬鞍。
在這之後，忽必烈牢記“忠言逆耳”的話，對大臣們的進諫都能虛心接納。
忽必烈受漢儒影響很深，欲在宮廷中確立嚴密的等級禮儀製度，曾對撒蠻說過：“男女異路，古製也，況掖庭乎。禮不可不肅，汝其司之。”撒蠻受任之後，對宮廷人員按照“禮”的規定嚴格要求。有一次，近臣孛羅因受忽必烈的命令匆匆出宮，行道失次。撒蠻“怨其違禮，執而囚之別室。”忽必烈等了好長時間，
不見孛羅回來，詢問原因，才知他被囚禁，趕緊命令撒蠻免了孛羅之罪。撒蠻遂進諫說：“令自陛下出，陛下乃自違之，何以責臣下乎？”忽必烈聽了這話，深表讚許，說，“卿言誠是也”。
還有一次，獵人去不剌金狩獵時射中了一隻兔子，結果誤傷了名駝，射死了名駝，忽必烈一怒之下便下令殺死獵人。鐵哥看到此種情況，進諫道：“殺人償畜，刑太重。”忽必烈猛然醒悟說：“誤耶，史官必書。”於是就下令放了那個獵人。
伯撒王妃得了眼疾，一位醫生用針灸給她治療，因失誤，把王妃的眼睛剌瞎了。忽必烈勃然大怒，要把那位醫生處死。許國禎聽說後，進諫道：“這位醫生的罪本來應該被處死，但他的罪是因為失誤造成的。如果殺了他，以後誰還敢給王公貴族看病呢？”忽必烈聽了，覺得許國禎說的對，特獎諭許國禎說：“許國禎直諫，可以作諫官”。
至元十四年（1277 年）七月，忽必烈有幸巡查上都，駐蹕於察納兒台之地，留守大都的耶律希亮趕來報告事情，奏對完畢，董文忠詢問大都近來發生的事情。
耶律希亮說：“囹圄多囚耳”。
此時，忽必烈正靠著枕頭睡覺，聽說大都監獄關了好多人，頓時從床上。坐起，忙問原因。耶律希亮奏日：“近奉旨，漢人偷了六文錢的人就要被處殺，這就是囚犯多的原因。”忽必烈聽了這話，很是吃驚，忙問“是誰傳的這個聖旨？”
中書省臣回答說：“這個旨實際上是脫兒察傳的。”
忽必烈就召來脫兒察詢問原因。脫兒察奏曰：“陛下在南坡時，這個聖旨是用來告誡蒙古兒童的。”忽必烈聽了這話，一下子想起來了，說：“前麵說的是戲言，怎麼能成為聖旨呀？”所以下令處罰了脫兒察亂傳聖旨的罪。
耶律希亮又奏道：“命令已經傳出去了，已經在民間造成了影響，現在必須說明他的錯誤，以安民心。”忽必烈很讚同耶律希亮的說法，立即派耶律希亮返回大都，諭旨中書省，明確說明收回先前所傳的聖旨。
元滅亡南宋之後，忽必烈為控製亡宋的人，意欲把江南宋朝宗室及豪族大姓遷移到北方。葉李聽說後，進諫道：“宋已歸命，其民安於田裏。今無故聞徙，必將疑懼，萬一有奸人乘釁而起，非國之利也。”忽必烈聽後立即取消了移民的打算。
至元二十一年（1284 年）春，右丞相和禮霍孫率百官奉玉冊玉寶，尊稱忽必烈日“憲天述道仁文義武大光孝皇帝”，諸王百官前來上朝祝賀，喜氣洋洋。
忽必烈高興之後想大赦天下。
張雄飛知道後就進諫說：“古人言，無赦之國，其刑必平。故赦者，不平之治。聖明在上，豈宜數赦！”忽必烈聽了很高興，讚譽張雄飛說：“大獵而後見善射，集議而後知能言，你所言極是，我今天就聽你的。”於是隻降輕刑之詔。
忽必烈要求下麵的大臣直言進諫，也能做到身體力行，勇於納諫。有時大臣害怕聖旨，他不接受進諫，但也不怪罪大臣，事情過後，就給以安慰。比如，忽必烈準備征伐日本，王磐人諫日：“日本這個小國家，海道險遠，勝之則不武，打不勝有損我們的威風，臣以為勿伐便。”
忽必烈不聽，而且還很生氣。王磐見到此種情形很傷心，說：“臣赤心為國，故敢以言，苟有他心，否則為何在從戰亂的地方，冒著生命的危險趕回來？今臣年已八十，況無子嗣，他心欲何為耶嚴。”
第二天，忽必烈消氣以後，覺得自己昨日對王磐的態度很不好，就專門派侍臣以溫言安慰，讓王磐無後顧之憂，又將內府珍玩碧玉寶枕賜給王磐。
又有一次，尚書參知政事何榮祖反對桑哥理算錢穀，多次在忽必烈麵前請求罷免桑哥，忽必烈不聽，他就進一步懇請，至於忤旨不少屈，最後硬是讓忽必烈下令，他也不在文書上簽字。就是這樣，忽必烈也沒有懲罰何榮祖。後來，理算錢穀使人民深受其害，忽必烈又想起了何榮祖之言，下令罷免了理算。
忽必烈確實像他自己所說的那樣：朕於廷臣有戇直忠言，常常不高興而接受；違忤者，不曾定罪。蓋欲養忠直，而消除那此侫臣”。直言者，均受到忽必烈的讚揚和重用。
在忽必烈的倡導下，阿諛逢迎之風有了很大的改變，直言進諫的人越來越多了。
在儒家思想的影響下，忽必烈逐漸形成了寬仁厚重的性格，與曆史上那些性格暴躁、喜怒無常的皇帝相比，忽必烈的性格是比較溫和的，他從不因喜悅和偏愛而賞賜一個無功者，也從不因為發怒亂殺一人。他對社會各個階層的人物都具有一定的同情心，因此，在用刑上十分慎重。
忽必烈曾經對管如德說：“朕治天下，特別重視，凡有罪者必令麵對再四，
核實結果後再定罪，非如宋權奸擅權，書上定罪的是殺人也。汝但一心奉職，千萬不要害怕忌嫉之口”。
忽必烈言出必行。他在殺盧世榮與桑哥之前，都曾召集大臣與盧世榮、桑哥論辯，諸事落實之後，才把他們殺掉。
桑哥當權，是最受忽必烈重用的時候，程钜夫曾上書彈劾桑哥，桑哥非常憤怒，羈留程钜夫，“奏請殺之，凡六奏，帝皆不許”。忽必烈沒有因為寵幸桑哥而按他的話去亂殺人。
忽必烈曾經對宰臣說過：“朕或怒，有罪者使汝殺，汝勿殺，必遲回一二日乃複奏。”曆史家對這句話有很深的見解，說“斯言也，雖古仁君，何以過之”。
的確，忽必烈為了避免亂殺無辜，用了很多辦法，其慎刑仁恕之例比比皆是。
李璮叛亂，忽必烈追究時，發現某些漢人曾同李璮往來，也意識到其中一些很不讚成蒙古人的統治，他控製住了自己的感情，隻殺了王文統，其餘，假裝不予追究，沒有擴大事情。
阿合馬事件發生之後，他看到了其中漢人反對色目人以至反對蒙古統治的表現，但他小化了事情，僅殺了王著、張易、高和尚等人，其餘不加追究。
其後的盧世榮事件、桑哥事件，忽必烈處理得也比較妥當，沒有擴大化。就連南台禦史上章請求忽必烈禪位於皇太子真金之事，他也沒有過於計較。
事實上，忽必烈要弄清南台禦史上章之事，不是很困難的，他不加深究就是不想把其事擴大，很好地處理了似有發展成為政變的大事。
忽必烈在一些小事也體現出了慎刑的精神。就像宋將劉整投降蒙元以後，宋朝荊湖製置使李庭芝為了離間劉整和蒙元的關係，特以金印牙符，授予劉整漢軍都元帥、盧龍軍節度使、晉封成燕郡王等官職。其書被永寧令得到，馬上傳送於朝，忽必烈令姚樞、張易了解其事。劉整親自辨明於朝，說自己不知實情。忽必烈聽了劉整之言，未加深究，隻讓劉整複書李庭芝就算完事。忽必烈處理慎重得體，沒有激起劉整之變，忠心耽耽地為元朝賣命。
某次，有位牧人盜割駝峰，下令處死。鐵哥諫阻道：“生割駝峰，實為殘忍，但因此處死牧人，恐非陛下仁恕之心。”忽必烈聽了，認為很有道理，用比較輕的刑罰處置了牧人。體現了忽必烈的輕刑與仁慈思想。
南宋滅亡之後，江南某些道觀藏有宋朝皇帝畫像，有位僧人和道士有矛盾，
便將其事報告了朝廷。忽必烈初聽其事，以為有人造反，想處以重刑，但又有些猶豫，特以其事征求石天麟的意見，石天麟說：“遼國滅亡以後，遼國皇帝和皇後的銅像在西京一直保存，至今仍然有之，沒有聽說還能禁止的。”忽必烈聽後疑心頓釋，對江南道觀及人民保留宋朝皇帝畫像等事都不提起。
忽必烈對朝廷中的大事與小事慎於用刑，主要基於儒家的仁恕思想，對人具有一定的同情心，對待任何事情都有顆寬容的心。
至元二年（1265 年），張弘範駐守大名（今河北大名），正值大水，很多村莊房舍皆被淹沒，受災的老百姓無力交納租稅，張弘範遂自作主張，免除了老百姓的租稅。
有人將其事上奏朝廷，忽必烈欲治其專擅之罪。張弘範請求人見，對忽必烈說：“臣以為朝廷儲小倉，不若儲之大倉。”忽必烈聽了這話，不知道其中的意思，問，“出話怎講？”張弘範回答道：“今歲水潦不收，而必責民輸，倉庫雖實，而民死亡殆盡，明年租將安出？曷若活其民，使不致逃亡，則歲有恒收，非陛下大倉庫乎！”
忽必烈聽後很認可，說：“知體，其勿問”。忽必烈讚同張弘範擅自免除民稅的做法，體現了他的輕刑思想，也表現了忽必烈的心胸寬廣。