噶禮、張伯行互參案是發生在康熙晚年的一件震驚朝野的大案。康熙五十年（1711），在江蘇的鄉試中，兩江總督噶禮收受賄銀50萬兩，賄買舉人，一時士人嘩然，民怨沸騰。新任江蘇巡撫張伯行上書參劾噶禮的罪行，反被噶禮倒打一耙，扣上了7條罪狀。一方是滿族貴族勳臣噶禮，一方是被康熙譽為“天下清官第一”的張伯行，康熙處理此事自然十分慎重。他先後派自己信任的尚書張鵬翮、總漕赫壽、尚書穆和倫等人赴江南調查案情。本來並不複雜的案情，經他們一察反而難辨是非了。他們懾於噶禮的權勢，硬把此案說成是總督與巡撫因關係不和互相尋釁參劾，各打50大板。貌似公允，實則偏袒罪惡昭著的噶禮。康熙見自己派出的官員竟察出這樣的結果，十分失望。為了促成案子的公正處理，他明確表示：自己早就不信任噶禮的操守，而張伯行為官清正，享有盛譽，希望朝臣體會他保全清官的苦心。但是九卿大臣廷議的結果仍是將兩人一並革職。康熙洞悉朝中官官相護的黑幕，更深恐如此偏袒噶禮會激起江南民變，遂親自做出決定：令張伯行仍留原任，噶禮依議革職。噶禮並未立即受到嚴辦，後來還是因其企圖殺母的罪行被賜死。圍繞科場受賄展開的這一場官場爭鬥，雖然以皇帝的明斷作為結束，但是它也證明了即使是康熙的多年努力也無法從根本上醫治貪官這一封建製度的痼疾。
在懲治貪官的同時，康熙多方扶持清官廉吏，以起到移風易俗、扶正抑邪的作用。但在當時貪風盛行的官場上，為政清廉者實屬鳳毛麟角，被康熙譽為“天下廉吏第一”的於成龍就是一個受百姓愛戴的清官。早在順治朝任廣西羅城知縣時，於成龍便插棘為門，累土為幾，他清貧的生活和卓著的政績一時傳為佳話。康熙十四年秋天，黃州發生了嚴重的自然災害，於成龍發放的賑濟糧救活了幾萬災民的性命。後來他離開黃州赴福建按察使任所時，幾萬黃州百姓送行到九江，哭聲與江濤聲連成一片。於成龍的廉能勤政，深得康熙讚許。康熙二十年，他特地在懋勤殿召見於成龍，稱他為“當今清官第一”，還賞賜白金、良馬、禦詩等，勉勵他始終如一，保持氣節。於成龍自此為政更加勤勉，常常通宵達旦。他善於微服私訪，升任江南江西總督後，屬下官吏不敢為非作歹，不久江南風氣大為改觀。但是，深受康熙信任、政績卓著的於成龍反而受挾私報複者陷害，被迫離任，康熙又特下詔令其留任。他去世後，遺物隻有一襲綈袍和一些鹽豉。康熙始知於成龍的確一生廉潔，所謂後來變更素行的說法純係欺罔之語。為官清正反遭非議，康熙感慨不已。為了使廉風發揚光大，他特地為於成龍題了“高行清粹”四個大字。
康熙對於成龍的去世十分痛心，他詢問廷臣：“當今像於成龍這樣清廉的還有幾人？”廷臣當堂舉薦了張鵬翮等七人。康熙南巡經過張鵬翮的任所兗州府，發現果然名不虛傳，從此一再提拔重用。陳殯是康熙晚年時出現的清官。他認為，貪取一錢與取千百萬金沒有什麼差別。因此，他的衣食住行都十分儉樸，對不義之財分文不取。他獨自騎馬帶著行李赴任，官吏們誰也沒有認出他就是新任巡撫。康熙稱他為苦行老僧，並說：“陳殯出身非世家大族，又沒有門生故舊，天下人對他的情操交口稱譽，不是確有實事，哪能名聞遐邇？”因此，康熙在他病故後追授其為禮部尚書，蔭一子入監讀書，以表示對清廉之臣優禮有加。
由於康熙對整飭吏治堅持不懈，不斷清除貪官，褒揚清官，在一定程度上保證了國家機器的正常運轉。但是當時的官吏日漸腐敗，已經積重難返，康熙費盡苦心進行的吏治，也隻能是小修小補，並不能從根本上扭轉當時的政風。
康熙統治初期，盡管各地的反清鬥爭已經被基本鎮壓下去，但是民族矛盾仍然相當尖銳。三藩之亂就帶有明顯的民族色彩，未遂的楊起隆起義更是將鬥爭矛頭直接指向了滿洲貴族。這一切都構成了對清王朝的潛在威脅。康熙認為，士為四民之首，要爭取民心，扭轉漢族人民的反清情緒，關鍵在於促使漢族知識分子轉變反清立場。於是，康熙采取了種種措施爭取和使用漢族知識分子。