“賀大人，你要知道沒有證明，這些百姓那就是我大清的子民，賀大人這樣濫用私刑，屈打成招，也不怕是到時候皇帝陛下怪罪麼。”因為及時的製止了賀大人的行為，於成龍考慮到今後說不定，還會有更多的這樣的情況。所以，便下令‘沒有經過證實的，凡是被抓捕的百姓不能用刑逼供。’
好在最後，終於是讓那些被冤枉的百姓得到清白，而於青天這個名聲，也被大家送給了於成龍。為官者，清廉，為民才是頭上青天。
於成龍才福建的那些舉動，使他受到了極大的歡迎。自然也是有人找茬的，不過於成龍還是在按察使任上第三次被授任“卓異”。而後升任省布政使，福建巡撫吳光祚還專疏向朝廷舉薦，稱於成龍為“閩省廉能第一”，從此，於成龍得到清廷的賞識和破格招用
康熙十八年，於成龍升湖廣下江陸道道員，駐地鄂贛交界的新州，在湖北期間，盡管地位和環境都有很大改善，但他仍保持了異於常人的艱苦生活作風。從最初在羅城開始，不論是後來的合州還是黃州，還是武昌府以及福建，於成龍前四十多年一直都是與一般百姓一樣。
所以，即便是做官之後，於成龍也還是過得與一般百姓一樣。但是，後來歲奉不多的於成龍還要接濟比自己更加請困的百姓。以前有於刑氏在，於成龍還能吃上自己種的菜，後來於成龍雖然也是有人伺候，那也是馬六這樣的大老爺們。
於成龍的官階雖越升越高，但生活卻更加艱苦了，而這些都是因為於成龍時不時接濟百姓。隨著於成龍官職越大，能夠見到的百姓就是越多，知道的貧苦百姓就更加多了。所於成龍的歲奉不但是沒有多餘的，反而是皇帝賞賜的歲銀，也是少了。
到了康熙十九年春，皇帝“特簡”於成龍為畿輔直隸巡撫。為扼止直隸官員的奢侈腐化，於成龍帶頭實踐“為民上者，務須躬先儉仆”。在直隸於成龍一直都是以屑糠雜米為粥，與仆共吃。而以前在合州以及黃州時，於成龍就算是住在府衙裏，那也是日食粗糲一盂，粥糜一匙，侑以青菜，終年不知肉味。
在福建以及直隸兩地，於成龍身為“治官之官”，始終把整頓吏治放在首位。於成龍認為“國之安危由於人心之得失，而人心之得失在於用人行政，識其順逆之情”。
“以一夫不獲曰予之喜，以一吏不法曰予之咎，為保郅致政之本。”在黃州時，當年於成龍為了除掉黃州的盜賊，便在衣內縫製了布袋以此來保住自己身上的機密。升巡撫後仆人請去掉，他笑道：“此袋昔貯盜，今以貯奸貪不省之官吏，未可去也！”
於成龍新任直隸，即發出清查庸劣官員的檄文，責令各屬將“不肖貪酷官員”，“昏庸衰誌等輩”“速行揭報，以憑正章參處”。這件事皇帝是知情的，此時已經是康熙二十年，直隸近在燕京，乃天子腳下。這也是為何，皇帝會將於成龍調任直隸的原因。
針對各屬賄賂公行，請客送禮之風，皇帝一向都是有所耳聞，但是皇帝身邊缺少像於成龍這樣一把鋼刀。於成龍上任後，他從利用中秋節向他行賄的官員開刀，懲一儆百。
二十一年春，皇帝又召見於成龍於紫禁城，當麵褒讚他為“今時清官第一”，並“製詩一章”表賜白銀、禦馬以“嘉其廉能”。這算是皇帝直接向直隸的官員表示，自己是認同於成龍在直隸的所作所為。於是回到了直隸後，於成龍更是加緊對直隸的整頓。
因為在直隸的表現，深的聖心，皇帝一直將江南視作自己的心腹大患。江浙一帶，一直都是漢人出將入仕的主要地方，近百年來江南一帶多鹽商富豪，也多文人。所以皇帝派於成龍又出任為總製兩江總督。
於成龍赴任江南，入境即“微行”訪於民間，麵對“州縣各官病民積弊皆然而江南尤甚”的狀況，不禁歎曰：“噫！吏治敗壞如倒狂瀾，何止時乎？”很快頒布了《興利除弊約》，其中開列了災耗、私派、賄賂、衙蠹，旗人放債等多積弊，責令江南府縣“自今伊始”，將所開“積弊盡行痛革”。
與此同時，他根據自己的體會，又製訂了以“勤撫恤、慎刑法，絕賄賂，杜私派，嚴征收，崇節儉”為內容的《新民官自省六戒》作為地方官的行為準則。方法上，他舉優劾貪，寬嚴並濟，時人說凡他所到之處，“官吏望風改操”。皇帝知道於成龍在江南的所做後，也稱其“寬嚴並濟，人所難學”。