麻城名士魯晟，素來敬仰於成龍的高風亮節，他聽說於成龍天天以糠粥為食，便步行七十裏，專門到歧亭二府來嚐鮮。於成龍卻以新客上門為由用白米飯招待他。魯晟因為沒有嚐到糠粥怏怏而返，以未食糠粥為終生之遺憾。
於成龍吃糠粥的故事在黃州廣為流傳，時人有歌謠雲：“要學於公清廉，先吃於公糠粥。”又有歌謠雲：“要得清廉分數足，難學於公吃糠粥。”
當清官，不僅要廉潔，還要處事公正，不徇私情。光緒《麻城縣誌》從《從好錄》（楚黃郡士民同編，載於《於清端全集·政書》）中錄下了這樣的軼事：
於成龍在作秀才時，與一班誌同道合的朋友結社，中有一社友為人極豪爽，樂於助人。同社中十餘人，惟獨此人家境稍微富裕一些，社友們大多得到過他的無私幫助。他的家道也因而衰落下來。後來社友凡是出仕為官的，都會厚報此人。於成龍也得到過此人的多次資助，一直感念此人的厚德。一日，這位友人忽來歧亭相訪。於成龍知其來意——為一件案子而替別人說情的。見了故交，於成龍盡管非常高興，卻隻是不停地暢敘往事，感歎情誼，卻讓“此友欲關說（代人陳說，替人說好話）片言，卒不得”，然後，“公止傾囊約得數金相贈，以至署中饔飧絕粒。”難怪編者要發出這樣的感歎：“夫以如是之交，如是之贈，而關說不得，則他可知矣！”
歧亭有個官宦人家，其家仆拔了別人田裏的豆子，反過來還毆打別人。接到上訴後，於成龍令那家仆人來府受審，那仆人連同主人都來了。於成龍厲聲斥責那仆人道：“拔豆事雖小，然大不法殆始於此！”命衙役杖責仆人，並要其賠償別人的損失。這仆人的主人是世家子弟，其親屬也有幾個是官場中人，與於成龍交情甚好，可於成龍全不顧及他們的麵子。事過之後，於成龍與他們相聚時，仍若無其事地“稱詩評酒如故”。
聽說這些事後，張朝珍為之贈聯雲：“何處尋求包老，此間便是閻羅。”
康熙十六年（1677）湖廣巡撫張朝珍和湖廣總督以蘄州上接荊武，下臨潯吳，南連大冶興國，東鄰宿鬆太湖，三次申報朝廷，要求複建江防道，並舉薦於成龍任江防道觀察。十月，複建江防道，於成龍任道台，管理長江一線防務，仍駐黃州。
於成龍在江防道守職八個月，功績卓著，廉能之名朝野相聞。康熙十七年（1678）六月，擢升為福建按察史，躋身為朝廷大員。
於成龍赴閩之時，僅帶一床破被卷，一件朝衣。為了節省路上的開支，他購買了數石胡蘿卜，載到船上。劃船的人說：“此乃賤物，多載何用？”於成龍笑著說：“吾沿途供饌也，載之且可以壓船。”離任那天，麻城、蘄州、黃州各處的百姓聞訊紛紛沿岸相送，跟隨到九江的百姓達幾百人，哭聲與滔滔江水相應。於成龍一個瘦巴巴的幹骨老頭，佇立船頭，破浪於江中，見父老哭送不絕於岸，情不自禁，老淚縱橫。在赴任的日日夜夜，於成龍以蘿卜為食，直到吃完蘿卜，才抵達閩界。
康熙十八年（1679）九月，巡撫吳興祚等上疏康熙：“於成龍執法決獄，不徇情麵，屢伸冤抑，案牘無停。不濫準一詞，不輕差一役，而刁訟風息，擾害弊除。捐增監獄口糧，遍濟病囚醫藥。倡屬被掠良民子女數百口，資給路費遣歸。屏絕所屬饋送，性甘淡泊，吏畏民懷。住臬台未及一年，閩省吏風為之一變，功績昭然，為閩省廉能第一。”
康熙素知於成龍廉能，疏入，於成龍得旨：“於成龍清介自持，才能素著，允稱卓異。”
是月，於成龍遷福建布政使，管理福建一省的財賦和人事。其時，福建征收的財糧基本都供應給駐紮在福建的清兵，他在布政司的紫薇堂上書寫了一副對聯，聯雲：
累千盈萬，盡是朝廷正賦，倘有侵欺，誰替你披枷戴鎖？
一絲半粒，無非百姓脂膏，不加珍惜，怎曉得男盜女娼？
這副對聯，於成龍既用以自警，也用以警人。
於成龍生活十分清苦，但豪放達觀，幽默詼諧。他在福建時，還寫過這樣一副對聯：
山到窮時，現許多峭壁層崖，歡富貴功名，何似林禽野獸；路逢狹處，經無數行雲流水，任盤桓談笑，休辜翠竹蒼鬆。
當時在福建任職的滿漢大臣以及出使福建的欽差，常常路過布政使衙門，或入於成龍的臥室，或繞署散步，無不見於成龍曲房阿閣，幾案間隻有一竹笥（竹箱），內放朝服，鍋裏泡著稀飯，還有數十捆文卷書冊，此外再無他物。因此人們無不讚歎於成龍“富貴不淫”，朝野上下皆稱他為“天下第一清官”。
康熙十九年（1680）二月，於成龍上任布政使尚不足半年，又被康熙任命為直隸巡撫，時年六十三歲。