叢澍的《於清端公小傳》記載：“公薨之日，舉國若喪妣。男婦童叟皆入公署，見孤燈煢煢，猶然在案，周身隻見布被一床而已，清儉之節固千古所未有也。”
毛際可的《於清端公傳》中記載：“端坐而逝，床頭唯綈袍一篋，鹽豉數器而已。”
熊賜履的《清端北冥於公墓誌銘》中記載：“公之歿也，予以一瓣香哭公於喪。次瞻幾筵，唯青燈布縵冷落菜羹而已。問其篋笥，則故衣破靴外無他物。蓋公之素履卓絕類如此。”
於成龍一生為國家和人民辦了許多大事，自己卻過著這樣清苦的生活，真是前無古人，後無來者，見者無不落淚。
康熙得知於成龍病逝，十分痛惜，對文武大臣說：“朕失臂矣。”是年七月，學士錫住勘海回朝，康熙帝問起於成龍任官聲績，錫住稱雖清廉，“或為屬員欺弊。”康熙帝駁道：“此與成龍不合者適為此言耳。居官如成龍者有幾？”
十一月，康熙帝南巡至江寧，勉勵江寧知府小於成龍“務效前總督於成龍正直潔清”。康熙帝對清廉之官始終以恩禮相待，吏治為之一變。他在江寧見百姓和官員仍在祭奠於成龍，深受感動。他召見的官員無不稟奏於成龍清操惠政，深孚眾望。當革職在家的熊賜履奏稟於成龍臨死前的情狀時，康熙不禁垂淚歎息。回京後，康熙麵諭內閣九卿詹事科道：“朕巡行大江南北，遍谘民瘼，稽核貪官，廉訪吏治，博采眾議，或稱於成龍居官清正，實古今第一廉吏，爾部會議恤典具奏。”九卿詹事科道會議之後奏稱：“於成龍宜沛隆恩以勵臣節，應加太子太保，蔭一子入監，諡清端。”康熙準之。
諡號是後人根據死者生前的事跡給死者評定的一種稱號，有褒貶之意。“諡者，行之跡。”是以大行受大名，細行受細名；行出於己，名生於人。於成龍諡號“清端”，含義是清官第一。在清代七百名吏中，僅有兩人獲“清端”諡號，另一名是廣東的陳濱，亦是康熙之臣。
康熙二十四年（1685）二月十五日，康熙給於成龍書寫碑文：
朕讀《周官》，六計廉吏，曰：“廉善、廉能、廉敬、廉正、廉法、廉辨”，吏道厥唯廉重哉。朕用是審觀臣僚，有真能廉者，則委以重寄，錫以殊恩，所以示人臣之標準也。爾於成龍秉心樸直，蒞事忠勤，而考其生平，廉為尤善，以故累加特擢，皆朕親裁。蓋拔自庶官之中，洊受節鉞之任，爾能堅守夙操，無間初終。古人脫粟布被，或者嫌於矯偽；爾所謂廉，本於至誠。聞爾之風，可以興起；乃不憗遺，忽焉奄逝。日者省方察吏，南及江表，采風謠於草野，見道路之謳思。思清德在人，於今不泯。唯爾之廉，天下所知。朕俯合輿情，載褒勁節，既考名副實，諡曰“清端”，葬祭以禮；又晉之崇秩，賜予有加，恩恤爾子。嗚呼，人臣行己服官事主之道，爾可謂有始有卒者矣，顧不可以風世也歟？（據王若東等著《一代廉吏於成龍傳》和王永泰著《清官於成龍》彙校）碑文並沒有敘述於成龍的生平事跡，而是簡括了於成龍一生的特點——廉，並闡述了自己之所以重視於成龍的原因和意義。從這段碑文中可以看出，於成龍之所以能在五六年的時間裏，由一名普通知府直上於封疆重臣督撫之列，正是順應了康熙推行廉政的潮流。當然這並不能說於成龍乘流而上，平步青雲。於成龍所走過的每一步都是沉重的、踏實的，在曆史道路上留下了深深的足跡。
康熙二十四年（1685）四月二十六日，康熙派遣山西汾州知府張奇抱到於成龍陵墓宣讀了兩道祭文。第一道祭文陳述了於成龍任職的簡曆，特別提到於成龍任兩江總督時“大革貪風，勵己則寒同儒素”的事跡，對於成龍一生兩袖清風大發感慨：“嗚呼，蕭然官舍，竟擔石之無存，煥矣！”字裏行間流露出對一名寵臣的惋惜和哀悼。第二道祭文說：“唯爾苦節克貞，鞠躬非懈，真一介之弗取，越數官而彌堅。奄忽雲逝，能無憫焉！嗚呼，清風未遠，長存表德之恩……”
在此後，康熙對於成龍一直念念不忘，將於成龍奉為廉潔奉公的典範，時時號召大臣向於成龍學習。
康熙三十九年（1700）十二月二十四日，於成龍長子廷冀病死，廷冀之子、浙江按察使於準丁憂在鄉。康熙四十二年（1703）九月，於準報闋補班，康熙召見，指著於準對禦前大臣說“此老總督之孫也”，並對於準鼓勵一番，將於準特準旨為四川布政使。十月，康熙西狩駐太原，又一次召見於準，問於成龍墳墓離太原有多遠。聽於準說祖墳在太原二百七十裏以外時，才打消了親自去掃墓的念頭。他題寫了一塊“高行清粹”的匾額，賜給於清端，對其作了極高的評價。後來，於準曾官至貴州巡撫、江蘇巡撫，其子於大梃等人亦有官職。
於成龍逝世後，先入太原三立祠，後入北京賢良祠。“三立”指“立德、立功、立言”。三立祠中祀有顏傑、司馬光、楊繼宗、傅山等曆史名人。
康熙四十六年（1707）五月，康熙又一次南巡，見事隔二十幾年後江南士民仍愛戴於成龍，並在民間和官場流傳著不少關於他的清官故事，因此又書寫了一副對聯：“曆仕甘棠隨地蔭，兩江清節至今傳。”
於成龍死後，軍民畫像祭祀，江寧、蘇州、黃州人民爭為立祠，黃州清端祠中有近人朱峙山所題聯：“惟先憂乃能後樂，不愛錢即是好官。”