康熙二十年，进京朝觐，回答皇帝垂问，皇上褒奖他是“清官第一”。又说他弹劾赵履谦很恰当，于成龙回答说：“赵履谦了过错却不改正，我不得已才弹劾他。”皇上说“处理政务应该懂得大体，小处明白不值得提倡。做人贵在始终如一，你可一定要自勉呀！”随着赏赐给他国库银一千两，皇帝自己乘坐的骏马一匹，还做诗表达对他的褒扬和恩宠，并命令户部派官员协助于成龙赈济宣化等地的饥民。

    不久，升任江南江西总督。于成龙到了江南，自己衣食住行很简陋，每天只吃糙米和蔬菜。在那里几个月后，政令教化使江南民风大改变。权势之家担心对自己不利，就编造出一些流言蜚语。

    康熙二十三年，朝廷命令于成龙兼管两地巡抚的政事。不久，在任上去世。

    于成龙历任各种官职从未带过家属，他去世的时候，将军、都统以及幕僚属吏入内检点遗物，竹箱内只有一身丝绸棉袍，床头盐制豆豉和一些日常用具罢了。

    百姓听到噩耗，罢市，很多人聚在一起痛哭，家里绘制他的画像祭祀他。

    皇帝赏赐公祭安葬的礼遇，谥号为清端。内阁学士锡住勘察海疆回到京城，皇上询问于成龙为官的情况，锡住回奏说他很清廉，只是因为轻信别人，有时候被下属欺骗。

    皇上说：“于成龙在江南作总督，有人说他改变了朴素之风，等他死后，才知道他始终很廉洁，被百姓称赞。大概因为秉性梗直，那些不肖之徒带着私仇以谗言陷害他，才编造出这样的话罢了。当官像于成龙一样的人，能有几个呀？”