入京后，辉祖留在父祠，因不肯迎接朱棣而下狱。朱棣亲自召见询问，徐辉祖一言不发，拒绝推戴。司法部门逼迫他招供，徐辉祖只写下父亲获颁铁券记录的话：开国功臣，子孙免死而已。朱棣大怒，想要诛杀他，却又因为皇后姻亲的缘故而中止，最终勒令他返回私宅，革去俸禄和爵位。永乐五年（1407年），徐辉祖去世。徐辉祖死后一个多月，朱棣以「中山王不可无后」为理由，由其长子徐钦继承魏国公。神宗时，朝廷录建文忠臣，在南京设庙祭祀，以辉祖居首。后追赠太师，谥忠贞。
参考文献.（明朝）