他准备辅政。后元元年（前88年）侍中仆射莽何罗与弟弟重合侯莽通(马通)谋反，刺杀武帝的行动被金日磾当场阻止，武帝派侍中驸马都尉金日磾、奉车都尉霍光、骑都尉上官桀领兵勦除残党。随后于后元二年（前87年）武帝临终前两天，立皇太子即后来的汉昭帝，并任命霍光为大司马大将军，金日磾为车骑将军，及太仆上官桀为左将军，搜粟都尉桑弘羊为御史大夫，皆拜卧内床下，受遗诏辅少主。一同辅佐时年八岁的汉昭帝 。昭帝二年，以武帝遗诏，封霍光、金日磾、上官桀三人为列侯。霍光被封为博陆侯但当时也有人提出异议，认为武帝根本没有留下封三人为侯