征和二年（前91年），卫太子被江充以巫蛊之祸逼死后，汉武帝决定立钩弋夫人之子刘弗陵为储君，并计划令霍光辅佐。武帝令宫中画师画《周公负成王朝诸侯图》赐给霍光，暗示他准备辅政。后元元年（前88年）侍中仆射莽何罗与弟弟重合侯莽通(马通)谋反，刺杀武帝的行动被金日磾当场阻止，武帝派侍中驸马都尉金日磾、奉车都尉霍光、骑都尉上官桀领兵勦除残党。随后于后元二年（前87年）武帝临终前两天，立皇太子即后来的汉昭帝，并任命霍光为大司马大将军，金日磾为车骑将军，及太仆上官桀为左将军，搜粟都尉桑弘羊为御史大夫，皆拜卧内床下，受遗诏