来刘邦再来拜见，太公拿着扫帚在门口恭敬相迎，告诉刘邦不能因他乱天下法，刘邦大惊，知道原因后就尊太公为太上皇。刘邦很欣赏管家的言论，赐他五百斤黄金。太公因此成为中国历史上唯一一位未曾为人君后来成为太上皇者，也是第一位在世就被尊为太上皇的人。《史记》和《汉书》有关太公于刘邦发迹前和被尊为太上皇之后的记载极缺乏，晋代小说式文献《拾遗记》说太公在刘邦起兵前常佩一刀，长三尺，后投炉中冶炼成一把新剑，太公把新剑赐刘邦，刘邦长佩于身。汉朝一统天下后，吕后把这把剑藏于宝库之中。《西京杂记》另有则故事说道太公当上太上