督促、训斥儿子，靳懋仁却说：“您的父亲不如我的父亲，您的儿子又不如我的儿子，您为何还骂我不肖？”靳贵听后大笑，便停止对其的督促及训斥。弘治三年（1490年）庚戌科金榜，状元、探花为直隶的钱福及靳贵，榜眼则为广东的刘存业。在殿试还尚未揭晓时，靳贵以六颗骰子，在神明面前祈祷，明早想借由掷骰子来决定名次的先后。次日，恰巧钱福到来，也想掷骰子；靳贵不得已，遂把昨天之事告知钱福。钱福便高兴的说“应该跟你赌赌看。”下掷，则钱福为六红，靳贵为六绿，两人皆感到欢喜。后钱福果真中状元，靳贵为探花。而刘存业则在之前曾经梦到