时轻佻放荡，喜欢赌博，不过长大后就循规蹈举，很有操守。起初家境贫困，于是出任临津令，后获刘裕征为府主簿，并随同北伐后秦，期间因公事免官。不过，刘裕灭秦后仍因随同征伐的功勋获赐爵都乡侯。宋少帝即位后，何尚之任庐陵王刘义真的车骑谘议参军，当时刘义真与执政的徐羡之、傅亮等不和，何尚之曾作出劝谏但不被接纳。景平二年（424年），徐羡之废义真为庶人，何尚之遂调作中书侍郎。同年宋文帝即位后，何尚之历任临川内史、黄门侍郎、尚书吏部郎及左衞将军，直至元嘉八年（431年）尚之父何叔度去世，尚之才离职守丧，守丧期完结后便复任左