江府唐豪县白杉总春育社（今属兴安省美豪市社春育社春陶村）人。嗣德二十七年（1874年），阮善述参加南定场乡试，考中秀才。嗣德二十九年（1876年），再次参加南定场乡试，考中举人。后被任命为海阳赞襄军务。1881年，被派往山西，任山西赞襄军务。1883年，法国发动北圻远征。法国军队势如噼竹，越南军队不能抵抗。阮善述前往故乡海阳募兵，抵抗法国军队。同年阮文祥代表越南阮朝朝廷，同法国签订《第一次顺化条约》。朝廷命令各地的军队停止抵抗，但阮善述拒绝执行命令，退到东潮县（今属广宁省东潮市社），与刘永福的黑旗军互相声援