六年（1873年），嗣德帝任命阮文祥为如西副使，将与法国谈判的重任交给了他。虽然他成功同法国签订了条约，但法国人将他当作一个骗子。在同霍道生（Philastre）签订了条约和收复了被安邺大尉佔领的河内之后，阮文祥于嗣德二十七年（1874年）五月被任命为刑部尚书，充机密院大臣，同时晋封奇伟伯（），成为阮朝朝廷重臣。次年（1875年）六月，改任户部尚书。后加太子太傅衔，授协办大学士。
受命辅政.嗣德三十六年（1883年）六月，嗣德帝去世，遗命陈践诚为辅政大臣，阮文祥、尊室说为同辅政大臣