为兵部办理，并出领广南按察使一职。嗣德十七年（1864年），升任承天府府尹。两年后（1866年），阮文祥因工作失误，降为成化县帮办。
参预军务.嗣德二十一年（1868年），阮文祥参预军务，前往北圻军队任职。此后五年里，阮文祥与刘永福的军队互相合作，镇压北圻的叛乱，同时遏制法国人在北圻逐渐扩大的势力。嗣德二十六年（1873年），嗣德帝任命阮文祥为如西副使，将与法国谈判的重任交给了他。虽然他成功同法国签订了条约，但法国人将他当作一个骗子。在同霍道生（Philastre）签订了条约和