50年），阮文祥再次参加乡试，考中举人。初补广义省慕德县训导。嗣德六年（1853年），广治省增设向化县，阮文祥改任向化知县。嗣德十五年（1862年），阮文祥因为在知县任上的出色表现，被任命为兵部办理，并出领广南按察使一职。嗣德十七年（1864年），升任承天府府尹。两年后（1866年），阮文祥因工作失误，降为成化县帮办。
参预军务.嗣德二十一年（1868年），阮文祥参预军务，前往北圻军队任职。此后五年里，阮文祥与刘永福的军队互相合作，镇压北圻的叛乱，同时遏制法国人在北圻逐渐扩大的势力