Trochu venne educato all'École spéciale militaire de Saint-Cyr, ove uscì nel 1837 per poi essere promosso tenente nel 1840 e capitano nel 1843. Egli prestò servizio col grado di capitano in Algeria al comando del maresciallo Thomas Robert Bugeaud de la Piconnerie il quale, in riconoscimento del valore dimostrato nelle battaglie di Sidi Yussuf e Isly, lo nominò suo aiutante di campo personale conferendogli importanti commissioni. Promosso maggiore nel 1845, Trochu venne nominato colonnello dal 1853 e prese quindi parte alla Guerra di Crimea dapprima come aiutante di campo del maresciallo Jacques Leroy de Saint Arnaud e poi come generale di brigata. In questo stesso periodo egli ricevette la commenda della Legion d'Onore e venne nominato poi generale di divisione a seguito del suo ferimento durante l'Assedio di Sebastopoli. Durante la campagna in Italia del 1859, ottenne il comando della 2ª divisione e si guadagnò il titolo di Grand'Ufficiale della Legion d'Onore dopo aver combattuto valorosamente a Magenta e a Solferino alla testa dei propri uomini.