En 1886, Delpy voyage aux États-Unis avec un groupe d'artistes qui ont peint un panorama de la bataille de Manassas (Guerre de Sécession) à Washington. La même année, il devient membre de la Société des artistes français. À l'Exposition universelle de 1889, Delpy reçoit une mention honorable. Georges Petit, un galeriste parisien de premier plan de la peinture française contemporaine, commence à vendre ses tableaux et lui organise plusieurs expositions individuelles.