En 1862 decidió emigrar a la República Argentina, llegando a las orillas de su futura patria el 9 de julio de 1862. En 1865 el Mariscal Solano López invadió la Provincia de Corrientes, con que estalló la llamada Guerra de la Triple Alianza. Kyle se alistó en el flamante cuerpo médico del Ejército Argentino como farmacéutico, marchando por Entre Ríos y Corrientes y llegando al Paraguay, y participando en el sitio de Uruguayana, los tres días del Boquerón, y la cruenta Batalla de Tuyutí. Las delicadas tareas del joven farmacéutico se complicaron con la aparición del cólera en ambos campos de combatientes, sirviendo a bordo del vapor Pavón, dedicado al transporte de heridos, y luego en el hospital de Itapirú, del cual salió el 8 de diciembre de 1866, a cargo de un convoy de heridos e inválidos que regresaban a Buenos Aires, en donde pidió y recibió su baja. Las tristes experiencias lo impulsaron a tomar un interés fundador en la Cruz Roja Argentina, de que fue nombrado socio honorario por servicios prestados (1898). Naturalizóse ciudadano argentino en 1873.