Han begynte tidlig å holde prekener. Når han møtte folk sang han ofte salmer for dem, og han ble kjent som «den syngende sigøynergutten» («the singing gypsy boy»). I 1877, da han var 17 år gammel, sa Rodney Smith ja til å bli evangelist for William Booth, som få år tidligere hadde etablert den menigheten som fra 1878 av skulle bli hetende Frelsesarmeen.