I 15 måneder mellom 1860 og 1862 var Roberts taipingernes «direktør for utenrikssaker» i deres «himmelske hovedstad» Nanjing. Til å begynne med arbeidet han iherdig med å sikre Taiping-styret vestlig støtte, men vendte seg senere mot opprørerne ettersom Hong nektet å gå bort fra sin påstand om å være Jesu Kristi lillebror.