他的父亲叫张钦善，曾任广宁府（今北镇县）仓官，任满后定居沈阳。张钦善与弟弟张钦元都是辽东知名的富户，拥有许多土地和商号等。张榕19岁到北京学习。在北京，他结识了候补道黄中慧等朋友，产生了民主思想。1904年2月日俄战争爆发。此后，张榕于1905年到兴京府（今新宾县），同丁开璋等组织了关东独立自卫军。当时，刘单子（即刘永和）率领的忠义军打着“御俄寇，复国土”的旗号，也在兴京府活动。张榕希望利用关东独立自卫军和忠义军等力量，以便发动起义，遂出资召集人马，改编各地团练。他们向清政府请求备案，却被清政府严令解散