一个酿造「铭酒玉川」这种酒的酿酒店家庭中。他在就读于山口黑城塾，广岛县中学校（今广岛县立广岛国泰寺高等学校）后，前往东京的德国学协会学校（今德协中学校暨高等学校）就读。同时，他住进了从小时候就把他当作哥哥一般仰慕的远房亲戚原田贞介的家中，在那里学会了一些德语的基础。1882年（明治15年），16岁的玉井进入了东京帝国大学（今东京大学）医学院预科就读，是当时最年轻的学生。在那里，可能是因为天生的气质的缘故，在同学间人缘不错，在他住的地方常常举行聚会，包括了南方熊楠等人都曾进出他所住的地方。但是，由于过着这