1919年毕业后到上海同济医工专门学堂（今同济大学的前身）学习土木建筑。在上海期间，翻译的《往相对论去的路》（Wege zur Relativitätstheorie）、爱因斯坦的《能媒与相对性说》等文章，是中国最早介绍相对论的人之一。1923年从中国去德国，12月11日抵达德国哥廷根，在哥廷根大学研究院学习数理。在德国哥廷根期间，经朱德、孙炳文介绍（一说由朱德介绍），加入中国共产党，成为中共旅德支部成员，属哥廷根小组。1925年8月赴苏联莫斯科，与朱德等人接受苏联红军参谋总部特种军事训练，训练结束后留