张玺幼年在家乡读书，1922年，张玺获公费留学赴法国深造，攻读海洋科学。两年后，齐雅堂（后来另一位海洋动物学家齐钟彦的父亲）亦到了法国留学，攻读植物学。张玺和齐雅堂二人结识成为志同道合的朋友，为日后张玺和齐钟彦的合作埋下了伏笔。1927年，张玺获里昂大学硕士学位，因此后来得以在里昂大学接受动物学研究室的瓦内教授指导，从事后鳃类软体动物的研究。1931年，张玺获法国国家博士学位。1932年，张玺回流中国，应聘为北平研究院动物研究所研究员，从事海洋动物的研究。1933年，与齐雅堂一同出任北平中法大学生物学