札幌農學校
1888年（明治21年）4月，在預科指導教授及畢業生的推薦下，玉井前往札幌農學校（今北海道大學）擔任德語教授一職，關閉了東京速成學館，前往札幌。在札幌農學校，他與同事新渡戶稻造、松村松年、高岡熊雄（之後擔任北海道大學校長）、大島金太郎（之後擔任日本農藝化學會會長）等人交好，但由於玉井夢想著「晴耕雨讀」的生活，而於1891年（明治24年）3月辭職，在札幌近郊開始耕作，卻以失敗收場。以此為契機，玉井終於下定前往德國的決心。1892年（明治25年）11月17日，玉井將妻子託付給原田本家，一個人離開了日本。