Lâm Ngữ Đường đậu bằng cử nhân tại Đại học St John ở Thượng Hải, rồi nhận học bổng bán phần cho chương trình tiến sĩ tại Đại học Harvard. Về sau ông viết rằng chính tại Thư viện Widener (thư viện chính thuộc hệ thống thư viện Đại học Harvard), ông mới bắt đầu khám phá bản thân và khởi đầu cuộc sống sinh động, dù không bao giờ đi xem một trận đấu thể thao nào giữa Harvard và Yale. Dù vậy, ông sớm rời khỏi Harvard khi học bổng bị cắt, nợ nần chồng chất, và vợ ông phải giải phẫu ruột thừa. Hai người tìm đến Pháp, ở đây Lâm làm việc cho YMCA, dạy chữ cho các công nhân người Hoa bị đem đến đất nước này trong Chiến tranh thế giới thứ hai. Năm 1921, nhờ đồng mác mất giá ông sang Đức, lấy bằng tiến sĩ ngôn ngữ học tại Đại học Jena ở Leipzig trong năm 1923. Ông về nước và dạy văn chương Anh tại Đại học Bắc Kinh (1923 – 1926).