伯祖籍浙江德清，1900年1月8日（清光绪二十五年十二月初八日）生于苏州马医科巷曲园春在堂。其曾祖俞樾是清末着名学者，父俞陛云爲探花，因此俞平伯自幼受到古典文化的熏陶。1915年他考入北京大学预科。他曾受吴梅教导，1917年与杭州才女许宝驯结婚，开始爱好昆曲。在校期间他投身新文化运动，1918年5月他的第一首新诗《春水》和鲁迅的小说《狂人日记》一起刊登在《新青年》上，成为中国白话诗创作的先驱者之一。同年，他与同学傅斯年、罗家伦等人发起成立了新潮社。以后陆续发表过《冬夜》等诗集。1919年12月俞平伯毕业于北