门（后改称系）成立，是中国第一个现代的大学数学系，冯祖荀被任命为主任，主持数学分析课程。他参照德国模式规划教学，他任教的课也选用德国教材。因着他的努力，数学系发展突出，邀得多位国内外教授讲学，培养出不少优秀学生。他多次担任北大数学系主任，也曾兼任北京师范大学、北平女子师范大学、东北大学的数学系主任。他也负责美国庚子赔款留学生数学考试的命题和评卷。1935年中国数学会成立，他是九名董事之一。冯祖荀注重于发掘人才。他是数学家樊的姑父。樊当初选择研读数学，就是得到其引导。数学教育家傅种孙，求学时也得到冯祖