可追溯到1886年（明治19年）5月1日成立的古义大学林。1909年（明治42年）4月10日，据 专门学校令开校。1916年（大正5年）3月16日，改名为私立真言宗高野山大学。1926年（大正15年）4月2日，据大学令升格为大学。其图书馆是日本登录有形文化财。