书院于朝鲜宣祖五年（西元1572年）由李齐闵（，1528－1608）所创建，朝鲜宣祖七年（西元1574年）正式定名为为「玉山书院」。玉山书院位于群山环绕的郊外之处，书院有一百余间房间。玉山书院以供奉李彦迪（，1491－1553）的牌位而闻名，李彦迪曾任议政府从一品，为朝鲜王朝时期着名儒学家，为与同年代的金宏弼、赵光祖、郑汝昌、李滉四人合称东方五贤，入祀朝鲜孔庙。进入玉山书院后，正面为求仁堂，上面挂有朝鲜宣祖于宣祖七年（西元1574年）赏赐的「玉山书院」牌匾，原牌匾于朝鲜宪宗五年（西元1839年）失火后毁