书院最初是由台厦道梁文煊于康熙五十九年（1720年）所建，位置在宁南坊学宫（台南孔庙）西边，即今天忠义国小校内（靠府前路部分）。康熙六十一年（1722年）台厦道陈大辇重整之，立下课士规程，但不久书院便改为岁科二试考棚使用。干隆四年（1739年）巡台御史单德谟在东安坊县学宫左边兴建考院（校士院），而此时的海东书院几乎荒废。干隆五年（1740年）台湾道刘良璧重修，巡台御史杨二酉奏请仿照直省书院事例由府学教授当任书院老师，选诸生肄业其中，故海东书院具准儒学之地位，初任主讲是薛士中。杨二酉为此撰有〈海东书院记〉，称