I 1880- og 90-årene ble det igangsatt en stor boligbygging på Møllenberg, og det oppstod et skrikende behov for en ny skole i området. Gutteskolen på Graamølna og Pikeskolen i Nygata var langt fra store nok til å ta imot den store tilveksten av nye barnefamilier i området, og det ble bestemt at begge skolene skulle legges ned så snart den nye skolen stod ferdig. Kommunen og skolestyret arbeidet på spreng for å bygge et nytt og stort skoleanlegg, med et krav om at skolen måtte kunne ta i mot inntil 1600 elever. Kommunen kjøpte i 1893 tomta der Bispehaugen skole står i dag, et platå på toppen av det skrånede terrenget på Møllenberg. Utbyggingen av skolen ble deretter forsinket grunnet en langvarig debatt om to alternative utkast til arkitektur og fysiske planløsninger. Det første utkastet innebar flere mindre paviljonger i tre, mens det andre én stor murbygning som samlet alle klasserom.