Olaf Bulls plass ligger på et område som tilhørte løkken Biebak, fra 1850 med navnet Rosenborg. Tårnvillaen på løkken fra rundt 1850, tegnet av Johan Henrik Nebelong, lå rett øst for parken og ble revet i 1959 for å gi plass til Rikstrygdeverkets høybygg som sto ferdig i 1960 og har adresse Drammensveien 60. Bygget brukes i dag brukes av Bydel Frogner.