Gaten fikk sitt navn i 1891 etter fiolinisten og komponisten Ole Bull. Tidligere het den Henrik Heftyes gate og var regulert til å gå opp til Hans Nielsen Hauges gate og ned til Biermanns gate, uten at hele dette gateløpet ble opparbeidet.