Gaten fikk sitt navn i 1903, og er oppkalt etter Harald Hårfagres onkel Guttorm Sigurdsson, hertug for hæren, som styrte Tønsberg på vegne av kongen. Tidligere het gaten .