Hårleman nació en Estocolmo, hijo del también arquitecto Johan Hårleman, que había diseñado los jardines reales del Palacio de Drottningholm y del Palacio de Steninge, y comenzó su formación en arquitectura bajo la tutela de G.