Keizer Augustus beloofde de tempel aan Jupiter de Donderaar, nadat hij in 26 v.Chr. ternauwernood was ontsnapt aan een blikseminslag tijdens de Cantabrische Oorlog in Hispania. De tempel werd gebouwd op de Capitolijn, waar ook de grote Tempel van Jupiter Optimus Maximus stond. De tempel werd op 1 september 22 v.Chr. ingewijd. Augustus bezocht de tempel zelf regelmatig, waardoor het ook voor de Romeinse bevolking een belangrijk heiligdom werd. Volgens de overlevering werd de tempel zo populair dat Augustus een droom kreeg waarin Jupiter zelf zijn beklag deed dat er bezoekers wegbleven bij zijn grote tempel, omdat zij naar het nieuwe heiligdom gingen. Augustus zwoer hierop dat Jupiter Tonans niets meer was dan de poortwachter van Jupiter Optimus Maximus en liet als symbool hiervoor enkele bellen aan de tempel ophangen.