Clermont er en av de eldste byene i Frankrike. Den blir først nevnt av den greske geografen Strabon. Byen ble den gang kalt — et gallisk ord for en hellig skog. Byen var åsted for det kjente slaget ved Gergovia, som gallerne vant, ledet av Vercingetorix, over romerne, anført av Julius Cæsar i 52 f.Kr. Etter romernes erobring ble byen kalt , et navn som kombinerte det opprinnelige galliske navnet med keiser Augustus' navn. Folketallet er beregnet til å ha vært mellom 15 000 og 30 000 på 100-tallet, og må derfor ha vært en av de største byene i det romerske Gallia. Sent på 400-tallet ble Auvergne-Rhône-Alpes målet for vestgotisk ekspansjon, og byen ble omringet av Euric. Selv om byen ble forsvart av Sidonius Apollinaris, ble den en del av det vestgotiske kongedømmet i 475. En generasjon senere ble den en del av kongeriket til frankerne.