Bynavnet «Vejle» ble i middelalderen skrevet hos Huitfeldt og andre steder , trolig av , som er eldre dansk for en grunn fjord. Forklaringen skal være byens beliggenhet ved et våtmarksområde, som man i vikingtiden kunne krysse på Ravningebroen. Byen ble første gang nevnt i 1256. Eldste kjente kjøpstadsrettigheter er fra 1327.