Han ble gitt navnet Karl, Carolus på latin, etter sin bestefar, Karl Martell. Senere middelalderske historikere omtalte ham som med tilnavnet le Magne («den store»), Magnus på latin, noe som ble til Charlemagne på engelsk etter den normanniske erobringen av England i 1066, noe som har blitt beholdt av tradisjonelle årsaker, framfor Charles the Great som det ellers ville ha vært. Epitetet Carolus Magnus ble omfattende benyttet, noe som førte til tallrike oversettelser i mange europeiske språk. Han var kjent på tysk som Karl der Große; nederlandsk, Karel de Grote; norsk (som på dansk og svensk), Karl den store; italiensk, Carlo Magno; katalansk, Carlemany; bosnisk, kroatisk og serbisk, Karlo Veliki; tsjekkisk, Karel Veliký; slovakisk, Karol Veľký; spansk, Carlomagno; portugisisk, Carlos Magno, og videre.