Navnet Telemark kommer av norrønt , eller , et navn som igjen er sammensatt av , folkegruppen som levde i det området som tilsvarer dagens Øvre Telemark i folkevandringstiden og vikingtiden, og ordet som betyr mark eller skog. Navnet Telemark var fra folkevandrings- eller vikingtiden til tidlig moderne tid bare knyttet til det som senere ble kalt Øvre Telemark. Bygdene nedenfor Telemark ble opprinnelig kalt Grenland, mens kyststripen ble kalt Grenmar og Vestmar. Fra høymiddelalderen til 2020 dannet disse landskapene en administrativ enhet i Norge som syssel, len, hovedlen, amt og fylke under forskjellige navn.