Постоянное поселение возникло в середине XIV века. Первоначально в городе было мало жителей и их основная обязанность заключалась в заботе об источниках. Карловы Вары развивались медленно и даже проходившие рядом военные действия не касались данной местности. Так, Гуситские войны никогда не мешали городу, потому что он не воспринимался как стратегически значимый. Лечебница постепенно развивалась и город начал медленно богатеть. Тем не менее, рост был затруднён несколькими несчастьями. В 1582 году город постигло наводнение, а в 1609 году разрушительный пожар, уничтоживший 99 из 102 домов. Последующий рост прервала Тридцатилетняя война, сократившая население и количество курортных посетителей.