为城市首次出现在了文献记载中，彼时，科尔马为一个区域性的农业中心，在《凡尔登条约》签订后，被划入东法兰克王国。1106年，一场大火烧毁了科尔马。12世纪末，腓特烈一世决定重建该市，其长子则于1226年将科尔马建立成为了一座“皇家都市”，1278年，在鲁道夫一世的批准下，科尔马成为了帝国自由城市，并在中世纪末期发展为一个商业贸易中心。15至16世纪，科尔马地区多次遭遇了黑死病疫情，人口数量急剧下降，最终失去了帝国自由城市的头衔。三十年战争期间，科尔马附近受到了较为严重的破坏。1648年，根据《威斯特伐利亚和约