卡尔卡松早在新石器时期就已出现人类活动。公元前122年，罗马人占领了普罗旺斯和朗格多克，卡尔卡松因地理位置重要而成为了一个军事要塞，卡尔卡松城堡在此期间建成。公元五世纪初，西哥特人占领了此地，但在亚拉里克二世的主张下，卡尔卡松城堡内的历史建筑没有被破坏。尽管西哥特人在公元6世纪初已基本丧失了在法国的统治地位，但其残余势力依然存在于卡尔卡松地区。公元725年，随着倭马亚家族的扩张，撒拉逊人，直到公元759年，在矮子丕平的带领下，撒拉逊人才被迫离开。的传说也出自于这一段历史。宗教战争期间，阿尔比十字军曾在卡尔卡松附近与卡特里派展开了激烈的军事讨伐。中世纪中后期，随着城市的扩张，卡尔卡松逐渐形成两部分：以城堡为中心的“上城”（）和奥德河左岸新开辟的“下城”（）。英法百年战争时期，黑太子爱德华曾占领这一地区并烧毁了卡尔卡松的下城。1659年，根据《比利牛斯條約》，卡尔卡松及所在的鲁西永地区成为了法兰西王国的一部分。法国大革命后，原鲁西永行省的北部地区成为了奥德省，以境内的奥德河命名，卡尔卡松成为省会并保持至今。2018年3月23日，一名持有武器的恐怖分子在卡尔卡松市和特雷布镇制造恐怖袭击，导致3人丧生，16人受伤，其中至少两人伤势严重。伊斯兰国宣称制造袭击。