十一月二十四日，蔡突灵生于宜丰县城“谦斋翁”。其名“少钧”是为纪念和李烈钧的交情并感其解救之恩；号“少黄”是为纪念和黄兴的交情；名“复灵”是为复其弟蔡锐霆之志。1902年，考入江西武备学堂，学习约一年多。此后转到南京两江师范学堂，毕业后先后在江西省永新县、抚州等地教书。其间，结交不少革命党人，与同学李烈钧结为金兰。1901年到1904年，在宜丰、南昌先后参与创建“我群社”、“易知社”。这些组织以“以文会友，诗文结社”为掩护，秘密宣传革命、准备起义。蔡突灵工作出色，1906年被孙中山委任为赣军副都督。