德臣公后，生活俭朴，曾皈依印光大师，长年持斋礼佛。两人生有五子，李玉阶为家中长子。
早年.1912年，其父过世。刘太夫人养育其兄弟五人长大。同年，他于苏州沧浪亭师范附设小学毕业，名列榜首。考取上海民立中学。1918年，就读上海中国公学。1919年，北京学生发起「五四运动」，上海学生群起响应。李玉阶以中国公学学生分会会长身份，与当时上海学生领袖程天放、余井塘、潘公展等筹组上海学生联合会。他被推派为负责执行的总务部部长，策动上海地区大学、中学学生全面罢课。同年，加入国民党。1923