1927年补送往日本留学，通过根本博少佐绍至第1师团第57联队见习半年后，经考试进入日本陆军步兵专门学校。1930年第一名毕业，免试入日本陆军大学。1934年春，刘毕业回国。在桂系任职，曾七次奔走于桂系与蒋介石之间调停双方矛盾。1937年，中国抗日战争爆发，8月13日，刘斐被委任为国民政府军事委员会第一部作战组中将组长。1938年初，中国国民党国防最高会议常务委员会第四十三次会议决定，军事委员会第一部与国民政府参谋本部合併组成军令部，刘斐为第一厅厅长。3月24日，随从蒋介石、白崇禧等飞抵徐州，