缺少盘缠，无法南下投考黄埔军校，转而考入湖南陆军第3师第3旅教导队，毕业后担任班长。1926年，廖耀湘离开湘军，考入黄埔军校第六期骑兵科，1928年毕业后，又考入留学军官预备班。1930年，廖耀湘赴法国公费留学，1936年以第一名毕业于法国圣西尔军校机械化骑兵专业。同年回国，任国民革命军中央军校教导总队骑兵队少校连长。1937年，升任教导总队第2旅中校参谋主任。
抗日战争期间.1937年，抗日战争爆发，廖耀湘参加了南京保卫战，战败之际化装突围。国民政府撤退至武汉后，廖耀湘升任军官训