湘赴法国公费留学，1936年以第一名毕业于法国圣西尔军校机械化骑兵专业。同年回国，任国民革命军中央军校教导总队骑兵队少校连长。1937年，升任教导总队第2旅中校参谋主任。
抗日战争期间.1937年，抗日战争爆发，廖耀湘参加了南京保卫战，战败之际化装突围。国民政府撤退至武汉后，廖耀湘升任军官训练总队上校大队长，并上书蒋介石，提出建军改进方案，得到蒋介石赏识。1938年3月，廖耀湘因属全军唯一一个具备留学外国机械化专业学历的军官，被提升为装甲兵团扩充成为的摩托化部队第200师少将参