。昭和十五年（1940年）搬至东京，就读关东中学五年级。1942年考上立教大学文学系。1944年因二次世界大战的战时征兵，住在关西的台湾人必须回台湾受训；住在关东的台湾人在日本内地受训。廖史豪于东京荒川河堤防空阵地当初年兵，廖史豪与李登辉等人考上预备军官考试，考上甲种高射砲兵，和李登辉同为千叶高射砲学校十二期生，同期训练，不同中队。同期亦有刘庆瑞等12名台湾人。当时就读东京大学一年级的彭明敏不肯当兵，躲到长崎，结果被飞机炸断左手臂。1944年1月入伍，在战争时期由于廖史豪身为军官，有自己房间，与联队长偷