汉臣1920年进入老松公学校，1926年毕业。虽然教育程度仅止于基础教育，但自学后，汉文程度与文笔皆十分流利。1933年廖汉臣担任《新高新报》汉文记者兼日本《东亚新报》台北支局记者。同年与郭秋生创台湾文艺协会，发行《先发部队》。廖汉臣「后来迁居台南，与庄松林、石旸睢蒐集历史文化与民间文学」。二二八事件以后，廖汉臣在1948年进入台湾省文献会，专心研究台湾文献，编纂有《台湾省通志》的「文学篇」；《台湾通志》的「氏族篇」、「艺术篇」、「文征篇」、「艺文篇」；《台北市志》的「行政篇」；《台南县志》的「人物篇」