学校前身为成立于1975年的原中华人民共和国铁道部部属学校广州铁路机械学校。广州铁路机械学校曾是一所全日制省级重点中专学校。,1999年学校被广东省高教厅评为“普通中专一级学校”,电力机车运用与检修、内燃机车运用与检修、电气化铁道供电三个专业被铁道部评为“铁道部普通中专优秀专业点”。2000年6月,经广东省人民政府批准,广州铁路机械学校、广州铁路运输职工大学与广州铁路成人中等专业学校合并设立广州铁路职业技术学院。2004年9月,由广州铁路(集团)公司移交广州市人民政府管理。2010年11月,被确定为“国家示范性高等职业院校建设计划”骨干高职院校立项建设单位。2016年2月,通过国家验收,正式成为“国家骨干高职院校”。2016年11月,立项为广东省一流高职院校建设单位。2019年7月,被教育部认定为国家优质专科高等职业院校。2019年10月,通过教育部现代学徒制第一批试点单位验收。2019年12月,被教育部、财政部列入第三类高水平专业群建设单位(B档)。