他被选拔到船政学堂第一届制造班，成为正式生，1873年毕业。1877年，他被船政学堂选派到欧洲深造。他先在法国多朗官厂（校）学习船机制造，后又转入英国、比利时各厂校学习炮械制造等其他学科。1880年杨廉臣学成归国，任船政工程处制机总司。他和留学回国的魏瀚、陈兆翱、郑清廉等人将外国新的造船理念带到中国，注意提高船舶的航速。1882年，他们一起主持建造了铁胁快碰兵船（暨巡洋舰）开济号。杨廉臣还参与建造了中国第一艘钢壳钢甲军舰平远号，高速驱逐舰建威号、建安号。1907年他升任船政提调。由于船政大臣为闽浙总督松