上海的总买办，父亲杨少南则为太古洋行经理，后来又与太古合组船务公司。至于杨铁樑的母亲名陈蒨如，早年于圣玛利中学毕业。杨铁樑早年入读圣约翰中学，1946年至1949年于苏州东吴大学读法律。肄业以后，受国共内战所影响，杨铁樑短暂移居香港，未几负笈英国伦敦大学学院继续修读法律，至1953年取得荣誉学士资格毕业；后又在1954年于格雷律师学院考获荣誉大律师资格。
司法生涯.杨铁樑在1955年回到香港，最初于岳父谭雅士之律师楼工作。尽管当时政府司法机构并无职位空缺，但杨铁樑仍尝试前往有关