东梅州出生，共有九兄弟姊妹，早年在乡间崇正学校就读两年小学，他在10岁时随母亲投奔在马来亚「仁生堂药店」任职帐房先生的父亲罗进兴，在当地读了两年华文学校后，罗桂祥考入由教会主办英文中学。其后获父亲的东家余东璇赏识，出资让他供读大学，1929年他顺利考入香港大学商学院。1934年他在港大毕业后，出任余东璇的商务秘书，两年后更升任香港余东璇有限公司的经理，同时并兼任余的私人法律代理，期间建立良好的商业网络，为日后创业打好基础。罗桂祥于1936年底到上海公干，偶然出席由美国派驻中国的商务参赞雅诺氏的「大豆——