1年不到14岁时父母双亡，成为孤儿。自1932年起，金鲁贤开始修道，曾先后入读上海徐汇神学院和献县耶稣会神学院，1938年入耶稣会，1945年5月19日在上海晋铎。1946年被派往第二次国共内战中的苏北东台、淮阴（清江浦）任本堂神父。1947年赴法国里昂附近的，完成耶稣会卒试，成为正式会士。1948年至1950年就读于意大利罗马宗座额我略大学。假期去德国科隆、奥地利因斯布鲁克等地学习德语。1950年获罗马宗座额我略大学神学博士学位。1951年，金鲁贤回到中国。黎培里总主教被驱逐出境前，任命他为徐汇修