时加入耶稣会，1955年在菲律宾碧瑶晋铎，1963年来到台湾，曾先后担任耶稣会彰化静山文学院院长、台北县徐汇中学（今新北市私立徐汇高级中学）校长、光启社社长等职，精通八国语言。1980年，单国玺由圣座任命为天主教花莲教区主教，1991年6月改任天主教高雄教区主教，除了从1987年起担任台湾地区主教团主席长达21年外，并且在1992年—1993年和1999年—2008年两次担任辅仁大学董事长。单国玺在67岁（1990年）起三度以书面方式及一次口头方式，向教宗若望保禄二世请辞教区牧职，但教宗期望他继续为教会