Fra 1996 til 2005 var han sekretær for pave Johannes Paul II, etter at den da 78 år gamle vietnamesiske presten Vincent Tran Ngoc Thu trådte tilbake. Pave Benedikt XVI overtok ham etter å ha tiltrådt som andresekretær ved siden av den tyske prest Georg Gänswein.