Zhu var sitt lands ambassadør til Nederland fra 2001 til 2003, and deretter ambassadør til Ungarn fra 2003 til 2007. Han var så Kinas representant til Organisasjonen for forbud mot kjemiske våpen fra 2007 til 2011.