（民国12年）8月，他兼任国际联盟中国代表。1928年（民国17年）7月，他结束公使职务归国。以后他在上海当律师。1934年（民国23年），他任国民政府外交顾问。1936年（民国25年）他任外交部条约委员会副会长。1938年（民国27年），他参加南京的中华民国维新政府，任外交部部长。翌年2月19日，他在上海被国民政府军事委员会调查统计局（军统）工作员（一说是刘戈青）射杀。杀手留言自称「中国青年铁血军」。李国杰也于同日被杀。