抗日战争期间于1937年参加八路军，1938年加入中国共产党。他曾任八路军第一二九师政治部敌工部副部长。第二次国共内战期间，历任晋冀鲁豫军区政治部联络部长、北平军事调处执行部中共方面新闻处副处长、1948年任中共中央外事组翻译处副处长等。中华人民共和国成立后，张香山历任王稼祥政治秘书，中共中央对外联络部副秘书长、秘书长、副部长，中共中央宣传部副部长等职。1977年起兼任中央广播事业局局长。1982年后离休，出任中联部顾问。此外，他还是中共十一、十二大代表，第五至七届全国政协常委，并曾担任过中日友好