及进士第。辟襄阳使府，刚正有祖风。令狐楚执政，荐授左拾遗，多次上书言事。历任刑部郎中、蕲州邓州郑州三州刺史。一年旱灾，发粟赈济，人民不流徙。改苏州刺史，因治理的好，擢给事中。左藏史盗取度支缣帛，唐文宗以经赦诏不要处理，狄兼谟封还诏书，唐文宗问他，他说：“典史犯赃，不可免。”皇帝说：“朕已赦其长官，吏亦宜宥，与其失信，宁失罪人。”还说：“后或事有不可，勿以还诏为惮。”转任御史中丞。文宗说：“御史台朝廷纲纪，一台正，则朝廷治，朝廷正，则天下治。畏忌顾望，则职业废矣。卿，梁公后，当嗣家声，不可不慎。”狄兼谟顿首拜