上海挂牌当律师。1927年2月，上海公共租界在中国要求司法独立、废除领事裁判权、取消不平等条约的压力下设立临时法庭，徐谟被聘为临时法庭法官。此后，他又调任镇江地方法院院长。1927年4月南京国民政府成立。徐谟由其在北洋大学的同学金问泅推荐，进入中华民国外交部任参事。1929年至1932年1月，他任外交部欧美司司长，并一度任废除上海治外法权的特别外交专员。在该期间，他协助外交部长王正廷收回威海卫，并与法国达成关于北部湾的协议，与日本签订一项关税新协定，与希腊、波兰、捷克斯洛伐克签订了商务条约。1931