大军来攻，许谦奉命出使后秦求援，后秦天王姚兴派了将领杨佛嵩率军支援，但佛嵩故意行进迟缓。道武帝于是又命许谦写信给佛嵩，成功让佛嵩加速前赴。道武帝闻讯十分高兴，赐许谦关内侯，又让许谦去和佛嵩共结誓盟。同年后燕军大败，佛嵩也退兵了。翌年（396年），后燕帝慕容垂亲率大军再攻北魏，道武帝再委许谦到后秦求援，但还未出发慕容垂就退兵了，未能成行。慕容垂不久去世，许谦上书劝时称魏王的道武帝称帝，而道武帝不久就对后燕发动进攻，先攻下燕并州地，任命许谦为阳曲护军，赐爵平舒侯，安远将军。许谦也于这一年在任内去世，享年六十三岁