1997年，前人民入境事务处处长梁铭彦离职事件中任调查委员会主席，叶以一句「震惊！」为人所知。1998年香港立法会选举，叶国谦伙拍程介南、孙启昌、钟树根参加港岛区直选，最后程介南当选，而叶国谦则落选。1999年香港区议会选举，叶国谦在中西区区议会观龙选区出战，成功连任，并于2000年香港立法会选举的区议会功能界别选举以198票胜出。2003年香港区议会选举，叶国谦在观龙选区竞逐连任，最后败于何秀兰而未能连任，意味他不能遁区议会功能界别参选2004年香港立法会选举。2004年，叶国谦获颁授金紫