中国国民党提名当选国大代表，但2001年适台湾团结联盟（台联）成立，改加入台联，由台联提名参选立法委员并当选。2004年连任立委失败后，陈建铭在台联党内安排下，代表泛绿参选2005年基隆市长选举，后以17919票差距输给了许财利。陈建铭在竞选基隆市市长落败后，转而角逐台北市议员。在2006年台北市议员选举中，陈建铭在第一选区（北投、士林）以28,698票当选，选前抢救奏效，成为全国第一高票当选的议员；加上第四选区（中山、大同）的简余晏，让台联在台北市议会首次获得席次。2007年，台联路线引起争议