立委丁守中、蔡正元及台北市议员钟小平，加上民调的结果，获得党内提名，并于9月2日正式代表国民党参选台北市长。2014年11月29日，以得票率40.82%失利。分析认爲，连胜文的败选重要原因是连胜文未能摆脱权贵形象，民进党礼让柯文哲，未推出候选人。此外，柯文哲在新媒体宣传上佔优，也使连胜文在选举中败北。
2020年国民党智库改组.2020年5月，连胜文接任国家政策研究基金会副董事长，并表示涉外事务还是要配合国民党整体决策，智库不可能自外于党，未来希望智库为党及社会培育人才。