1998年林俊宪首次参选台南市议员即当选，为当年全市最高票。并在2002及2005年，顺利连任市议员。2011年，林俊宪参选台南市第四选区立委民主进步党党内初选，经过激烈的党内竞争，最后民调结果以些微差距败给时任立委的前台南市市长许添财。 同年蔡英文竞选总统期间，林俊宪担任民主进步党发言人，在选战过程间接推动三只小猪募款活动。2012年总统大选结束后，继续留在中央党部担任发言人。2014年，再次出任赖清德竞选总部「执行总干事」。2015年1月，林俊宪宣佈请辞民进党发言人职务，全力备战立委党内初选