年3月，林山田获国科会资助，赴德国杜宾根大学研究半年。2004年1月7日，林山田从台大法律系退休，台大法律系为他举办欢送茶会，他自谦「头壳硬、天生反骨」：见到社会的不公平与不正义，就想要对抗。林山田自此离开学界，隐居宜兰礁溪，鲜少过问时政。2004年中华民国立法委员选举前，林山田在聊政治时抨击，民进党丧失理想，独派应该严惩民进党，「这次立委选举，要让民进党全部落选，一个都不能上」，震惊独派。2006年12月，林山田担任陈定南教育基金会董事长。林山田曾经是中华民国司法院院长热门人选之一，他的法学着作《