秘书长蒂凡那的政治秘书，还有党全国组织秘书至1969年，同时他也是党报《火箭报》英文版主编。1968年雪兰莪（Serdang）州议席出现补选，林吉祥首次参选但落败于马华候选人。1969年大选后发生一系列的动荡事件，使他当选党秘书长。他称自己是民主社会主义者，同时也是社会民主主义的支持者。林吉祥在1969年首次参选国会议席，成功当选马六甲市国会议员。由于选后他被内安法令扣留，他的当选最初被认定为无效，因为法律禁止未能履行职务的国会议员参与下一届选举。首相阿都拉萨在国会提出动议阻止林吉祥执行国会议员