于1965年加入人民行动党。随着马新分家后，人民行动党在马来西亚的支部党员在1966年另外注册新的政党——民主行动党取代，林吉祥在创党时期担任首任秘书长蒂凡那的政治秘书，还有党全国组织秘书至1969年，同时他也是党报《火箭报》英文版主编。1968年雪兰莪（Serdang）州议席出现补选，林吉祥首次参选但落败于马华候选人。1969年大选后发生一系列的动荡事件，使他当选党秘书长。他称自己是民主社会主义者，同时也是社会民主主义的支持者。林吉祥在1969年首次参选国会议席，成功当选马六甲市国会议员。由于