Han ble tatt opp som medlem i Arbeiderpartiet i 1961. I tiden rundt Kim Jong-ils universitetseksamen hadde Kim Il-sung sterk kontroll over myndighetene. Etter avlagt eksamen begynte sønnen å stige i gradene i Arbeiderpartiet. Han arbeidet først i partiets eliteorganisasjon, før han i 1969 ble utnevnt til viseminister i Propaganda- og agitasjonsdepartementet. Fra midten av 1970-årene og i de følgende 15 årene inntok han flere politiske posisjoner, inkludert posten som kulturminister og leder for partiets operasjoner mot Sør-Korea. Sør-Korea beskyldte Kim for å ha personlig beordret bombeangrep mot sørkoreanske mål i 1983 og 1987.