Khaddam es va convertir en membre del Partit Baath quan només tenia 17 anys. Va començar la seva carrera política com a governador de Quneitra després que el partit va arribar al poder l'any 1963. Després va ser nomenat governador de Hama i Damasc. El seu primer càrrec al govern va ser de ministre d'economia i de comerç en el gabinet format pel llavors dirigent de Síria, Nureddin al-Attasi, el 1969, sent el ministre més jove de la història política de Síria. A continuació va ser nomenat assessor de Hafez al-Assad. Més tard va servir com a Ministre d'Afers Exteriors i viceprimer ministre de 1970 a 1984. El 7 de gener de 1976, Khaddam va argumentar que el Líban formava part de Síria. Durant la seva visita a Teheran a l'agost de 1979, després de la Revolució Iraniana, públicament va afirmar que el govern sirià recolzava la revolució abans i després del procés revolucionari.