I 1960- og 1970-årene tjenestegjorde Khalili, som var flytende i arabisk, som Afghanistans ambassadør til Saudi-Arabia og Irak. Han var medlem av den konstitusjonelle forsamlingen i 1964 og en representant fra Jabal al-Siraj.