Shiloh begynte yrkeslivet som lærer ved voksenundervisningen, før han gikk inn i diplomatiet som niogtyveåring. Han var deretter stasjonert i New York, Tokyo, Bonn og Boston, før han ble nestleder ved den israelske ambassaden i Washington D.C.