Pompeo schloss 1986 die United States Military Academy in West Point als Jahrgangsbester ab und diente zwischen 1986 und 1991 in der United States Army, wo er den Dienstgrad eines Hauptmanns erreichte. Seine erste Stationierung von Ende 1986 bis 1988 war die Kaserne auf dem Bindlacher Berg bei Bayreuth. Später war Pompeo auch in West-Berlin eingesetzt. Entgegen häufiger Angaben nahm er nicht am Golfkrieg teil.