Armendáriz entstammte einer Familie des spanischen Adels aus Navarra, seine Eltern waren Juan de Armendáriz e Irrisarri und Juana García de Garrués. José de Armendáriz schlug schon in frühen Jahren eine militärische Karriere ein. Im Pfälzischen Erbfolgekrieg kämpfte er für die Spanier in Flandern: 1690 in der Schlacht bei Fleurus und 1693 in der Schlacht bei Neerwinden.