Høydepunktet i Gayarres karriere var i årene 1873-1886, senere ble han plaget av stadige pusteproblemer, og stemmen bar etterhvert preg av det. Hans siste opptreden skjedde 8. desember 1889 ved Teatro Real i Madrid med Bizets . Under den kjente Nadirs arie, «Je crois entendre encore» ble det fortalt at han knelte ned og mumlet («Jeg kan ikke synge mer») og forsvant bak scenen. Han ble kalt tilbake på scenen av det vennligsinnede publikumet, men skal ha sagt («Dette er slutten»). Han døde 25 dager senere i en alder av 45 år og ble gravlagt på gravplassen i Roncal, svært nær huset han ble født i.