Resten av Olav Kvårans liv ble benyttet til stadige kriger og posisjonering i Irland. I 980 ble hans innflytelse knust i da norrøne styrker fra Dublin og Hebridene led et stort nederlag i slaget ved Tara mot Máel Sechnaill mac Domnaill. Etter dette nederlaget trakk Olav seg tilbake til den lille, hellige øya Iona nord for Irland utenfor det skotske fastlandet. Her døde han i 980 eller 981 og ble gravlagt der. Han ble etterfulgt i Dublin av sin sønn Járnkné Olavsson, også kjent under sitt irske navn Glun Iarainn («Jernkne») inntil 989 da broren Sigtrygg Silkeskjegg, Olav Kvårans sønn med Gormflaith, etterfulgte broren.