Hay ble så manager for Livingston i sesongen 2003-2004, etter at han først hadde delt ansvaret sammen med Jim Leishman, og også hadde vært sportsdirektør i klubben, og hadde tatt over for Marcio Maximo Barcellos etter bare ni kamper av sesongen. Han vant så den skotske ligacupen med klubben, selv om den hadde blitt satt under administrasjon. Han ble løst fra kontrakten mot slutten av sesongen og ble erstattet av Allan Preston, en av hans førstelagstrenere, av den nye styreformannen Pearse Flynn fra Lionheart Consortium. Senere ble han utnevnt til manager for Dunfermline Athletic, der han igjen jobbet sammen med Jim Leishman, en annen tidligere Livingston-manager. Hays periode med Dunfermline ble imidlertid ikke videre gledelig, siden han ble en av de minst populære managerne i klubbens historie (delvis pga. at han erstattet den svært populære og suksessfulle Jimmy Calderwood), og han fikk sparken mot slutten av sesongen. Det hadde da sett ut til at klubben ville rykke ned fra skotsk Premier League, selv om det skulle vise seg at Jim Leishman (som tok over for Hay) maktet å redde klubbens eliteseriestatus i løpet av de resterende kampene.