McKay startet sin aktive musikerkarriere i New Orleans da han var 18 år gammel, hvor han kom i kontakt med Ike Turner og ble medlem av som gitarist for bandet. Etter å ha tilbragt i underkant av to år i bandet dro han til Los Angeles, hvor han opparbeidet seg et rykte som studiomusiker. På denne måten ble han også innleid av Sammy Davis jr. som gitarist i hans band med omfattende turne og nærmest permanent spillejobb i Las Vegas. Etter å ha utmerket seg ytterligere, blant annet med sin distinkte bruk av lydpedalen Wah-wah pedal, arbeidet han deretter for Andy Williams, Pearl Bailey, The Sylvers og Isaac Hayes. Det var også gjennom sitt arbeid med disse at Chicago-bandet Earth, Wind & Fire kom i kontakt med McKay.