McCarthy ble født i Liverpool, og familien flyttet til London to år senere. Han var elev ved Hampton Grammar School i Richmond upon Thames, akkurat som Paul Samwell-Smith som han senere kom til å spille sammen med i The Yardbirds. I Yardbirds' tidlige år arbeidet han også som aksjemegler ved London Stock Exchange.