Mochrie ble født i Kilmarnock, Skottland, men flyttet med familien sin til Canada og Toronto i 1964 hvor han utmerket seg i komedietroppen Second City både som deltaker og manusforfatter. I 1988 ble han fast deltager i det britiske improvisasjonsprogrammet , som nettopp hadde blitt flyttet over på fjernsyn fra radio. Her var han i ni år før programmet ble flyttet til USA og ABC med komikeren Drew Carey som programleder. På samme tid som han deltok i dette programmet, var han også med på de canadiske komiseriene og .