Perry er født i Elizabethtown i Kentucky og gikk på Western Kentucky University. Han ble profesjonell i 1982. Karrieren hans utviklet seg sakte men jevnt. Han ble ikke medlem av PGA-touren før i 1987, og i de første årene hadde han problemer med å beholde medlemsstatusen. Han tok sin første seier på touren i det prestisjefylte Memorial Tournament i 1991. To nye seire fulgte i løpet av 1990-årene, og enda en seier i 2001. I sesongen han fylte 48, i 2008, vant han 3 turneringer, og spilte i Ryder Cup for første gang. Han har vært blant de ti beste på verdensrankingen i golf i en periode på 50 uker mellom 2003 og 2005. Han tok sin fjortende seier på touren i 2009 i Travelers Championship.