Chaney jobbet hardt for å komme ut av sin fars skygge. Han hadde mindre assistentjobber som utgangspunkt for sin egen karriere, men han studerte også sminke under sin far. Han fikk ingen roller før etter sin fars død, og hans første film var en ukreditert rolle i filmen i 1932. Han oppnådde ingen berømmelse før filmen i 1939 hvor han spilte «Lennie Small».