En av hans mest kjente forestillinger er som Senatets president i dramafilmen (1939), som førte til nominering som Oscar for beste mannlige birolle. Han var far til Harry Carey jr., som også var en fremtredende skuespiller.