Keefer wuchs als jüngster von drei Söhnen auf. Der Sohn eines Schlachters und einer Hausfrau absolvierte die American Academy of Dramatic Arts und stand in seinem Abschlussjahr auf der Theaterbühne der Weltausstellung. Er war zudem eines der Gründungsmitglieder des The Actors Studio, wo er Method Acting studierte. 1941 feierte er sein Broadwaydebüt. Von 1949 bis 1950 war er in der Originalproduktion von Arthur Millers "Tod eines Handlungsreisenden" als Bernard zu sehen und war als einziger Darsteller in allen Aufführungen zu sehen. Die Produktion mit Lee J. Cobb in der Hauptrolle gewann 1949 sechs Tony Awards und wurde 1951 verfilmt; Keefer war neben Cameron Mitchell und Mildred Dunnock einer von drei Schauspielern der Uraufführungs-Besetzung, die ihre Rolle auch in der Verfilmung spielten. Die für fünf Oscars nominierte Literaturverfilmung war zudem seine Spielfilmpremiere.