Karpukhin kom fra en arbeiderklassefamilie. I 1959 fullførte han den vanlige videregående skolegang, og begynte så ved Moskvas teologiske seminar (1959-1963) og deretter ved Moskvas teologiske akademi.