Nekropole an der Kremlmauer
Karpow starb nach kurzer Krankheit und ist in der Nekropole an der Kremlmauer (Gemeinschaftsgrab Nr. 6) begraben. Er war verheiratet mit Anna Samoilowna geb. Luwischuk (1883–1968), Revolutionärin und Direktorin des Moskauer Instituts für Philosophie, Literatur und Geschichte (1935–1940) sowie des Moskauer Museums für Geschichte (1940–1962), deren jüngere Schwester Jewgenija Samoilowna Luwischuk den Revolutionär und Ökonomen Alexander Schlichter heiratete. Die Karpows hatten zwei Söhne, den Ingenieur Juri und den Chemiker Wladimir, der die Schwester der Physiker Alexander Leipunski und Owsei Leipunski heiratete. Die Enkelin Irina Wladimirowna (* 1933), promovierte Physikerin und Künstlerin, heiratete den Mathematiker Felix Beresin.