Karsten er representert ved Nasjonalgalleriet i Oslo med flere malerier, som for eksempel fra 1904, fra 1905, fra 1907, fra 1913, fra 1913 og fra 1922. Han er representert ved Bergen Museum (med og ), ved Nasjonalmuseet i Stockholm (med maleriet ), ved Statens Museum for Kunst i København (med fra 1923), og ved Stenersenmuseet i Oslo (med maleriene og ). Karsten var også kjent for sine parafraseringer av eldre maleres verker, som for eksempel av 1500-tallsmaleren Jacopo Bassano og 1700-tallsmaleren Jusepe de Ribera, og Rembrandt. Hans siste maleri var et portrett av datteren Elise, malt da hun besøkte ham i Paris i 1926.