Feddersens hjem i Hammerfest var alltid et typisk tysk borgerhjem, med tyske bøker, bilder av Wilhelm I, Bismarck, Friedrich III, og Helmuth von Moltke, og byster av Schiller, Goethe og Lessing. Keiser Wilhelm II avla flere besøk hos ham. Feddersen var kjent for sin vennlighet mot barn og dyr. Han døde 7. februar 1898, bare en uke før sin kompanjong A.R. Nissen.