Knudsen fikk avløsning som formann for Den Socialdemokratiske Forening høsten 1886, og som redaktør i «Social-Demokraten» i 1887. Begge verv ble overtatt av den 28-årige danske tobakksarbeideren Carl Jeppesen, som Knudsen innledet et livslangt og nært samarbeid med. Sammen med konen Hulda tok Jeppesen jobb som børstebinder for Jordan og Kristiania kommune, men skrev først og fremst fengende taler, skrifter, artikler og arbeidersanger. Selv om de gikk hver sin vei ved partisplittelsen i 1921 – Jeppesen var innom Norges Socialdemokratiske Arbeiderparti – bevarte de det politiske og personlige vennskapet. De to inntok en sentral rolle som utsendinger fra Den sosialdemokratiske forening ved det todagersmøtet som de faglige Samholdsforeningene (dvs. samorganisasjonene) innkalte til i Arendal 21. august 1887, hvor ble stiftet.