Han er sønn av medisinprofessor Lorentz Eldjarn (1920–2007) og Torunn Weydahl (1919–). Faren etablerte A/S Sero, et familiefirma som også Knut ble med i. Selv startet Knut på et studium i geologi, men gikk over til medisin og virket som sykehuslege i tyve år, blant annet ved Bærum sykehus. Han jobbet også for A/S Sero og Norsk Analysecenter A/S da han i 1991 tok fatt på deltidsjobben med å være president i Den norske legeforening, et verv han ble etterfulgt i 1995 av med Hans Petter Aarseth. Han er bosatt i Rykkinn, hobbygeolog og var aktiv i Unge Venstre sammen med Odd Einar Dørum.