（213年），曹操封魏公并建魏国，常林升任尚书。黄初元年（220年），曹丕称帝，常林迁任少府，封乐阳亭侯。后又转任大司农。太和元年（227年），曹叡继位，封高阳乡侯，改任光禄勋、太常。当时有人认为常林节操廉洁高尚，应该进为三公，常林于是称病。后转任光禄大夫。常林八十三岁时逝世，获追赠骠骑将军，以公礼安葬，谥贞侯。
评价.陈寿：和洽清和干理，常林素业纯固，杨俊人伦行义，杜袭温粹识统，赵俨刚毅有度，裴潜平恆贞干，皆一世之美士也。至（常）林能不系心于三司，以大夫告老，美矣哉！