史高干本来打算表常林为骑都尉，常林辞让不接受。高干叛乱被曹操平定后，梁习上任并州刺史，推举州内名士，常林和杨俊、王象、荀纬和王凌等都获举荐，曹操将常林任命为南和县长。后因为在南和有治绩，先后获提拔为博陵太守和幽州刺史，亦都有治绩。建安十六年（211年），曹丕获任命为五官中郎将，常和被选为五官将功曹。同年曹操西征马超等人，河间人田银和苏伯在当地叛乱，并煽动邻近的幽州和冀州，曹丕打算亲自讨平，但常林认为他们只是乌合之众，难成大器；而且曹操出征，曹丕应安守邺城，不应轻率出征。曹丕听从并派将军贾信讨平。常林后来又先