余家到洛阳、密县的山野间避战。后来转到并州避战。曹操先后任命杨俊为曲梁县长、丞相掾属、安陵令、南阳太守等职，又举杨俊茂才，在职期间宣扬道德教化，又建立学校，人人都称赞他。后来又转任征南将军军师。曹操称魏公，建立魏国后迁中尉。建安二十四年（219年），魏讽趁曹操出征而在邺城谋反，杨俊因而弹劾自己，向东汉太子告辞，但他不欲杨俊离开，只贬他为平原太守，由徐奕接替中尉之职。后来曹丕代汉称帝，杨俊再任南阳太守。此时散骑常侍王象向曹丕推荐杨俊，但杨俊没有得到重用。起初，曹操还未决定继任人，而杨俊与曹植交好，曹操