。后来战事开始，杨俊认为河内必定会成为战场，于是带老弱及同行百余家到洛阳、密县的山野间避战。后来转到并州避战。曹操先后任命杨俊为曲梁县长、丞相掾属、安陵令、南阳太守等职，又举杨俊茂才，在职期间宣扬道德教化，又建立学校，人人都称赞他。后来又转任征南将军军师。曹操称魏公，建立魏国后迁中尉。建安二十四年（219年），魏讽趁曹操出征而在邺城谋反，杨俊因而弹劾自己，向东汉太子告辞，但他不欲杨俊离开，只贬他为平原太守，由徐奕接替中尉之职。后来曹丕代汉称帝，杨俊再任南阳太守。此时散骑常侍王象向曹丕推荐杨俊，但杨俊没有