俨任司空掾属主簿。十三年（208年），曹操准备向南用兵，当时于禁、乐进、张辽三人都驻紥在颍川郡不同的县内，但彼此不和，曹操于是命赵俨参三军军事，事事都有训喻，令到三人和睦。，而后曹操亲自征伐荆州时，命赵俨领章陵太守，都督护军，护于禁、张辽、张郃、朱灵、李典、路招、冯楷七军。战后再任丞相主簿，后迁任扶风太守。十六年（211年），曹操打败马超和韩遂等人后（潼关之战），命平散将军殷署等人率领他们的降兵旧部迁移出关中地区，赵俨则担任关中护军，总统诸军。此时羌兵多次进击，赵俨率领各军追击羌兵到新平，并大败羌兵。