。隋文帝建立隋朝，于仲文受命率兵驻屯白狼塞以防御突厥，次年以他为行军元帅，率十二总管出击突厥，遇到突厥部落，斩首千馀级，牲畜巨万。在金河分兵，派总管辛明瑾、元滂、贺兰志、吕楚、段谐等二万人出盛乐道，赶往那颉山。自己领军至护军川北，与突厥大军相遇，突厥可汗见他军容整肃，不战自退。仲文率精骑五千，跨过山脉追击，但无功而返。隋文帝命于仲文勘录尚书省中事，他发现许多问题，皇帝嘉奖他明断。文帝每次忧虑江南货物转运京师的水陆交通不畅，仲文请求挖开渭水，开通漕运渠道。文帝认为此事可行，就让他总领其事。开皇九年