晋王
楊堅掌握北周政权、召張虔威为相府典籤。隋朝建立，随晋王杨广到并州赴任，担任刑獄参軍。杨广欣赏张虔威的才能，与河内張衡都被礼遇，人称晋王府「二張」。杨广为太子，張虔威转任員外散騎侍郎、太子内舍人。