仁寿元年（601年），辛公义补任扬州道黜陟大使。豫章王杨暕担心自己管辖内的官吏犯法，在辛公义还没进入扬州前预先派人嘱咐辛公义。辛公义回答说：“接受诏令不敢徇私。”等到辛公义到了扬州，都没有宽缓的余地，杨暕怀恨在心。隋炀帝杨广即位，扬州长史王弘入朝担任黄门侍郎，趁机说辛公义的坏话，辛公义最终离职。扬州官吏百姓在门外申诉冤屈，络绎不绝。之后几年，隋炀帝醒悟，授任辛公义内史侍郎。辛公义为母亲柳玉岫守丧离职，不久，被起用担任司隶大夫，检校右御卫武贲郎将。大业十年（614年），辛公义跟随隋炀帝出征高丽，快到柳城郡时