每次南陈使者前来隋朝，辛公义常常奉旨接待宴请南陈的使者。辛公义后转任驾部侍郎，被派往江陵安抚隋朝边境。开皇七年（587年），辛公义被派去考察各地的养马，得到十多万匹马。隋文帝高兴的说：“只有我的辛公义，为国尽心尽力。”辛公义后跟随平定南陈，因功被授任岷州刺史。当地人害怕患病，如果一人生病，全家都躲开病人，父子夫妻互相不照顾，人们之间的孝义都断绝了，因此病人大多死去。辛公义对此感到担忧，希望改变习俗，于是分别派遣官员巡视考察管辖区内，凡是病人，都用床和车抬来，安置在官署的厅堂。夏季暴发瘟疫时，病人有时达到