北周武帝任命庞晃为常山郡太守，杨坚担任定州总管，常常往来。杨坚转任亳州总管，将要到任，杨坚内心很不高兴。庞晃说「燕代之地多精兵，现在起兵，天下可图」。杨坚认为还应该等待时机。庞晃转任车骑将军。杨坚担任扬州总管，上奏请让庞晃与他同行。580年，杨坚担任北周丞相，庞晃进位开府仪同三司，随从杨坚。581年，隋朝建立、庞晃加位上开府，担任右卫将军，进爵为公。河间王杨弘攻打突厥，庞晃作为行军总管随军到达马邑。以别路出军贺兰山，击败突厥军。庞晃性格刚直，与广平王杨雄、高颎不合，二人多次诋毁庞晃。因此庞晃宿卫十余