部尚书、内阳公薛胄之从祖弟。薛濬父亲薛琰，北周渭南郡太守。薛濬年少丧父，早孤，养母以孝闻名。幼年好学，有品行，到长安寻师。当时西魏刚刚平定江陵，何妥归顺北朝，见到薛濬感觉并赔偿，授给他经书学业。北周天和年间，薛濬袭爵虞城侯，历任纳言上士、新丰县令。隋文帝开皇初年，擢升为尚书虞部侍郎，再转任考功侍郎。隋文帝听说薛濬事母至孝，因为他母亲年老，赐给舆服机杖，四时珍味，当时以为荣耀。后来他母亲得病，薛濬外表忧伤憔悴，亲故都不认识了。其母去世，皇帝下诏鸿胪监护丧事，归葬夏阳。当时隆冬极寒，薛濬丧服赤脚，冒着霜雪，