薛大鼎的祖父是北周太子少傅、博平公薛善。父亲薛粹在隋朝任介州长史。605年左右，介入汉王杨谅谋反案，被杀。薛大鼎因年幼得免死罪，沦为“官奴”，流落辰州（今湖南沅陵），而后成为军人，获得释放。大业十三年（617年），李渊太原起兵，薛大鼎在龙门投归其幕府，建议李渊先攻隋朝永丰仓（渭水与黄河交界的着名粮仓，今位于陕西省大荔县）。但李渊诸将决议取河东，故李渊未採纳薛说，但用之，命为大将军府「察非椽」（类似于御史，纠察政风）。唐朝建立，任为地方官吏，武德四年（521年）任为山南道（即今荆州市）副大使。他在