，封乌水县开国侯，外任甘州刺史，追补为藩部大夫。隋朝建立后，元俭出任洵州刺史，爵位升为公，转任温州刺史，开皇四年八月廿一日（584年10月1日），元俭在任内去世，虚岁五十，开皇五年岁次乙已二月戊子朔廿二日已酉（585年3月28日），与夫人枹罕念氏、继室博陵崔氏合葬于河南洛阳县之北原。其墓志名为《隋故温州使君元公铭》，由御史大夫杨素撰写，2000年出土于河南洛阳，拓片着录于《河洛墓刻拾零》。