出身，礼部侍郎薛邕很器重他，以拔萃补登封主簿，曾去除虎患，御史大夫于颀荐为监察御史。唐德宗避兵祸至奉天，他徒步诣谒，后授翰林学士。贞元七年，升迁为中书舍人，八年四月，出学士院，改任户部侍郎，贞元九年、十年知贡举，大力选拔寒士，柳宗元自称“门生”。后官吏部侍郎。当时裴延龄权倾朝野，无人敢忤之。一日少连在田镝宅第酒酣，持象笏击之，并称“段秀实笏击贼臣，今吾笏将击奸臣！”。贞元十六年五月三十日丁卯，自吏部侍郎迁京兆尹。贞元二十年卒。赠尚书右仆射，谥曰敬。有子顾师闵。