与李渊同学，成为好友。隋大业末年，天下大乱，许绍为夷陵郡通守，收留流民，开仓赈济，甚得人心。隋炀帝在江都被宇文化及弑杀后，许绍效忠越王杨侗。王世充废黜杨侗自立为帝，许绍率黔安、武陵、澧阳等诸郡转投李渊，任硖州（今湖北宜昌）刺史，封安陆郡公。618年，萧铣在岳州称帝，派遣宋王杨道生攻打硖州，被许绍击破，跳水溺死大半。萧铣又派遣其大将陈普环率大舰从长江直达硖州，与开州的萧阇提攻取巴蜀。许绍派儿子许智仁及录事参军李弘节、女婿张玄静追击至西陵峡，大破之，生擒陈普环，俘获其船舰。长江南岸有安蜀城，与硖州相对，次东