二郡太守许护之子。许惇清识敏速，达于从政，任司徒主簿，有判断能力，号为入铁主簿。东魏时，转任阳平郡太守，治理号为天下第一，魏孝静帝特加赏异，于阙图画他的画像，诏颁天下。历任魏尹、齐州刺史、梁州刺史，以善政知名。后入朝为大司农。侯景叛乱，王思政入据颍川城，高岳率兵讨伐，许惇担当漕运，供应军需，从无迟滞。许惇进言引洧水水攻颍川城。转任殿中尚书。许惇胡须漂亮，下垂至腰带，省中称他为长鬣公。齐文宣帝喝醉了酒，握住许惇的胡须称美，用刀割下了他的胡须，只留下一把。许惇害怕，不敢再留胡须，当时之人于是称他为齐须公。