祖父苏世长是唐朝开国功臣、唐太宗十八学士之一。祖父苏良嗣是唐睿宗第一次在位、武则天称制时的宰相，父亲苏践信为中书舍人，清简有才干。苏彦伯为苏践信次子，初以勋辅子孙补千牛，授右金吾卫兵曹参军，后贬为海州司户参军，有能声，开元十二年（724年）四月，在驸马杨慎交死后，以德选尚长宁长公主，拜驸马都尉，赐绯鱼袋，兼率更令。后命赐紫金鱼袋，迁光禄卿，以内忧去职。天宝四载（745年)七月十五日薨于京兆万年县安兴里宅邸，享年五十八岁，同年八月十七日迁葬万年县灞城乡细柳原。