蘇彥伯的曾祖父蘇世長是唐朝開國功臣、唐太宗十八學士之一。祖父蘇良嗣是唐睿宗第一次在位、武則天稱制時的宰相，父親蘇踐信為中書舍人，清簡有才幹。蘇彥伯為蘇踐信次子，初以勳輔子孫補千牛，授右金吾衛兵曹參軍，後貶為海州司戶參軍，有能聲，開元十二年（724年）四月，在駙馬楊慎交死後，以德選尚長寧長公主，拜駙馬都尉，賜緋魚袋，兼率更令。後命賜紫金魚袋，遷光祿卿，以內憂去職。天寶四載（745年)七月十五日薨於京兆萬年縣安興里宅邸，享年五十八歲，同年八月十七日遷葬萬年縣灞城鄉細柳原。