在长安被石勒攻破时，在时为丞相的司马睿征讨石勒的军队中任督运令史，因为水道运粮耽误了日期而被杀。行刑的人用刀擦柱子，血逆流而上，一直到二丈多的柱子末端才流下。淳于伯之死被认为是一场冤案，刘隗为其申理冤情。后被记载入干宝的《搜神记》。

丞相司马睿听说长安失守，带军队出去露宿野外，亲自穿上铠甲，向各地发布檄文，限定日期北伐。因为水道运粮耽误了日期，杀督运史淳于伯。行刑的人用刀擦柱子，血逆流而上，一直到二丈多的柱子末端才流下。观看的人都认为淳于伯冤枉。丞相司直刘隗上言道：“淳于伯罪不至死，请免除从事中郎周凯等人的官职。”于是右将军王导等人上奏疏承认错误，请求免除职务。司马睿说：“政令刑罚失当，都是我糊涂昏昧造成的。”他没有把一个人问罪。

当时阴阳错乱，而诉讼刑狱之事大兴时，郭璞在给晋元帝的上疏中说到：“昔日建兴四年(316)十二月中，丞相令史淳于伯被杀于市，行刑时鲜血逆流向上，流到高高的标柱之上。淳于伯只是个小人物，虽然对他的罪行处理得不恰当，但也不足感动上天以显灵异，出现这样的怪事呀。这正说明皇天要保佑我朝，像爱护儿子一样爱护陛下，这才三番几次出现灾异，这样关怀这样殷勤呀。陛下应该恭敬谨慎，认真对待神灵的谴责。皇天的谪斥，是不会凭空虚降的。不然，恐怕将来一定会有冬日苦旱淫雨不止的天灾、山崩地震日蚀之变、暴恶奸狠的妖孽，更会增加陛下的劳苦和忧虑。”

干宝《搜神记》卷七中也有记载。