元初，由军卒升益都新军千户，先从张宏范攻南宋，转战数千里，屡建战功。1273年(至元十年)在攻陷襄阳、樊城战斗中，他裹伤血战，破关斩将，被元世祖忽必烈召见，受赏赐，升为武德将军，管军总管。后又从伯颜南征，在郢州、沙洋、丁家洲等战斗中，频建奇勋。1275年(至元十二年)7月，元兵与南宋在焦山大战，他与董文炳、刘琛夹击宋将张世杰，大获全胜。他因战功加怀远大将军，赐号霸都(蒙古语，意为勇士)，人称“刘二霸都”。元灭南宋后，升为镇国上将军，汉军都元帅。镇守北方，平定了叛王脱脱术的反叛，加辅国上将军。1282年(至元十九年)，任征东省左丞，驻广陵(今江苏扬州)。抵御日本海盗，镇压了福建抗元义军黄华。
自1286年(至元二十三年)至1301年(大德五年)，他任湖广省左丞、右丞、湖广行枢密院副使，湖广、安南行平章事和湖广等省平章政事等职，先后镇压了广东、广西、湖南、江西等地的汉、僚各族的反元起义军数十起。1300年(大德四年)，彝族女领袖
蛇节在四川起义，云南、贵州各地少数民族纷起响应，攻克贵州。第二年，他率军进剿，于1303年(大德七年)春，俘杀
蛇节，镇压了西南各少数民族的起义军。1304年(大德八年)病死。朝廷赠“推忠效力定远功臣”、光禄大夫、司徒、柱国，封齐国公。葬于今青州市苏埠屯乡东徐村前。