历任上海铁合金厂团委干事、团委书记、党委副书记、党委书记、副厂长。1990年8月，任上钢五厂党委书记。1992年10月起，历任中共上海市宝山区委书记、中共上海市金山区委书记兼区人大常委会主任、上海市委组织部副部长、上海市委副秘书长等职。
中国共产党第十六次全国代表大会代表，上海市第七、第八、第九、第十次党代会代表，中共上海市第七、第八届委员会委员，上海市第十、第十一、第十二、第十三届人大代表，上海市第十三届人大常委会委员。
2017年12月7日，
国家能源投资集团有限责任公司聘任刘国胜为国家能源投资集团有限责任公司外部董事，聘期3年（自2017年11月至2020年10月）。