康纯的祖父康继权作为
神德王后之兄，在
朝鲜太祖时受封象山
府院君，
第一次王子之乱后遭到流放，后被释放，去世时
朝鲜太宗辍朝三日，赐谥“灵平”。父亲康镇曾为大护军，太宗时因事流放。康纯初为甲士（国王亲兵），自年轻时起“屡任边镇”，至景泰元年（1450年，
朝鲜世宗三十二年）已官至佥知中枢院事，作为平安道助战节制使，负责防范
瓦剌，其后听说瓦剌被明朝击退而解任。后任黄海道助战节制使、行会宁都护府使等职。
朝鲜世祖继位后被录为二等原从功臣。后被外放判义州牧使、判会宁府事等职，天顺二年（1458年，朝鲜世祖四年）七月复入中央，为佥知中枢院事，十一月升任中枢院副使。次年作为谢恩使赴明。天顺四年（1460年，世祖六年）三月外放判吉州牧使，镇守朝鲜东北边疆。同年六月判新设的宁北镇都护府事。八月下旬率军九百，随咸吉道都体察使
申叔舟、咸吉道都节制使杨汀渡图们江（豆满江）征
毛怜卫。事后晋升资宪大夫，转任钟城节制使。次年正月擢为咸吉道都节制使。
康纯镇守咸吉道五年，于成化元年（1465年，世祖十一年）七月回朝，任中枢院使。后任知中枢府事、五卫都总管。成化三年（1467年，世祖十三年）五月，咸吉道发生
李施爱之乱，世祖任命康纯为镇北将军，领平安道兵三千人（后增至一万人）从永兴入咸吉道平叛。战后策一等敌忾功臣，仅次于龟城君
李浚和曹锡文，拜
右议政，封山阳君。同年冬率
鱼有沼、
南怡渡鸭绿江，征
建州卫，以配合明军围剿
建州女真，取得胜利，擒斩建州酋长
李满住。翌年，
明宪宗赐予他和鱼有沼、南怡各二十两银子及各类绢、丝若干匹以褒奖。
成化四年（1468年，世祖十四年）七月，康纯卸任
右议政，转任五卫都总管。同年九月，世祖去世，睿宗继位。十月二十四日，
柳子光举报南怡谋反，南怡指认康纯为其同谋，康纯不堪刑讯，屈打成招。二十七日，南怡与康纯等都被车裂于市。
南怡被指控谋反时，康纯也参与审问，而南怡指认康纯为其同谋，康纯被捕后屈打成招，最后与南怡一起上刑场。康纯临刑前对南怡说：“南汝有何怨于我而诬我耶？”南怡说：“冤则吾与汝同也，汝为首相（实际上康纯只做过右相），知吾之冤，而不出一言以救，汝亦冤死可也！”康纯“默然不能答”。
另有说法是，南怡在供出康纯时，对康纯喊话说：“吾之不服者，庶几图效于后日。今胫骨皆折，已作残质无用之人，生亦何为？如我年少者，尚不惜死，白首老辈，死固宜矣！吾故订[证]之。”临刑前，康纯对南怡说：“与小子相善，宜有此祸也。夫逆贼是何等罪名，而乃相戏耶？”