金存中早年入读国子监，“性聪慧，有诗名”，因而作为文学之士被推荐给太子
王晛，充当
春坊侍学。后登第，补詹事府录事，与宦官郑諴友善。
皇统六年（1146年），王晛即位，是为毅宗，他作为潜邸旧人，成为内侍（国王近侍，非宦官），兼直翰林院。不久，转任左正言、知制诰，又任刑部郎中、起居注等职。皇统十年（1150年）知奏事
郑袭明去职，枢密院职位有空缺，毅宗欲择有名望者代之，郑諴趁机推荐金存中，金存中遂被擢为枢密院右承宣及左承宣。此后，他“出入禁中，图议国政，势倾朝野”。
天德三年（1151年），金存中利用自己的亲戚左谏议大夫王轼、起居注李元膺的弹劾成功排挤了内侍郎中
郑叙，更加受到毅宗宠幸。在他的建议下，毅宗命宰臣庾弼、
崔允仪保护太子。贞元三年（1155年）十二月庾弼死后，金存中被委以保护太子之任，拜太子少保（一作太子少傅）。在这期间，他与郑諴“相结用事，大张威福，附己者进，异己者斥。久典
铨注，卖官鬻爵，财累钜万，
甲第至数四。兄弟亲戚，恃势
骄恣”，连他家守门的人都“衣紫佩剑”。
正丰元年（1156年），金存中生
背疽，毅宗“遣医问疾，络绎于道”。四月二十日，金存中病死，时年四十六岁。毅宗非常悲伤，赠输忠内辅同德功臣、吏部尚书、政堂文学、修文殿大学士（一说生前授职），谥号景肃。