郑州磨料磨具磨削研究所创建于1958年，是我国磨料磨具行业唯一的综合性研究机构，全国磨料磨具、超硬材料行业技术研究、开发、信息和咨询服务中心， 1999年转制为科技型企业，隶属于“中国机械工业集团有限公司”。

1958年 “第一机械工业部第二局磨料磨具研究所筹备处”建立

1962年 更名为“第一机械工业部磨料磨具磨削研究所”

1963年 研制成功中国第一颗人造金刚石

1967年 研制成功中国第一颗立方氮化硼

1971年 更名为“郑州磨料磨具磨削研究所”

1983年 “全国磨料磨具进出口商品检验试验室” 依托我所设立

1988年 “全国磨料磨具标准化技术委员会” 依托我所设立

1990年 “机械工业部第四计量中心”依托我所设立

1991年 “国家磨料磨具质量监督检验中心”依托我所设立

1992年 控股子公司 “郑州新亚复合超硬材料有限公司”开业

1992年 被授予中国首批100家享有进出口经营权的科研院所

1997年 “国家超硬材料制品生产力促进中心”依托我所设立

1998年 “国家超硬材料及制品工程技术研究中心”依托我所设立

1998年 投资参股的“河南黄河旋风股份有限公司”在上海证劵交易所上市

1999年 转制为科技型企业，进入“中国机械工业集团有限公司”

2006年 设立全资子公司“郑州三磨超硬材料有限公司”

2006年 通过ISO9001质量管理体系认证

2008年 被第一批认定为“高新技术企业”

2008年 被授予“河南省创新型试点企业”

2009年 “国家超硬材料及制品工程技术研究中心产业化基地”建成

2013年 以郑州磨料磨具磨削研究所为研发创新平台，所属中机六院为规划设计及装备平台，中国磨料磨具进出口公司为营销贸易平台，近日，中国机械工业集团公司（简称国机集团）在荥阳此处打造“国机精工集团”。新材料产业集聚区总体规划面积约10平方公里，计划到2016年年产值达1000亿元，成为全国最大的以超硬材料产品为主体，配套设施完备，产业特色鲜明的新材料产业园区。

2015年10月，从国家科技部传来喜讯，由我公司申报的“超硬材料磨具国家重点实验室”获科技部批准建设，标志着我公司在国家级科研平台建设方面实现了新的重大突破。

2023年9月13日，入选第三批中国工业遗产保护名录。