新乡市图书馆是新乡市国家二级公共图书馆，始建于1928年3月，最早称中山图书馆，1935年8月更名为河朔图书馆，1949年10月又改为平原省图书馆，1952年10月又叫新乡图书馆、新乡人民图书馆等，直到1973年几经改名，最后确定为现称。
现有藏书总量106万余册，其中馆藏古代文献典籍近17万册，含善本藏量2万余册，收入《中国古籍善本书目》的有141种，入选第一批、第三批、第五批《国家珍贵古籍名录》的有11部，入选《河南省珍贵古籍名录》的有23部。
新乡市图书馆前身为1928年3月建成的新乡县中山图书馆。1935年8月至1972年间，先后易名为河朔图书馆、平原省图书馆、河南省新乡图书馆，新乡市人民图书馆等，1973年确定为现称。1999年9月底，迁至现址、平原路437号,建筑面积8572㎡。
2001年6月，新乡市图书馆从市
卫河公园（老公园内）迁至新馆。拥有高、中、初级职称的在职职工55人。内设采编部、外借部、书刊阅览部、古籍部、网络信息部、办公室、保卫科等7个部门，现对外开放的窗口有：外借部、报刊阅览室、少儿阅览室、过期报刊参阅室、古籍特藏参阅室、电子阅览室。近两年来，全馆员工奋力拼搏，获得了全国重点古籍保护单位、国家二级图书馆和全省未成年人教育先进单位等荣誉称号。
下设办公室、借阅部、报刊部、少儿部（市少儿图书馆）、采编和辅导部、古籍特藏部、网络技术部、安全保卫部等8个部室。内设服务台、少儿借阅室、
电子阅览室、报刊阅览室、外借处、古籍参阅室等8个服务窗口。建有图书馆门户网站、微信公众号、官方微博，拥有万方、汇雅等多种数字资源。
面向公众免费开放的场所主要包括：一般阅览室、少年儿童阅览室、多媒体阅览室（
电子阅览室）、报告厅（培训室、综合活动室）、自修室等公共空间设施场地；同时，文献资源借阅、检索与咨询、公益性讲座和展览、基层辅导、流动服务等基本文化服务项目也一并向市民免费提供；此外，一些辅助性服务如办借阅证、验证及存包等也全部被列入免费服务项目中。
随着图书馆服务的逐步深入与细化，新乡市图书馆紧跟时代步伐，先后推出了网上文献资源检索服务、移动图书馆服务。市民足不出户即可查询、续借、预约图书、阅读文献、查看视频。