南洋中学图书馆藏书源起于校长王培孙先生私人藏书。王氏先人就富藏书，王培孙长南洋中学后，又与教员汤济沧开设利川书店，以书店之赢利贴补办校经费，在经营中积累了大批古籍，其中不乏珍本。

南洋中学始建于1986年，前身为王柳生先生上海大东门王氏宗祠“省园”所创办的育材书塾，1900年由王培孙先生接办。1904年改名为南洋中学，1907年迁至龙华路（即今校址）。南洋中学迁址新址后，于1910左右陆续建造化学、物理实验室数间，并在理化实验室旁辟余屋数间设立南洋中学图书馆，内藏王氏先人所藏四部要典及王培孙先生十余年所收罗的古籍及参考图籍约四千余种，包括哲学、历史、政典、方志、文学、笔记及珍贵的藏本佛经等。乃请陈乃乾整理编目，于1919年7月编印成《南洋中学藏书目录》一册，该书书名由罗振玉题签，扉页则由当时已七十六岁的书画大家吴昌硕所书；石印线装，现存世仅几册。图书馆还藏有一部分西文图书，分设中文阅览室和西文阅览室，1926年，为纪念南洋中学建校三十周年，由校友捐款建造了西洋古典风格的宏伟典雅的校友厅图书馆大楼，竣工后，图书馆迁入其中，藏书量不断增加，学校聘请专家，管理有序。1937年抗日战争爆发，上海沦陷，南洋中学龙华路校舍为敌伪所占，学校暂借北京路盐业大楼上课，图书馆所藏古籍图书存放法藏寺，而西文图书未及转移，损失殆尽。1946年，南洋中学于抗战胜利后回龙华路原址复校，南洋中学图书馆亦继之恢复，并迁回了存放于法藏寺的古籍。嗣后学校请著名图书馆学家陈华鼎（子彝）先生整理、管理南洋中学图书馆。1946年，陈子彝先生发表《南洋中学图书馆概况》和《南洋中学图书馆图书分类法》，根据《南洋中学图书馆图书分类法》，当时的南洋中学图书馆收藏的古籍分为十部：哲学之部，历史之部，政典之部，方志之部，文物之部，记述之部，技术之部，文学之部丛书之部，佛典之部，每部再分诸类，诸属。而其中的方志尤为特色；分为畿辅志、府志、州志、厅志、县志、镇志、载记舆图等类，按地域又分为：一、中区诸省二、沿河诸省 三、东北诸省 四、本区诸省 五、边区诸省另外还有山川类、古迹类、居处类。收罗之广，卷秩之浩繁，为我国各地图书馆所罕见。当时，南洋中学图书馆收藏的古籍加上外文书籍，藏书量共逾十万册。 1949年，上海解放，南洋中学被接管公办。1952年，王培孙校长病重，逝世前，他嘱将南洋中学图书馆的珍贵古籍七万六千七百多册捐献国家，存放于富民路的以顾庭龙先生为馆长的合众图书馆（后该图书馆并入上海图书馆）。1993年5月后，图书馆迁入“好学楼”，一楼为外借室和书库，现将部分书库改为古籍资料室。三楼为阅览室和电子阅览室，资料室设在综合楼二楼。南洋中学图书馆曾是上海第二大图书馆。

图书馆总面积561平方米，藏书6万余册，古籍线装书5784册，图书馆有专职人员四名，中级职称一名。图书馆宗旨是全心全意为教学第一线师生服务。图书馆经常向教研组教师提供有参考价值的书籍，并征求意见，在强化为学生服务功能方面，能热情为学生介绍推荐新书，组织开展读书活动，学习巴金著作，写读书笔记、读书心得，使学生和图书结下不解之缘，为学生知识的增长、人文精神的培养、素质的提高发挥了积极的作用。2003年5月被评为上海市中小学一级图书馆。