在上海市静安区
新闸路陕西北路路口附近，有一处僻静的院落。院内分里外两进，大门口4棵高大的广玉兰挺拔非凡。在庭院南侧有一座标准的中国传统复兴式建筑风格的八角小楼，曾名小校经阁。1912年建成，建筑面积214平方米，二层砖木结构的八角楼飞檐式楼台，墙面装饰花纹类似中国古代窗花并有如意形花纹。房顶由琉璃瓦铺就，每只屋角上饰以各种吉祥小动物，底层屋檐起翘，下有斗拱。这是目前上海滩仅存的传统式私人藏书楼旧址了。
刘晦之的文物收藏堪称一流，其中龟甲骨片和青铜器的收藏，世间罕有其比。其龟甲骨片的收藏就达2.8万余片。据文物部门统计，我国现存的龟甲骨片总共9万余片，而刘晦之差不多占了三分之一。
1936年，刘晦之深知
郭沫若博学多才，请人将龟甲骨片拓出文字，集为《书契丛编》，分装成20册，托中国书店的金祖同带到日本，供郭沫若研究、著书。郭沫若见后叹为观止，从中挑选了1595片，先期研读考释，并据此著成了甲骨学上具有重要意义的巨著《
殷契粹编》，在日本出版。1953年，刘晦之将龟甲骨片全部出让国家，由中央文化部文物局接收，中国科学院考古研究所将其又重新墨拓了一遍，拓本题名《善斋所藏甲骨拓本》。
小校经阁还以藏书著名，藏书达10万册之巨，以明清精刻为主，亦不乏宋元古本。至解放时，尚有宋版９部、各地方志1000余部，善本达1928册。这些书籍分装在500只特制的书箱里，打开书箱箱盖，上面罩了一层细细的铁丝网，这是为防老鼠钻进去而特制的。其中，刘晦之为把《
四库全书》依目统统收齐，收不齐就借来抄录副本，并将所收书的原刻本，统统恢复旧貌，因此在小校经阁里，长年雇着十几名抄书、校书的工匠，书山书海，忙个不停。
1951年，刘晦之将所有的藏书连同那500只箱子，以及上古三代及秦汉时期的兵器130件，分装20个箱子，全部捐给上海市文管会。为此，陈毅市长曾颁发嘉奖令，表彰他的爱国精神。
刘晦之认为：“人生若是失败，最大的失败，必定是做人的失败。”他一生以“多做好事，与人为善”为准则，也许就是他成功的秘诀。刘晦之逝于1962年，生前几乎所有的藏品都捐献了出来。还有一批古墨古砚捐献给
安徽省博物馆，该馆为之特辟“中国历代古墨陈列室”。像这样身后不留一石一木，倾其所有奉献社会的精神，在私家收藏史上将流芳百世。