因地处上海近郊漕河泾镇弼教路(今习勤路),故俗称“漕河泾监狱”。监狱于1916年初由司法部拨款兴建,最初面积88亩。于1919年5月落成。整座监狱都是平房,共有大小牢房300多间。建成使用后,又陆续扩建和新建了部分实施,占地面积扩大至近120亩。犯人最多时达3000多人。
监狱在押犯人大部分是刑事犯;20世纪30年代以后,也关押了不少政治犯,其中一部分是
淞沪警备司令部军法看守所(即龙华监狱)所羁押的。如
邓中夏、
恽代英、王新元、
桂蓬、
张恺帆、
方毅、
李干成、
杜重远等都曾囚禁于此。