固始吴氏世大夫祠位于东经115°，北纬32°的固始县城关北后街76号。固始吴氏世大夫祠是吴其濬祖父吴延瑞在乾隆四十七年(1782年)在城内北后街创建，于次年竣工。

吴氏世大夫祠祠规规定：吴氏后裔生前没有大夫职衔的，死后不能入祠。祠堂前后五层，有正殿、后殿、香火殿等，并有旁宅院落为祠堂服务。吴氏世大夫祠现存正殿五间，建筑为青砖灰瓦，木框架结构，前廊为方石立柱。殿高4.5米，长20米，深8米，面积160平方米。祠堂中置香案，存放牌位，挂有吴氏祖先画像，是吴氏族人祭拜祖先的地方。