南京寺原名延福寺，是北宋
太平兴国年间在此肇建延福寺。那时寺院巍峨壮观，殿宇金碧辉煌，大雄宝殿内塑有丈余高的镏金
释迦牟尼像端坐在莲台之上。两旁是金装四大天王之像，还排列着铁铸的十八罗汉。院中寺塔林立，钟楼高耸，与开封相国寺，黄河北沿际院寺并称中原三大寺。
相传大明嘉靖年间，中牟县南有个张举人赴京应试求官。途中路过延福寺，见寺院雄伟、香火旺盛，就顺便到寺中浏览。他来到大殿，见住持盘腿坐在清团之上，正闭目养神，张举人进殿道声问询。
不料那住持只是稍稍睁了一眼，又一动不动的坐在那里。这张举人年轻气盛，本来就有点恃才傲物，见老和尚不理不睬，不禁怒火中烧，高声喝道：“呵呵，好大一个和尚啊！”住持睁开双眼说：“大不大与你无关，我乃堂堂名寺之主，你不过一介书生，管得住老僧吗？”张举人被老和尚的话噎得半晌无法回复。心想好哇，等我此去博得功名。第一个非无管住你不可！随即愤愤离开寺院，赴京赶考去了。
张举人到了京城，三榜过后，高中皇榜御进士授翰林院遮吉士。后来慢慢由太常寺，大理寺卿，户部右侍郎，又升迁到南京户部尚书，曾在延福寺受的气一直没有忘。他一纸公文发到
河南开封府，指名把延福寺划归南京代管，每年的寺田田赋必须到南京户部缴纳。从此以后，延福寺就改名为“南京寺”了。