建祠的时间是大明王朝洪武九年（公元1376年），建祠的地点是当年
文天祥被囚的地方。东城府学胡同里有一条直达
大兴胡同的小巷，叫做
文丞相胡同。它的老名叫巴儿胡同，乾隆时代称作靶儿胡同。其实在更早的胡同名称就叫做“
文丞相祠”。看来，清朝有心病，不喜欢“文丞相”这三个字。文丞相胡同的名称是由
文天祥的祠堂而来的。
文丞相祠的东墙在文丞相胡同，大门在
府学胡同，是为纪念
南宋的抗元将领
文天祥而建立的。
文天祥是
南宋的
右丞相，他为维护祖国的统一，坚持不懈抗
至元十五年（公元1278年），他孤军奋战，在
大都途中，他写下
《过零丁洋》诗句，留下了“人生自古谁无死，留取丹心照汗青”的历史名句。他的诗成为教育少年儿童的楷模。
第二年10月文天祥被押送到
大都城，关押在元的兵马司土牢里。在关押的四年中，
文天祥坚贞不屈，誓死不投降元。至元十九年十二月初八，元朝皇帝
忽必烈亲自出马劝降，用
宰相的高职位诱惑。
文天祥不为所动，正气凛然说道：“愿赐一死足矣。”翻译成今天的话就是，只希望你让我为国捐躯，我就满足了。
一位阶下囚竟敢对大元皇帝说出这样的话，这不是对皇帝威严的高度蔑视吗？第二天，
忽必烈命令在
柴市处死
文天祥。
文天祥下了囚车，向围观的百姓询问，哪边是南方。然后朝着
南宋所在的方向深深地下拜，告别故土。
传说，就在
文天祥慷慨赴义的这一时刻，随着
鲜血洒落，大风骤然而起，漫天扬沙，遮天蔽日，如同黑夜降临。人与人之间站着，分辨不出对方的面孔。
忽必烈惊恐万状，急忙下命索关闭城门，以防出现意外。
从这天以后，一连好几天，天色阴沉晦暗，皇城里不得不在大白天点着
蜡烛照亮行路。大臣上早朝，都要由下人打着灯笼，在前面引导，这才敢抬腿走路。
忽必烈信奉
道教，他向
张天师询问是什么原因造成天气这么反常。天师回答，文丞相英灵不灭，天怒人怨。
忽必烈赶忙忏悔自己的罪过，下令赠给
文天祥金紫光禄
大夫、太保、中书平章政事和庐陵郡公等等官职，并且给他发了一个荣誉称号：忠武，来表示对文天祥的敬重。紧跟着，派人把这些封号书写到文天祥的
神主牌位，并且把
文天祥就义的
柴市打扫干净．泼上净水，在那里安置祭祀坛来祭祀这位英灵。
令人没有料想到的事情又发生了。就在祭祀刚刚开始的时候，突然狂风拔地而起．砂石横扫大地．在场的人谁都睁不开眼道睛。那块写有
忽必烈封号的
神主，鬼使神差地被大风卷到半天中。跟着雷声隐隐约约响起来，好似有谁在发怒、在斥责。
忽必烈这才恍然大悟，原来
文天祥的在天之灵不接受大元帝国的封号。
忽必烈只好下命令，取消他赠给文丞相的封号，改成原先
南宋王朝封的少保、右承相和
信国公的官职来祭奠这位至死不屈的热爱自己国土的英雄。命令刚刚一出口，天空豁然开朗，云消雾散，大地明媚。后代人仰慕文丞相惊天地泣鬼神的爱国气节，就在他被囚处建起了祠堂，来悼念他。