室昉字梦奇，是辽南京人。幼年就谨慎忠厚、爱好学习，闭门读书二十年间即使是邻里的人也不认识他。会同初年考中进士第，担任卢龙巡捕官。太宗进入汴京接受册礼，下诏让室昉担任知制诰，负责礼仪事务。
保宁年间，兼任政事舍人，数次被景宗延请询问古今治乱得失，回答很符合景宗要求。景宗重视室昉处理疑难事务的才干，改任他为南京副留守，他处决狱讼能够做到公平合理，人们因此感到方便。又迁官为
工部尚书，不久改任枢密副使，
参知政事。很快又拜为
枢密使，兼北府宰相，加同政事门下
平章事。
乾亨初年，负责监修国史。统和元年（983年），请求告老还乡没有被允许。后来他进呈《尚书·无逸篇》以劝谏君主，太后听说后嘉奖了他。统和二年秋天，下诏修治诸岭道路，昉发动民夫二十万，一日即完成。当时，室昉与
韩德让、
耶律斜轸互相友善，同心
辅政，处理积弊，知无不言，努力安顿百姓减少赋敛，因此法度修明，朝廷没有异议。统和八年（990年），再次请求致仕。
朝廷下诏让他入朝免拜，赐给几杖，太后派遣阁门使李从训持诏慰劳，让他经常居住在南京，封为
郑国公。当初，
晋国公主在南京建佛寺，皇帝允许赐给匾额。室昉上奏说：“之前下诏书对没有名号的寺院悉数问罪。如今因为公主请求就赐匾额，不仅违背先前的诏令，恐怕还会助长这样的风气会。”朝廷于是听从了。
室昉上表进呈所修撰的《实录》二十卷，获得手诏褒奖，加官政事令，赐帛六百匹。统和九年，举荐韩德让代替自己没有被听从。皇帝因为室昉年老害怕寒冷，赐给他貂皮衾褥，允许他乘辇入朝。病重后又派遣
翰林学士张干到府第授给他中京留守的官职，加为尚父。去世时年七十五岁。皇帝嗟叹悼惜，为他辍朝两日，赠官尚书令。室昉遗言告诫不要厚葬。害怕人们称誉他超过实情，自己为自己写了墓志。
室昉自辽景宗时起担任宰相，至统和初年去世，在任上多次劝谏君主，在景宗去世后又与其他宰相共同辅政，使辽国法度修明。任内组织修建道路以改善交通，并对经历战事之后凋敝的山西州县施行免税和安定流民的政策。