根据史书的记载，这座寺庙的历史可以上溯至
隋唐时期——它本是隋文帝杨坚赏赐给儿子杨俊的府邸，被改建为寺庙后初名济渡寺。唐太宗时被俗称为金胜寺，后又改名为灵宝寺，用来安置唐太宗死后出家的嫔御。后来又改名为崇圣寺，唐时曾在寺中设
樱桃宴待新进士。
清朝的陕西巡抚
毕沅，在其编订的《
关中胜迹图志》中将这座寺庙排在了第一名，包括拥有大、小雁塔的慈恩、荐福二寺在内的多座名寺古刹，都要居于其后。
法国人
沙畹，是学术界公认的19世纪末20世纪初世界上最有成就的
中国学大师，被誉为“欧洲汉学泰斗”。他是开创敦煌学的先驱，培养包括伯希和、马伯乐在内的一批有影响的汉学家。