白塔山因白塔寺而得名。宋末元初，白塔山一带为
西夏占据。
成吉思汗为完成统一大业，曾致书
吐蕃的
萨迦派法王，希望通过会议，和平统一藏区。萨迦派法王遂派一著名的
喇嘛去
蒙古拜见成吉思汗，但行至
兰州时不幸病逝。
元朝在1226年冬灭西夏国后，将
兰州纳入其版图。为纪念这位死去的喇嘛，在白塔山山巅建佛塔一座，垩饰如雪，并修有寺院，白塔山由此得名。
原塔至元末时塌毁，现存白塔系明
景泰年间（1450-1456年），镇守甘肃内监刘永成重建。清
康熙五十四年（1715年）甘肃巡抚倬奇补旧增新，扩建寺址，改名为慈恩寺。白塔七级八面，高约17米，下筑圆基，上着绿顶，各面雕有佛像，檐角系有铁马铃。塔外通涂白浆，如
白玉砌成。山上原有象皮鼓、
青铜钟、
紫荆树，古称“镇山三宝”。 寺内文物有记载
大禹治水的“夏禹岣嵝碑”。
1958年，白塔山辟为公园，总建筑面积8000多平方米，分为三台建筑群，依山而筑，飞檐红柱，参差有致，各建筑以亭榭回廊相连，四通八达。三台建筑群的迎面是白塔山主峰。
2022年4月，
黄河流域兰州白塔山
生态环境导向的开发项目纳入国家试点，试点期限为2022—2024年。
白塔山山势巍峨起伏，蟠结城郊，有拱抱
金城之势，为兰州北面的天然屏障，以“白塔层峦”列为兰州八景之一。
二十世纪五十年代，政府先后在坍塌的古建筑遗址和废墟上重建了气势宏大、庄重典雅的一、二、三台古典式建筑群。修建了雕梁画栋、飞檐斗拱的百花亭、驻春亭、牡丹亭、喜雨亭等建筑。并架起了跨越黄河直达山巅最高建筑牡丹亭的“天下黄河第一索道”。公园内的
黄河奇石馆和
裕固族接待帐房为别处少见，独具风格。
山下为
中山桥，二者连为一体，成为兰州旅游的必游之地。白塔山山上还可通达
兰州碑林等景点，山脚下是金城关文化风景区，景区内有兰州段
黄河大桥的历史、蜡像等。