山国原址在今新疆吐鲁番县西南。都城是墨山城。有450户人家坐落在山中，近5000口人。上千个战士，手持的兵器都由山国山中的铁矿冶炼而成。王以下有辅国侯、左右将、左右都尉、译长各一人。

《汉书·山国传》载：“山国，去长安七千一百七十里。户四百五十，口五千。到焉耆百六十里，西到危须二百六十里，东南与鄯善、且末接。”山国的地域范围，在今博斯腾湖东南，王城所在不详。故颜师古注曰：“常在山下居，不为城治也。”因名山国。文中载西至危须二百六十里有误，应为西北至危须二百六十里。因为危须在博斯腾湖以北。其国所需谷物均依赖危须和焉耆。