卑南山地质由层理及淘选度欠佳的砾岩组成，
砾石成分包含变质砂岩、石英片岩、结晶石灰岩、变质基性火成岩、石英岩等。后来经过板块挤压，摺皱隆起成复向斜型式的台地丘陵。著名的初鹿牧场、美农高台茶园皆分布其上。次高点为槟榔四格山，，
台地东西两侧都有断层切过，东侧的卑南山断层，可见到明显断层崖。由于砾岩层有胶结良好，透水性佳之特性，因此切割甚为剧烈，形成峰头笋立，一如锯齿的“火炎山”地貌，有“台东赤壁”、“小黄山”之美名。山麓沟谷产生之土石流堆积，日久即形成冲积扇地形。
陆森宝，卑南人名：Baliwakes，日治时代学名：森宝一郎，时代：1910-1988年，族群：卑南人，南王部落 。
1949年，陆森宝先生在台东农工任教时，常听说，东部是台湾最落后的地区，但是陆老师不以为然。他认为台东有那么多高高的山，他以高山为荣，东部的山是东部 所有人的精神堡垒，便做了这首《卑南山》。