大山站房全为杉木建造之
日式建筑，造型特色与海线木造老站房同为三角形屋顶、入口廊柱双木并立、Y字形廊柱环列、L型回廊、牛眼窗等，而站房右侧斑驳的夯土墙（以竹条横直编织墙面内部支撑附著结构，再用泥土和米糠混合涂抹），显现了老站房独特之处，流露出古拙朴实之美。
1922年10月11日海线通车时，名为
大山脚驿（因附近有许多海岸阶地，被大自然侵蚀成类似脚趾状，故称大山脚），1962年4月1日站名改称大山。70.5.1改为有人号志站，71.8.18再改为三等站，80.4.1又改为甲种简易站，由後龙站管理。