1911年“乌山至宝积寺”的铁道建设由时任
铁道省总裁后藤新平提出。经过多次争取，1912年2月，两站之间的轻便铁道建设得到许可。
1921年宝积寺侧的铁路开始建设而乌山侧没有进行，当地居民再三请求，准备前往
东京上访时，铁道省技师到访乌山，乌山侧工程开始。
1970年，日本国有铁道咨询委员会报告全国铁路线营收情况，乌山线盈利虽少于
日光线、
两毛线、
水户线，却也高于
鹿岛线、
鹤见线，与
东金线、
川越线持平，最终乌山线得以保留。
1995年12月1日，与
东北本线（
宇都宫线）直通运行开始，宇都宫站~宝积寺站间的乌山线列车仍为单人运行。
2019年3月14日更改时刻表后，没有区间列车，全线1天下行14班上行13班，除了3班往复列车在乌山线内运行，其余列车均直通进入
宇都宫线（
东北本线）
宇都宫站。