据《龙虎山风景名胜区资料汇编》中记载，“
东汉未年（公元124年）
道教创始人——
张道陵，来云台山修道练功，采药炼丹，在山顶建立供用练功、住宿的庙宇”。因此，云台山成为上清
龙虎山十三景点之一。
唐朝时庙内就塑有白、李、黄三位仙姑神像。白、李、黄仙姑是道教仙，因此云台山成为道教名山。
清
乾隆二年（1737年），
乾隆皇帝下江南，游此即兴作诗一首，诗曰：“雨后凭栏，三百里，鄱湖在眼。逍览岭石，千万点，星斗罗胸。”并题“敕封云台山”镌刻石碑保存。至清
咸丰年间进行规模建造，庙宇非常壮丽，是按古风宫殿式设计，四周用石砌墙，且砌砖过屋脊，分上下两大栋，上栋是道教堂（仙姑殿），建筑奇特，整个殿堂是按
隋朝的风格用方块麻石卷成拱形。下栋是观音堂即佛教堂，教堂内可同时容纳几百人做功课，每年打“百子灯”醮就放此堂，道佛两殿，仙佛像精雕细刻，各种花纹图案金朱油漆，殿前还装有玻璃屏障，道佛两教堂正中上盖卷有锅底蓬，柱壁全部涂沫朱红油漆，整个庙内，深幽静寂，香烟缭绕，走入庙内香气扑鼻，使人别有一种感觉……令人遗憾的是：民国35年（一九四六年）立冬之日，前来庙宇守“冬”的香客太多，不小心失火，致使两座宝殿建筑付之一炬，只剩下乾隆皇帝御笔留下的“敕封云台山”石碑。
在原云台山老道后裔梅启生为首邀集下，云台山庙宇复兴修建，人们献工送料，于一九八二年建成了一幢四拼小庙，此后几年，香客越来越多，到一九九一年，按原古庙位置落成共贰拾余拼，总占地面积达六百多平方米的简易庙宇，随着香客的增多，云台山寺庙得到逐步发展，暮鼓晨钟，香火旺盛。
云台山风景秀丽，奇峰怪石林立，形象鲜明，神态逼真的景点就有28景，它们不但命名寓意深刻，其传说亦颇为感人，如“舍身崖”传说舍身可以救母。舍身前要吃七七四十九天斋，每天晚上当天焚香祈祷，夫妻离房净身，而后拜仙佛舍身。上世纪四十年代初就有两个舍身救母者，舍身后都还活着回家，山顶有一石，原名鸡公石，传说鸡公石原有嘴，会啼，只因它常带领山下村民家养的鸡群去田间吃庄稼，村民们怨声载道，此事被天神察觉，便派雷公把它的嘴截掉了，从此鸡公便不再啼了，更不能去祸害村民了，如今的鸡公只能默默地屹立云台山头。
诸多景观不胜枚举……，故特附二十八景于下： 1、龙须进2、鸡公石3、舍身崖4、中子岩5、梳妆台6、清风洞7、脚盆石8、门楼石9、马鞍石10、仙足迹11、马蹄迹12、仙人缸13、猿猴石14、如意峰15、悟空峰16、观音岩17、雷公石18、神道石19、颂经石20、文笔石21、晴雨台22、白鹤石23、象头石24、狮子石25、磨盘石26、仙人墓27、一线天28、仙妇岩。
云台山动植物资源非常丰富，动物有飞鸟近百种，兽类三、四十种，常见的有野猪、麂、水麂、山羊、山鸡、猴等。山间满布绿竹山花野果，不仅四季常青，而且长年都有鲜花盛开，春夏有山梨花，红、黄、蓝三色杜鹃花，秋季有金针花、山茶花、野菊花，以及似火的枫叶，冬季有腊梅花，真乃一个天然大花园，植物的种类有近400种，其中珍稀树种有黄山松、水杉、南国红豆杉等等，人们行走在山谷道中，清风拂面，花香扑鼻，鸟儿秋蝉，尽情欢唱，在山顶观云海看日出，心胸博发。由于自然风景奇特，气候宜人，特别是盛夏，凉爽非常，山上平均气温在18-25摄氏度之间，是人们理想的休闲、旅游、避署的胜地。