“
兰台”最早为战国时期楚国的台名，其上建有宫殿。
宋玉《
风赋》说：“楚襄王游于兰台之宫，宋玉、景差侍，有风飒然而至。”张九龄《
登古阳云台》也说：“楚国兹故都，兰台有余址。”
西汉，皇宫内建有藏书的石室，作为中央档案典籍库，称为兰台。
御史大夫的属官
御史中丞即居于此，既掌管兰台藏书，又负责纠察，其下属为
侍御史。东汉成立
御史台（隶属少府），中丞出任御史台的长官。兰台作为御史中丞和侍御史的办公处，也渐渐成为御史台的别称，有时还称“兰台寺”。《通典》和《文献通考》都说：“后汉以来，谓之御史台，亦谓之兰台寺。”
明初取消御史台，改为
都察院，下设十三道
监察御史（正七品），共一百一十人；小说《红楼梦》中，林如海在担任兰台寺大夫后出任的
巡盐御史，在明代制度上是由监察御史充任的。
在东汉，兰台也是史官修史之处，置
兰台令史，秩六百石（一说兰台令史六人，秩百石）。选能通苍颉、史籀篇者担任，除在殿中受公卿奏事外，并负责典校秘书或从事撰述。东汉史家班固，就曾担任兰台令史一职。
唐高宗龙朔二年（662年），唐廷改
秘书省为
兰台，原
秘书监改为兰台太史，
秘书丞改称兰台大夫，秘书少监为兰台侍郎，
秘书郎改为兰台郎，但咸亨初年即恢复旧制。尽管为时不长，但唐人诗文中常称秘书省为兰台或兰省。例如白居易《
秘书省中忆旧山》诗：“犹喜兰台非傲吏，归时应免动移文。”其《泛渭赋》又云：“登予名于太常兮，署予职于兰台。”
《
红楼梦》第二回描述林如海的身份说：“这林如海姓林名海，表字如海，乃是前科的探花，今已升至兰台寺大夫。本贯姑苏人氏，今钦点出为巡盐御史，到任方一月有余。”
就其中的“兰台寺大夫”一职，脂砚斋甲戌眉批说：“官制半遵古名亦好。余最喜此等半有半无，半古半今，事之所无，理之必有，极玄极幻，荒唐不经之处。”当代有研究者认为，此“兰台寺大夫”实即都察院御史。
关于林如海官职的另一条线索，出现在《
红楼梦》第八十二回。在高鹗续文中，林黛玉梦到凤姐说：“你还装什么呆。你难道不知道林姑爷升了湖北的粮道，娶了一位继母，十分合心合意。”亦即
高鹗认为林如海从兰台寺大夫、巡盐御史任上改为湖北粮道属于升官。