自从
秦朝起，“大漠”一词就经常在史书中出现。
汉朝时
汉武帝派大将军
卫青将
匈奴赶到“
漠北”。后来
霍去病深入漠北至
狼居胥山（
蒙古国的
肯特山脉）。公元89年（东汉永元元年）夏六月开始，窦宪、耿秉率军与南匈奴军队在涿邪山 匈奴人会合（今蒙古国满达勒戈壁附近），与北单于战于
稽落山（今蒙古国额布根山），北单于大败逃走，汉军追击，俘杀一万三千余人，北匈奴先后有二十余万人归附。窦宪、耿秉登燕然山（今蒙古国杭爱山），由班固撰写《封燕然山铭》文，刻石纪功而还。
北魏把
柔然驱出“漠南”，崔浩进言乘机攻占
柔然，张渊、徐辩以：“蠕蠕，荒外无用之物，得其地不可耕而食，得其民不可臣而使，轻疾无常，难得而制；有何汲汲，而劳士马以伐之？”逐罢。明初洪武时期明军把残元驱赶至岭北地区朱元璋在漠南地区先后设置了
卫所40多处分别为九大塞王统御。
清朝政府把漠北蒙古称为
喀尔喀蒙古，至
民国时期
外蒙古独立；而
漠南蒙古所在的地域则演变为今
内蒙古自治区。