檀石槐自幼在外祖父家长大，为人勇敢健壮，富有谋略。檀石槐十四五岁时，有一个部族的首领掠夺走他外祖父家的牛羊，檀石槐只身骑马追去和他们交战，所向无敌，将被抢去的牛马全部追了回来。自此以后在部落中深受众人的敬畏和信服。檀石槐制定法令，审理诉讼，没有人敢违犯，于是被推举为部落首领。
檀石槐在弹汗山（今内蒙古商都县）和歠仇水（今东洋河）畔建立王庭，位于
高柳（今山西阳高）以北三百多里。檀石槐兵强马壮，非常强盛；东部和西部的部落首领都向他归附。檀石槐趁此机会向南劫掠东汉边境地区，北面抗拒
丁零，东面击退
夫余，西面进击
乌孙，完全占领
匈奴原先的全部地盘，东西长达一万四千多里，南北宽达七千多里，山川水泽和盐池都在其管辖范围。
永寿二年（156年）七月，檀石槐率领三四千骑兵侵犯东汉的
云中郡。
延熹元年（158年）、延熹二年（159年）和延熹六年（163年），鲜卑多次侵犯东汉边界。
延熹九年（166年）夏天，鲜卑分派几万骑兵进入东汉沿边的九个郡，并且杀害掳掠官吏百姓，于是东汉朝廷派
张奂进攻鲜卑，鲜卑人这才出边塞离去。朝廷对鲜卑的长期侵犯感到忧虑，但又无法控制，于是派使者带着印绶，打算封檀石槐为王，并且与他和亲。可是檀石槐不但不肯接受，反而对东汉缘边要塞的侵犯和劫掠更为厉害。檀石槐将管辖地区分为三部：从
右北平郡以东，直至辽东郡，连接扶
余、
濊貊等二十多个城邑，为东部；从右北平郡以西，直至上谷郡的十多个城邑，为中部；从上谷郡以西，直至
敦煌郡、
乌孙等二十多个城邑，为西部。每一部设置一名首领管辖。
建宁元年（168年），
汉灵帝即位后，幽州、并州、凉州的边塞诸郡每一年都会遭到鲜卑的攻打，被杀死的、被抢掠的，不可胜数。
熹平六年（177年）八月，汉灵帝派遣乌丸校尉
夏育由高柳出发，破鲜卑中郎将
田晏由云中出发，匈奴中郎将
臧旻率领
南匈奴的屠特若尸逐就单于由
雁门出发，各自率领骑兵一万多人，三路分兵出塞，意欲推进二千余里。檀石槐命令东、中、西等三部首领各自率领部众迎战。夏育等人遭到惨败，甚至连符节和辎重全都丧失，各自带领骑兵数十人逃命奔回，汉军士兵仅战死的人就多达十分之七八，只有十分之一的汉军士兵回到汉朝。
光和四年（181年），檀石槐去世，时年四十五岁，他的儿子
和连继任首领之位。
光和元年（178年），当时鲜卑人口日益增多，农业、畜牧和射猎都满足不了百姓生存，檀石槐于是亲自巡视，他见到乌集秦水有几百里宽阔，水不流动，水中有鱼，但没办法得到鱼。檀石槐听说倭国（《
魏书》作汗国）人善于用网捕鱼，于是向东进攻倭国，俘获一千多家的倭国人，将他们迁到秦水边居住，要他们捕鱼，以弥补粮食不足。
檀石槐的父亲名叫投鹿侯，起初在
匈奴从军三年，他的妻子在家中生了孩子。投鹿侯回来后，感到奇怪，想杀掉孩子。妻子说她曾经在大白天走路，听到雷响，就抬头朝天上看，刚好有冰雹掉进嘴里，她就吞了下去，接着就怀了孕，十个月后生下孩子，这个孩子必定有过人的地方，最好暂且抚养他长大。投鹿侯不听，就将孩子丢掉。妻子私下告诉娘家人，要他们收养，取名为檀石槐。
范晔《
后汉书》：①“石槐骁猛，尽有单于之地；蹋顿凶桀，公据辽西之土。其陵跨中国，结患生人者，靡世而宁焉。然制御上略，历世无闻；周、汉之策，仅得中下。将天之冥数，以至于是乎？”；②“勇健有智略。”