在
小乘佛教兴起之后，各个部派对
原始佛教的基本经典——阿含的教说进行了种种的注释、整理和组织，进一步发挥了原始佛教的教义，出现很多阿毗达磨（即“法的研究”）的论书。据传小乘的各个部派都有自己的论藏。但目前流传下来的只有南传上座部和北传说一切有部的论典。
据觉音所编南传上座部论书有7种：《法聚论》、《分别论》、《界论》、《人施设施》、《论事》、《双论》和《发趣论》，另有颇多的注疏和复注。这7部论书常被认为是南传上座部佛学的基本理论著作。以后，还出现阐述上座部教理特别是修持方法的《解脱道论》；觉音又在《解脱道论》的基础上著《清净道论》，被誉为小乘佛教三藏典籍和义疏精要。
北传说一切有部的基本论书有所谓“六足”与“一身”。“六足”指《集异门足论》、《法蕴足论》、《施设足论》、《识身足论》、《界身足论》、《品类足论》；“一身”即迦多衍尼子著《发智论》（异译《八犍度论》），因其论义广博，故称为“身”。
相传以后又有以胁尊者为首的五百论师在迦湿弥罗费时12年编集的《
大毗婆沙论》，为详细解释《
发智论》及破斥异部所执的著作。稍后，法胜著《阿毗昙心论》，对《大毗婆沙论》进行评释。把有部复杂多歧的学说组成为一个体系。而法救的《
杂阿毗昙心论》又对《阿毗昙心论》作了解释和补充。
《杂阿毗昙心论》之后，又有世亲所著《
俱舍论》出，它以《杂阿毗昙心论》为基础，结合当时各种学说，对说一切有部《大毗婆沙论》作了批判性的总结。随后有众贤精心研究《俱舍论》12年，著《顺正理论》及《显宗论》，对世亲的《俱舍论》作了批判性的注解。
另有诃黎跋摩所著的《
成实论》，亦属小乘论书。因其内容讲到我法二空之理，被看作是小乘空宗走向大乘空宗的一部过渡性论书。属于小乘论书的还有：说一切有部世友所著的《
异部宗轮论》（又名《十八部论》、《
部执异论》），贤胄部世贤所著的《
三法度论》，未详作者的《
三弥底部论》，经量部鸠摩罗多著的《喻鬘论》、《痴鬘论》、《显了论》等。
汉译小乘论较多，《历代三宝记》卷十五载李廓撰魏世《
众经目录》列有小乘论6部。《
开元释教录》卷二十载有小乘论36部，698卷。《频伽藏》则列有46部，732卷。这些论书一经译出，许多佛教学者和僧人竞相研习。东晋时，道安、慧远等提倡毗昙之学，经几代传承，逐渐演变成为
毗昙学派。
后秦时鸠摩罗什译出《成实论》，宋、齐、梁、陈各代，弘传颇盛，最后形成成实学派。《俱舍论》在中国两次翻译，研习弘扬者尤众，多家为之作注疏释，如唐代普光《俱舍论记》，法宝和神泰分别作《俱舍论疏》，世称“俱舍三大部”。日僧道昭、智通、智达、玄昉也于唐代先后来中国向玄奘和智周学法，将《俱舍论》传入日本，形成俱舍宗，并著有疏钞多种。