在
光学显微镜下能够识别出来组成煤的基本单位，称为显微组分。由植物遗体变化而成的称为有机显微组分，而煤中的矿物杂质则称为无机显微组分。研究煤的显微组成，可把煤磨制成薄片（厚度0.02mm左右），在光学显微镜下，用透射光进行观测。不同的显微组分，其颜色不同，有红色、黄色、棕色、黑色等，结构、形态也不同。但煤薄片的研究仅限于低、中煤化程度的煤，中、高煤化程度的煤因其逐渐不透明而不利于研究。把煤磨成光片，或把煤粒粘结起来制成粉煤光片，在光学显微镜下，用反射光进行观测，不同的显微组分，其反光色、形态、结构和突起不同。不同煤化程度的煤均可在反射光下进行观测，故光片和粉煤光片得到广泛的应用。透射光和反射光下看到的煤的显微组分，可分为有机显微组分和无机显微组分。
煤的有机显微组分可分为三大组，即
镜质组、
壳质组、
惰质组，每组中可根据形态和结构的不同再分出若干显微组分和显微亚组分。
镜质组是煤种最常见的显微组分，其含量约占50%~80%以上。镜质组是由植物的根、茎、叶在覆水的
还原条件下，经
凝胶化作用而形成。低、中煤阶时，镜质组在
透射光下呈橙红色、褐红色，反射光下呈灰色、浅灰色，有时具有弱的荧光性。镜质组分性脆。裂隙和微孔隙发育，微孔孔径一般在50nm到2μm之间。镜质组的密度在1.27~1.80g/cm3之间，中煤阶时有最低值，高煤阶时密度大。根据
植物细胞结构的保存程度及形态特征，镜质组可分出下列各种显微组分：
结构镜质体、无结构镜质体（包括均质镜质体、基质镜质体、
团块镜质体、胶质镜质体）、镜屑体等。
壳质组分由于化学性质稳定，不易被细菌等微生物破坏、分解，故又称稳定组。壳质组分含大量脂肪族成分，故有人称为类脂组。壳质组包括孢子体、角质体、木栓体、树脂体、藻类体、荧光体、沥青质体、渗出沥青体和壳屑体等显微组分。壳质组在透光下多数成黄色、少数为黄绿色、红橙色，反射光下呈深灰色、灰色。有突起。各种壳质组分都有自己的特定形态，轮廓清楚。壳质组分具有强的荧光性，在蓝光、紫外光的激发下可发出绿黄、亮黄色的荧光。壳质组分的反射率比镜质组分和惰质组分低，密度小，可用重液分离的方法将其富集。
惰质组是煤中常见的显微组分，因其在结焦过程中不软化，呈惰性，故名惰质组。惰质组分的成因有多种：植物遗体在缺水多氧的环境下，经氧化而形成；森里火灾，植物受不完全燃烧也可形成；泥炭表层受真菌等微生物腐解；强烈的煤化作用也可使各种组分惰质化。惰质组分在透射光下一般为黑色不透明，反射光下呈亮白色、黄白色或灰白色，惰质组分不发荧光。由于惰质组分密度较大，硬度较高，故常显示正突起。惰质组分的反射率高，但不同的惰质组分有差别，至高煤阶，各组分差别减小。惰质组分含碳量高，含氢量低氧含量中等，挥发分低，热解时不具粘结性，煤中惰质组分高对炼焦不利。惰质组分不生油，生气的数量也较少。我国西北地区中生代的煤中，惰质组分含量高，华北地区古生代煤中惰质组含量少一些，新生代多数煤中惰质组分含量很少。
惰质组可分出
丝质体、半丝质体、粗粒体、微粒体、菌类体和惰屑体等显微组分。
煤中的矿物杂质称为无机显微组分，煤中矿物质的数量和性质会影响煤的加工和利用，并造成环境污染但有些矿物质则可以加工利用。煤中矿物质按来源可分为
原生矿物、同生矿物、后生矿物。煤中矿物杂质有
粘土矿物、
碳酸盐矿物、硫化物、氧化物、
氢氧化物、盐类，还有一些重矿物和痕量元素。
粘土矿物是煤中含量最多的矿物杂质，约占煤中矿物杂质总量的60%~80%。常见的粘土矿物以高岭石和伊利石为主，而蒙脱石和
伊利石——
蒙脱石混层矿物较少，煤中粘土矿物通常以两种形式存在，一种呈结晶状态，如高岭石，另一种呈非结晶的微粒状，充填胞腔或分散在基质中，有时集合成条带状、透镜状、团块状或不规则状。
煤中常见的碳酸盐矿物有
方解石、
菱铁矿，还有少量的
白云石、
铁白云石等。煤在锅炉中燃烧时，这些矿物会降低灰渣的熔点，使煤灰容易结渣，影响生产。
煤中方解石多数为后生矿物，由于地下水的活动，使CaCO3在煤的裂隙或层面上沉淀形成；有时由于岩浆热液作用，也可形成方解石，在一些海相的聚煤环境中，有时也发现原生的方解石晶体。
煤中菱铁矿多呈球状结核、透镜状或隐晶质块体，结核内常具放射状、同心圆状结构，有时交代植物组织。煤中菱铁矿是在氧气不足的弱还原条件下形成的同生矿物，在氧化条件下，易生成褐铁矿。
常见的是
石膏CaSO4·2H2O。煤中的石膏多为后生作用形成。