战国末当已有此官。秦为中级军官。
西汉，
汉武帝为了加强对长安城的防护而置中垒、屯骑、步兵、越骑、长水、胡骑、射声、虎贲八校尉。八校尉之秩皆为二千石，属官有丞及司马。其中，中垒本为中尉的属官，武帝时从中尉下分出而升为校尉，掌北军垒门内外；屯骑校尉掌骑士；步兵校尉专掌位于长安西南郊上林苑的苑门屯兵；
长水校尉掌长安西北郊的宣曲胡骑;胡骑校尉掌池阳胡骑,不常置。
射声校尉掌射声士；
虎贲校尉掌轻车。八校尉统领的军队是从地方或少数民族中选募来的常备兵。八校皆属精劲之旅，而胡骑、越骑尤为重要。西汉时统领者多为皇帝的亲信。八校尉具体分工如下：城门校尉：掌京师城门屯兵，有司马、十二城门侯。中垒校尉：掌北军垒门内，外掌西域。屯骑校尉：掌重装骑兵部队。步兵校尉：掌上林苑门屯兵。越骑校尉：掌轻骑兵部队。长水校尉：掌驻扎在长水宣曲的、由
匈奴等
胡人组成的骑兵。胡骑校尉：掌驻扎在池阳的、由匈奴（部族与长水校尉所辖不同）等胡人组成的骑兵。射声校尉：掌禁军中的弓箭手部队。虎贲校尉：掌战车部队。
汉朝在西域等少数民族地区的驻军长官也称校尉，如驻西域的戊己校尉、驻陕甘的护羌校尉等。东汉时将中垒校尉省去，又将胡骑并入长水,虎贲并入射声，只剩下五校尉。史书中常见的“五营”、“五校”，即指五校尉所属的军队。两汉时的诸校尉都以戍卫京师为主要职责，东汉时五校尉多由宗室担任，兼任宿卫宫廷的任务。
魏、晋、
南朝及
北朝魏、
齐均置，属领军将军；
北齐时属左、右卫府。诸朝都城不在关中，仍称“长水”仅为沿袭旧名。到
三国时期，有军功者越来越多，大量被封为将军，校尉反而成为了低级军官的职位。如《赤壁之战》：“以鲁肃为赞军校尉。”鲁肃当时担任协助主帅周瑜规划军事的副将。
隋唐时期定例为武散官低品官号。唐、宋、元、明六品以下，清只限于八九品。
明、
清以卫士为校尉。明
锦衣卫的校尉同差役。清除散官外，实职不用校尉名，仅为习称。