1949年设遵义专区，专署驻遵义市，辖遵义市（由遵义县析置）及遵义（驻遵义市）、绥阳（驻洋川镇）、正安（驻凤仪镇）、道真（驻土溪场）、婺川（驻都濡镇）、凤冈（驻龙泉镇）、湄潭（驻义泉镇）、仁怀（驻中枢镇）、赤水、鳛水（驻东皇殿）、桐梓等11县。属贵州省。

1951年撤销遵义市，并入遵义县。遵义专区辖11县。1952年复设遵义市。辖1市、11县。1955年遵义市改由省直辖。1956年原镇远专区所属余庆县划归遵义专区。遵义专区辖12县。

1958年原由省直辖的遵义市划归遵义专署领导。撤销遵义县，并入遵义市；撤销道真县，并入正安县；撤销凤冈、余庆2县，并入湄潭县。原属安顺专区的息烽县（驻永靖镇）划入遵义专区。辖1市、9县。

1961年恢复遵义（驻南白镇）、道真（驻玉溪镇）、凤冈（驻龙泉镇）、余庆（驻白泥镇）4县。遵义专区辖1市、13县。1963年原属贵阳市领导的开阳县划入遵义专区。辖1市、14县。1965年将息烽、开阳2县划归安顺专区。遵义专区辖1市、12县。

1970年遵义专区改称遵义地区。

2009年5月4日，遵义地区改称为遵义市至此，全市共辖2市辖区、2市、8县和2民族自治县，即：红花岗区、汇川区、赤水市、仁怀市、遵义县、桐梓县、绥阳县、正安县、凤冈县、湄潭县、余庆县、习水县、道真仡佬族苗族自治县和务川仡佬族苗族自治县。其中新蒲新区并不是一个市辖区，是为了发展和带动城经济，分散主城压力而设立的新城区，新蒲新区面积300平方千米，人口12万。邮政编码563000。新区管委会驻红花岗区新蒲镇，没有区政府，尚未形成县级行政区，但是是作为未来新市辖区的基础。

遵义市位于贵州省的北部。地处国家规划长江中上游综合开发和黔中经济区综合开发重要区域，处于成渝—黔中经济区走廊的核心区和主廊道，黔渝合作的桥头堡、主阵地和先行区，是西南地区承接南北、连接东西、通江达海的重要交通枢纽。