公元379年，东晋延平县南乡沙源地(即今福建沙县区城东古县村)始设沙戍。405年置沙村县，县名是因县治所南端有沙源地而得名，属建安郡。

596年，废沙村县。唐武德四年（621）复沙村县建制改称沙县，属建州，后改属汀州、剑州。唐中和四年（884年），沙县治所由沙源地迁往沙溪水北杨篢坂（今县人民政府驻地凤岗镇）。宋代沙县属南剑州。元代先后属南剑路、延平路。明清时代均属延平府。民国时期先后属北路观察使署、建安道、省直属、延建省、第三行政督察区、第二行政督察区。1949年6月16日，沙县解放，属福建省第二行政督察专员公署（后改称南平专员公署）管辖。1970年6月划归三明专区。1983年4月，属三明市所辖。