南朝梁大同二年（536年），废赤坎戍，置仁州，治所在赤坎城（今安徽省固镇县仁和集；一说在今安徽省泗县西南）。北齐，仁州领
谷阳郡（今安徽省固镇县城南一公里谷阳城遗址）、
蕲城郡（今安徽省宿州市埇桥区蕲县镇）。南朝陈
太建五年（573年），仁州领蕲城郡和
颍川郡（今安徽省凤台县）。北周，仁州领谷阳郡、蕲城郡、龙亢郡。
隋开皇年间，废郡，蕲县、谷阳县、龙亢县、临淮县属仁州。隋炀帝
大业元年（605年），废仁州，蕲县、谷阳县、临淮县属徐州。
唐武德四年（621年），置仁州，治所在夏丘县（今安徽省泗县）；六年，撤销夏丘县。
贞观八年（634年），废仁州、龙亢县，虹县改属
泗州，谷阳县改属
北谯州（初名
谯州）。