晋怀帝时，中原大乱，晋豫州
淮北地区被北方
石赵夺去，“慎县”属扬州管辖。
东晋永和五年（349 年）收复，仍属豫州
汝阴郡。
南北朝属宋地，把山西雁门旧县侨置慎地，名为“楼烦令”（按《
宋书》郡县均带官名），属豫州刺史、西汝阴太守。将“慎县”置于南汝阴郡合肥以东，后避讳称梁县（今
肥东县梁园镇）。
西晋末年，
永嘉之乱后，慎人渡淮，南徙今安徽肥东县一带。
东晋咸和五年(330年)，东晋朝廷为此侨置慎县(治今安徽肥东县梁园镇),属侨置汝阴郡。
入
北齐，仍东魏建制，改平梁郡为南梁郡，慎县属之并仍为郡治。
陈永定三年(559年)，合州入陈，唯改南梁郡为梁郡，慎县属之并仍为郡治。
隋
开皇三年(583年)废郡，改合州为庐州(治合肥)。 撤汝阴、北陈、南梁等侨郡，改汝阴县为合肥县，仍保留慎县属庐州。
天宝元年(742年)，庐州改名
庐江郡，。
至德二载(757年)十二月，复名庐州，慎县隶属关系不变。
南宋绍兴三十二年(1162年)，为避孝宗讳，改慎县为梁县。仍属庐州。
至正二十四年即大宋龙凤十年(1364年)七月，改庐州路为庐州府，梁县属之。