秦置汝阴县，属陈郡。蒙古至元二年（1265年）废汝阴县入颍州，属河南行省汝宁府。

秦置汝阴县，属陈郡。治所即今安徽省阜阳市。

西汉改汝阴县为女阴县，属汝南郡。东汉复为汝阴县。

三国魏初为汝阴县，属汝南郡。景初二年（238年）析沛国置汝阴郡，为汝阴郡治；后废，汝阴县复属汝南郡。泰始二年（266年）复置汝阴郡，同廓设汝阴县；泰始元年，晋武帝封司马骏为汝阴王，后改封司马谟为汝阴王。西晋永嘉之乱后，汝阴郡先后属汉（前赵）、后赵、前燕、前秦、后燕、东晋。汉刘渊封子刘景为汝阴王；刘曜封子刘厚为汝阴王；后赵石虎封子石琨为汝阴王。宋永初元年至景平元年（420—423年）为汝阴郡，属豫州。太常八年至太平真君八年（423—447年）汝阴为魏占领，属魏之豫州，但未设治，因宋将汝阴郡先侨置于司州（今河南省信阳）后侨置于黄陂（今武汉市黄陂区），称南汝阴，属南司州；北魏神三年（430年）太武帝封长孙道生为汝阴公；后封孔照为汝阴侯。元嘉二十四至二十七年（447—450年），收复原汝阴地，未设治，南汝阴仍侨置合肥；文帝封子刘浑为汝阴王。于建元元年（479年）代宋之后，改南豫州称豫州，于南汝阴郡同廓设汝阴县，均属豫州，终齐之世，原汝阴地仍属北魏。太平真君十一年至孝昌四年（450—528年）原汝阴地属魏，孝昌四年在此未设治，其间于和平二年（461年）文帝封拓跋天赐为汝阴王；太和二十年（496年）孝文帝封拓跋景和为汝阴王。北魏孝昌四年亦即武泰元年，于原汝阴郡置颍州，此为州治之始。同年，颍州为梁占。大通二年至太清三年（528—549年）原汝阴地属梁，置胡城县，太清年间因侯景之乱为高澄占领。

隋开皇三年（583年）改汝阴郡为颍州。隋大业初年复称汝阴郡，为汝阴郡治。

唐武德四年（621年）为信州治；六年（623年）复为颍州治。天宝元年（742年）复名汝阴郡。乾元元年（758年）复名颍州，同廓设汝阴县，属河南道。

梁、唐、晋、汉、周均为颍州。

北宋开宝六年（973年）移治今阜阳市东南，后还旧治。北宋政和六年（1116年）升颍州为顺昌府，属京西北路，是为府治之始。金皇统元年（1141年）占领顺昌府，改为颍州，同廓设汝阴县，属南京路。

蒙古至元二年（1265年）废汝阴县入颍州，属河南行省汝宁府。

东晋咸和五年（330年），在合肥侨置汝阴县，为侨置汝阴郡治所。治所在今安徽省合肥市(东北)。南朝宋永初元年（420年），汝阴县改属南汝阴郡，并兼南豫州、南汝阴郡治。南朝齐时，侨置的豫州，又称西豫州迁治汝阴，同时设北陈郡。仍兼南汝阴、北陈郡治。南朝梁天监五年（506年），改南汝阴郡为汝阴郡，迁豫州治汝阴。普通七年（526年）十一月，豫州迁治寿春，迁南豫州治汝阴。太清元年（547年）七月甲子，改设合州于汝阴，汝阴县兼合州，汝阴郡、南顿郡等治。北周大定元年（581年）二月，隋代北周，汝阴县随合州改属隋朝，仍其旧制。

隋开皇三年（583年），废郡，撤县，改合州为庐州，改汝阴县为合肥县。