秦置陈郡，或为陈国、淮阳国、淮阳郡。辖今豫东、豫南及安徽近30个县市的广大地区，领12县：陈县、固陵、阳夏、柘县、苦县、新阳、汝阴、寝县、新蔡、平舆、上蔡、项县。

秦始置陈郡。

汉初，属韩信之楚国，后除为郡。高帝十一年（前196年）置淮阳国。惠帝、吕后、文帝时屡除为郡。景帝三年（前154年）淮阳国除为淮阳郡。宣帝元康三年复置淮阳国。治陈县（在今河南省淮阳区一带），属兖州刺史部。成帝元延末年（约前8年）领九县：陈县、苦县（今鹿邑县一带）、阳夏县（今太康县一带）、宁平县（今郸城县一带）、扶沟县、固始县、圉县（今杞县圉镇）、新平县、柘县（今柘城县）。其辖境大致相当于今河南淮阳、太康、鹿邑、西华、柘城一带。平帝元始二年（2年）有135544户，981423人，王莽改淮阳为新平。

后汉，光武帝建武元年（25年）置淮阳国，封更始帝刘玄为淮阳王，未几国除。建武十五年（39年）复置淮阳国。章帝章和二年（88年）改淮阳国为陈国。献帝建安二年陈国除为陈郡。

三国魏置陈郡，其管辖区域已限制在今河南的太康、西华、商水、淮阳、郸城、柘城等五六个县的范围之内，其中太康，魏晋时期称阳夏，是陈郡何氏的发祥地。自汉代至魏晋时期，陈郡何氏家族见于文献记载者仅有4代11人。该家族的奠基者是东汉末年的何夔。另三国时魏诗人曹植(192-232)最后被封于此，故后人称之为“陈王”或“陈思王”。

西晋时陈郡并入梁国，北魏时陈郡设治项县（今河南沈丘一带）。隋开皇三年（583年）废。大业中置淮阳郡，治宛丘县（今淮阳县一带）。唐置陈州。

东晋咸和五年(330年)，在合肥侨置陈郡。治侨置汝阴县。属豫州。南朝宋时改属南豫州。

南朝齐改陈郡为北陈郡。属西豫州。

南朝梁天监五年(506年)，属豫州。普通七年(526年)十一月属南豫州。

梁太清元年(547年)七月甲子，改设合州，北陈郡属之。

北齐，北周，陈因之。

北周大定元年(581年)二月，隋代北周，合州改属隋朝，北陈郡属之。

隋开皇三年(583年)，废北陈郡入庐州。