前汉在境内置3县,
赣榆县治今盐仓城,属琅琊郡;祝其县治今古城,
利城县治今利城,同属东海郡。平帝元始元年(公元元年),以赣榆县2000户为扶德侯马宫食邑,县治徙郁洲。新莽时宫死国除地还于县,仍治郁洲。
晋武帝太康元年(208)复置赣榆县,治艾不城,与祝其、利城同属东海郡。东晋时县为南北交争之地,
归属不定,至安帝义熙五年(409)复属晋。
南北朝初属刘宋,明帝泰始五年(469)县北部归魏,义塘戍以南仍属刘宋,泰始六年(470)于赣榆县侨置青、冀2州。萧梁武帝中大通二年(530)于今县地置怀仁县,隶南北2青州。东魏孝静帝武定七年(549)归魏,置义塘(郭下)、归义、怀仁3县属南青州义塘郡;上鲜(郭下)、洛要2县属海州武陵郡;赣榆(郭下)、安流、广饶、下密4县属海州东海郡。
唐高祖武德四年(621)置新乐,怀仁、利城、祝其等9县隶海州,东海、青山、石城、赣榆4县隶环州。六年,省新乐人祝其。八年省祝其、利城入怀仁,废环州,以属县入东海。唐末藩镇割据,海州属兖郓青密节度,昭宗光化二年(899)归准南。