秦始皇三十七年（公元前210年）东巡，在
金陵停留期间，废弃前朝楚国
金陵邑，设立
秣陵、
江乘等县，隶属会稽郡。楚汉之际，分割会稽郡设鄣郡，江乘县改隶鄣郡（汉武帝元封二年改名
丹阳郡）。
西晋太康元年（280年）恢复江乘县。西晋末叶，洛京丧乱，
衣冠南渡。东晋元帝在江乘县侨置
南东海郡、
南琅琊郡、南东平郡、
南兰陵郡四郡。南琅琊郡寄治在江乘县的金城。金城为三国东吴修筑。《三国志·吴书·孙和传》中记载：宝鼎二年（267年）十二月，“皓于金城外露宿。”
东晋咸康元年（335年），桓温任
南琅琊郡内史，出镇江乘县金城，请求割丹阳郡江乘县境以立郡。不久，南琅琊郡正式在江乘县划土立定，江乘县改隶南琅琊郡。
南齐永明六年（488年），武帝以为江乘县白下垒（位于今
南京市鼓楼区
中央门外）依带江山，将南琅琊郡治从金城迁至白下垒，名
白下城。