京城商业银行之前身为台南区中小企业银行，系由台南区合会储蓄公司改制而成。成立之初，资本额为旧台币贰仟万元，设有总公司及嘉义、新营、虎尾、北港等分公司，营业区域为云嘉南县市，并以投标式合会业务开始营运。

1975年7月4日银行法公布实施，规定合会储蓄公司列为专业银行，并自1978年1月1日起奉准改制为「台南区中小企业银行」，於同年1月5日正式对外营业。嗣於1982年3月3日奉财政部证券管理委员会核准补办公开发行，并於1983年7月20日股票公开上市。

为符合改制商业银行条件，2005年度办理现金增资36亿元，2006年3月20日奉主管机关核准，并自95年5月3日全面更名改制为「京城商业银行」，简称「京城银行」；「京城」取自「精诚所至；金石为开」，代表新注入的服务精神。并於正式更名後，启用新的企业识别系统为台南市花之「凤凰树」，象徵本行根扎府城、花开全台。