上海市银行系民国时期上海市政府设立，开业于民国19年（1930年）2月17日。总行设于上海，资本总额100万元，由市政府一次拨足。主要经营市内工商业抵押贷款及贴现业务；各种存款；买卖有价证券；代理市政府发行债券及还本付息；保管市属各机关或公共团体的财产或基金等。首任总经理为徐桴。1938年后因战事关系停业。

抗日战争胜利后于民国34年9月25日复业，并于次年间在市内增设下列8个办事处：第一办事处设愚园路静安寺路（今南京西路）口；第二办事处设南市中华路1450号；第三办事处设中正东路（今延安东路）501号，第四办事处设中正北二路（今石门二路）284号，第五办事处设东大名路1124号，第六办事处设南市东门路49号，第七办事处设徐家汇衡山路980号，第八办事处设浦东东昌路。

上海解放，上海市银行总行连同它的8个办事处，均由上海市军管会接管，清理结束。