1978年，党的十一届三中全会召开，开启了金融改革历史新时期。自此，长期以来实行“大一统”格局的金融领域中也引发了一系列深刻的巨变。在这一巨变过程中，作为金融体制改革和创新的一个重要方面，我国城市商业银行也走过了自己的辉煌历程，形成了中国银行业的“第三梯队”。

    由于初创于我国的专业银行时代，城市信用社从诞生之日就深深地打上了“专业化”的时代烙印，在长期的发展过程中，对我国城乡集体企业、个体工商业户和居民个人之间的资金融通起到了很好的作用。因而得到各级政府的允许甚至支持，如雨后春笋般蓬勃发展起来。但随着经济形势的不断发展变化，城市信用社在经营实践中逐步放弃了合作制原则，实际上已办成了地方性小商业银行，并且存在着股权结构不合理、规模小、管理成本高、内控体制不健全等问题，经营风险日益显现和突出。为了防范和化解中小金融机构风险，进一步深化金融体制改革，促进国民经济快速、稳定、健康发展，党中央和国务院开始对城市信用社进行大规模的清理整顿和撤并重组，并在撤并城市信用社的基础上，在35个大中城市分期分批组建由城市企业、居民和地方财政入股的具有“股份制”性质的城市合作银行。为此，国务院发出了《关于组建城市合作银行的通知》。1995年6月，第一家城市合作银行——深圳城市合作银行挂牌。由城市信用社到城市商业银行的转变不仅仅是把原来规模众多、一盘散沙的城市信用社变身为城市商业银行的支行，更为重要的是，通过组建具有一定规模的股份制商业银行，不仅创造性地解决了城市信用合作社存在的、经过多次清理整顿而无法根本解决的问题，改变了城市信用社分散经营、风险抵御能力弱的局面，初步建立了现代商业银行制度，同时也有效化解了金融风险，确保了大中城市经济、金融秩序的稳定，进一步完善了我国的金融组织体系，对加强金融监管、促进地方经济的发展发挥了积极作用。
    2001年底，中国加入世界贸易组织。作为服务贸易的重要内容，金融开放在中国的入世承诺中以明确的时间表的形式向全世界公开。包括城市商业银行在内的中资银行将再无法得到特别保护，要和外资银行站在同一起跑线上面对市场，面对竞争者。面对这样紧迫的形势，各地城市商业银行没有消极等待，而是纷纷在逆境中谋出路。同时，监管部门为了进一步指导和加强城市商业银行的工作，促进城市商业银行加快改革和发展的步伐，制定了关于城市商业银行发展的首份全景规划蓝图——《城市商业银行监管与发展纲要》。自此，城市商业银行的改革发展迅速走上了快车道。特别是近年来，随着社会经济一体化的发展以及自身实力的壮大，城市商业银行原来仅仅服务于地方城市金融的功能定位已经悄然发生了变化。一些经营情况较好的城市商业银行开始了新一轮的重组改造，进一步完善了法人治理结构，引入战略投资者，并逐步开展跨区域经营。通过一系列的改革，城市商业银行股权结构进一步优化，经营管理水平和风险管理能力得到了极大的提高。在此基础上，一些具备条件的城市商业银行开始谋求在资本市场上有所作为，进一步壮大实力。2007年7月19日，南京银行与宁波银行拔得头筹，分别登陆上证所和深交所A股市场，展开了城市商业银行上市的破冰之旅。其后不久，北京银行也顺利上市，掀开了城商行发展的新篇章。
    作为中国银行业的重要组成部分，城市商业银行在取得显著成绩的同时，也存在很多不足：城商行作为中小金融机构，由于受规模、历史包袱等多种因素影响，与国有银行和股份制银行相比，在市场上属于弱势群体，其经营管理基础还相对薄弱，管理水平、体制机制、人员素质等方面还有相当差距，抵抗外部风险冲击的能力比较脆弱，各家城商行发展也很不均衡。在今后的一个时期，城市商业银行应进一步明确市场定位，采取多元化发展模式和差异化发展战略，继续探索建立符合城市商业银行特点的公司治理结构和内部管理体系，要进一步扩大改革开放，引入多种机制增强活力，提高核心竞争力。“长风破浪会有时，直挂云帆济沧海”。站在新的起点上，相信城市商业银行必定能继续做大做强，在我国银行业体系中占据更加重要的地位，谱写更加辉煌的篇章。