来源:市场资讯
(来源:华为计算)
《金融科技发展规划(2022-2025年)》明确提出,要抓住全球人工智能发展新机遇,以人为本全面推进智能技术在金融领域深化应用。同时,《推动数字金融高质量发展行动方案》也强调了加快云计算、人工智能等技术规范应用。
作为金融领域的“国家队”,交通银行积极响应号召,持续强化科技引领,通过与昇腾的深度合作,将人工智能技术深度融入服务理念、产品创新、风险管控及运营管理等核心环节,在推动金融高质量发展中发挥重要作用。近日,交通银行的AI创新实践成果作为行业标杆,入选2025世界人工智能大会(WAIC)国家展览馆进行展示。
千卡智算底座:构筑金融AI的“超级引擎”
人工智能的发展对算力提出了极高要求,算力已成为驱动人工智能发展的核心动力。交通银行紧跟国家战略部署,加速算力基础设施的布局与建设,成功建成以昇腾NPU为核心的异构算力集群。这一集群具备强大的大规模并行计算能力,能够高效支撑大模型的训练与推理任务,为金融领域AI应用的创新落地打造了一个稳固而强大的“超级引擎”。此外,该集群通过算、网、存高效协同,实现算力资源动态分配和随需调度,支持多种组网方案,满足“大模型+小模型”灵活部署需求,支持复杂场景快速落地。
依托该智算底座,交通银行融合“开源+闭源”大模型体系,引入DeepSeek等先进模型,并基于MindSpeed训练加速库构建了模型微调、增训及GRPO强化学习等训练能力,有效平衡了技术自主创新与开放迭代需求,为自研“交心金融大模型”奠定坚实基础。同时,其构建的“上海+中西部”的“多地多中心”算力网络,在满足极致高可靠性和可用性的同时,也响应了“东数西算”国家战略,有效解决了智算业务常见的高耗能难题。
通过算力底座与算法创新的深度协同,交通银行打造出“1+1+N”人工智能框架体系,以1套企业级AI能力平台、1套AI治理机制支撑N个场景落地,推动金融业务智能化升级,彰显了智算底座作为金融AI“超级引擎”的核心价值,为金融业高质量发展注入新动能。
百个场景落地:从辅助办公到核心业务的全渗透
强大的智算底座催生了丰富的应用场景。目前,交通银行已落地大小模型融合应用超100个,全面覆盖零售普惠,营运客服、风险授信、公司同业、办公研发等领域,提升大量人力效能,让AI真正成为业务发展的“加速器”。
值得关注的是,交通银行的AI技术应用已从辅助环节深入核心业务场景。审贷联动助手实现放款条件半自动化校验与贷后管理智能化跟踪,粗分类准确率达90%,大幅降低人工校验压力;授信助手则将报告生成周期从3周缩短至数小时,同步支持授信指引与授权报告撰写辅助,全面提升业务处理效率。这些应用实践成果充分验证了强大算力底座对释放AI潜能、重塑业务价值的核心支撑作用,有力驱动了交通银行自身的数智化转型与效能跃升。
技术协同创新:大规模专家并行方案破解高并发难题
随着AI应用场景不断拓展,高并发、低时延的推理需求愈发突出。为此,交通银行与昇腾联合攻关,通过系统级优化成功落地了大规模专家并行方案(大EP)。在此方案支撑下,DeepSeek实现规模化应用,服务3万余名员工,在高并发处理能力上取得关键突破。
大EP方案是一种针对大规模深度学习模型的高效推理技术,尤其适配DeepSeek-R1等基于混合专家架构的大模型。该技术通过将模型权重分布式部署在多卡,大幅降低单卡内存占用,释放的空间可承载更多用户并发请求所需的KV Cache,在输入2K、输出2K场景下使单卡端到端吞吐实现3倍增长;同时,单卡专家数量减少还缩短了权重加载时间,系统时延降至50ms以内,推动算力效能实现质的飞跃,为金融业务高并发、低时延场景提供了稳定可靠的技术支撑。
结语
交通银行始终秉持务实之心,携手昇腾推进智算底座共建,在金融AI领域持续探索实践,依托上百个落地场景落地实践,持续推动技术与业务的深度融合,践行“金融为民”的服务宗旨,让更高效的服务流程、更精准的风险控制、更普惠的金融产品,通过AI技术深度渗透到业务全链条,触达每一位客户。
昇腾AI的生态凝聚力与技术生命力,已推动6000余个解决方案落地应用,为金融领域的智能化转型提供了坚实支撑。当前,众多伙伴共建的AI生态已初见成效,展现出技术赋能的广阔空间。未来,交通银行将继续依托昇腾等技术底座,深化与产业伙伴的开放协作,在金融科技的赛道上稳步前行。