对话俞吴杰:近观招商银行如何修炼数字“内功”

“在需要的领域,我们从不吝啬投入。”接受采访时,招商银行信息技术部副总经理俞吴杰说道。

俞吴杰所说“需要的领域”,便是指招行AI信息技术方面的建设。近年来,招行持续加大科技投入,以2023年为例,招行信息科技投入达141.26亿元,占到全行营业收入的4.59%,研发人才共计约11000人,占全行人数比例近10%。如此这般投入,也使招商银行在数字金融服务上更进一步——“秒”级答复客户疑问、数据风控审批贷款、人机协同无感切换……

大数据和AI是数字金融的底座之一。在大数据、AI崛起的时代,招商银行怎样勤修“内功”建设数字金融?

2024年,《每日经济新闻》创刊20周年之际,特别启动“智见未来——全球高端人物专访系列”。借此契机,招商银行信息技术部副总经理俞吴杰接受每日经济新闻记者面访,分享了建设“数字招行”的经验与思考。

智算平台于今年开启建设

看似“横空出世”的人工智能,其实相关概念存在已久,如科幻小说《三体》里的“智子”,以及广为人知的最强围棋“选手”AlphaGo。

事实上,在AI及数据化布局上,招行早有行动。2017年招行率先成立了AI实验室;2023年3月,招行宣布完成全面上云,即“金融交易云”和“原生云平台”的建设,并将所有应用系统、数据等全部迁移至云上,进入到全面数据化阶段。

记者注意到,金融业与其他行业相比,有较高的专业性以及合规要求,且存在服务场景多、服务客群广的客观情况,因此通用大语言模型很难“圆满”满足银行业的需求。对此,在“两朵云”数据化新基建“底座”完成后,今年年初,招行正式开启了“智算平台”建设,用以探索新一代人工智能技术对银行业务的创新应用。

“原来的服务器集群叫通算平台,和大模型相关的叫智算平台,这方面的投入非常高。”俞吴杰介绍,智算平台包含了招行的“训练平台”以及“推理平台”。“招行的重点不在通用模型,而是在金融行业的领域模型。”训练平台主要用于训练专业的领域模型,推理平台用于银行具体服务场景。值得注意的是,无论是推理平台还是训练平台,算力都是刚性需求。俞吴杰介绍,招行在智算平台建设方面是以“亿”为单位的投入。

此外,目前国内的智算平台还处于起步阶段,性能方面也需要持续提升。俞吴杰表示,招行在国内智算平台建设方面走在前列,但因目前尚无成熟的智算平台可以借鉴,在进一步提升算力效能方面仍面临诸多挑战。

新一代AI将对银行业务带来全面变化

如果仅从大语言模型来看,2022年底ChatGPT的问世才使得整个社会对生成式AI有了明显感知,目前新一代人工智能在金融业的应用还处于探索阶段。

在俞吴杰看来,银行有三个重要的“密集型”特征,一是数据密集,包括客户数据、行业数据、产业数据等;二是知识密集,银行业有着大量的政策、法规、条款,同时还包括银行内部的合规要求、管理等;三是人力密集,银行业存在大量的运营工作,无论是网点还是审核团队,大量的人力都集中在业务运营中。

因为这三个特征的存在,大语言模型能够产生的价值面非常广。“其实今天我们谈及大语言模型的应用,并不是说在银行的某一个点或者某一块业务方面产生价值,而是全方位的。”俞吴杰表示。

如在服务质检方面,目前只需要借助语音识别技术将通话转化为文本,再交由大语言模型处理,并按照银行要求整理归类即可处理,以前人工可能需要5分钟,现在效率已经达到“秒”级。

在风控方面,招行强大的AI水平可以集中体现在“天秤”风控平台上。目前,“天秤”风控平台已经可以通过神经网络算法,识别客户的异常风险行为并进行风险前置提示。

俞吴杰表示,“总体来看,AI已经融入银行日常营销、服务、经营的各个方面。虽然目前更深层次的AI使用还有待论证,但实际上我们日常工作中存在很多重复性的、简单的流程化工作,而这恰巧是大语言模型能够发挥作用的地方。”

聚焦“三个场景”打造“智慧招行”

“要给到领域模型足够的专业知识和数据,特别是银行业务方面的,未来也需要拓展到和银行有很大关联的证券、基金、保险等行业。”俞吴杰指出,目前互联网上能获取的相关知识有限,招行更多要做的,是要把自身几十年来经营当中积累下来的专业语料给到大模型,“否则算力再强也没有实用性。”

即使拥有领域大模型,相对“智慧招行”建设来说也只是“万里长征走完了第一步”,要全方位打造智慧招行,需要更丰富多样的应用场景。

“在应用场景的选择方面我们也有比较全面的思考。”俞吴杰表示,场景选择标准有“三多”:一是“钱投入多”、二是“人投入多”、三是“耗时多”,“这些场景用AI产生的价值会更大,对于招行而言,我们的创新一般两条腿走路——自下而上和自上而下。”

自上而下是指招行会基于对大模型应用的整体规划来投入资源,目前该行的规划是按照业务条线,如零售、批发、中后台业务,以及按照业务形态来划分的营销、运营、合规、风控等领域,来进行资源投入。

自下而上则是运用FinTech(金融科技)基金、创新竞赛等机制设立和资金引导等方式,鼓励一线员工发掘创新应用场景,引导广大员工把大语言模型应用到日常工作场景中去。

截至10月底,招商银行已经有超过100个应用场景在使用大语言模型。

聚力有温度、有效率的“人+AI”服务

曾几何时,电话服务“转人工”困难成为普遍现象,不过在银行业,尤其是招商银行,这类问题已经基本得到了解决。俞吴杰表示,目前招行已经迈入了客户服务的“第三个阶段”。

第一个阶段,即所有电话服务均由人工提供。但该阶段最大的问题是银行人工服务队伍规模与账户数及客户数的指数级增长不匹配的问题,无限制的员工队伍增长将对企业造成巨大的财务压力。

第二个阶段,即使用数字化手段提高效率。在该阶段,部分银行通过自研或采买的自然语言处理小模型解答客户疑问,但存在“答非所问”和“不知所云”等一系列问题,第二阶段因技术的不成熟及人工的“失位”可能造成不好的用户体验。

第三个阶段即“人+数字化”高效协同,既能保证服务质量,又解决效率问题。俞吴杰表示,“从银行实践来看,客户的大部分问题都是简单、重复的问题,机器人就可以解决。”此外招行采用AI技术,通过语速、音量等标准辅助判断客户情绪,提供信息帮助人工客服主动切入,从而避免投诉升级并提供“有温度”的服务;而当客户需要人工对接时,也可以直接按键切换到人工。

俞吴杰表示,在既要有温度、又要有效率,同时又能够让真正有需要的客户随时触达到服务人员等方面,目前招行已经探索出一套行之有效的“招行方案”,未来还会在人机协同方面继续发展,为客户提供更高质量的服务。

如何规避AI逻辑“黑盒”?

新生业态往往伴随着新生风险。纵观银行业乃至整个金融业,信息安全都是绕不开的重点论题。“数据隐私是人工智能在金融领域方面非常大的考量。”俞吴杰表示,目前招行涉及训练数据的准备上非常谨慎。

“尤其是在训练环节,一定不能使用客户敏感信息训练模型,否则大模型可能会记住,并把信息泄漏出去。”俞吴杰强调。

此外,在大语言模型对于答案的可解释性问题方面,俞吴杰表示目前该领域有很多的“黑盒子”。

“我们给大模型输入,大模型给出一个输出,但是为什么会给到这个输出,还无法完全掌握,很多神经网络分析的逻辑是黑盒子。落地到具体的金融业务场景,比如要做一个贷款发放审批,机器判断这位客户不通过,但无法判断原因,就没有办法使用,必须得让其解释清楚。”俞吴杰表示。

值得注意的是,在银行传统信息科技应用中,也有相较于目前“大模型”的“小模型”,如信贷决策模型、评分卡模型等,“小模型”技术拥有更好的解释性,它是专门针对银行业务某一个场景开发的,能更好的适配该场景。

在“大模型”与“小模型”配合方面,俞吴杰表示未来二者一定会长期并存,“大模型覆盖的领域会越来越广泛,但在可解释性方面‘小模型’有很好的针对性,特别是在算数方面,比如给客户的授信额度如何评测,小模型表现会更好,我们会持续地用下去。”