写点什么

金融企业落地大语言模型的路线图

  • 2024-03-27
    北京
  • 本文字数:2673 字

    阅读完需:约 9 分钟

大小:1.34M时长:07:48
金融企业落地大语言模型的路线图

作者|周健,澜码科技创始人兼 CEO


金融行业数字化成熟度高,数据资源基础好,数字化程度一直处于领先地位,新技术的创新与应用方面也始终保持着前沿。


在这次大语言模型引领的历史大变革的当下,金融行业依然走在了前列,特别是银行业拥有广泛的客户资源,头部国有大行和全国股份制银行客户规模数动辄达千万甚至数亿。凭借信息丰富、数据庞杂、知识专业、人才密集等天然特征优势,银行业拥有与大模型深度结合的基因,因此成为大模型应用落地的重要场景之一。


相对应的,大语言模型技术的快速进步和迭代,也使得传统银行业务能够与人工智能技术深度整合,推动金融领域的数字化和数智化转型,并令这些企业率先受益于新技术。


波士顿咨询公司曾以一家拥有约两万名员工的区域性国际银行为例,初步梳理了该银行前、中、后台相关部门应用生成式 AI 的潜力和效益,预计在首年就可以为该银行节省约 1.5 亿美元的成本,占整体薪酬总包的 7%


过去一年多,我们在金融行业中实践下来,将理论结合实践,形成了一些方法论。我们认为,大语言模型在金融行业中的落地演进将经历三个阶段:增强自动化、流程自动化、流程自主化。

金融企业落地大语言模型的三阶段

“当我开始用 GPT 处理知识性任务时,我通常得事后去核实事实,比如检查它有没有编造一些假消息。你是怎么发现 GPT 能编出那些听起来特别有说服力的假信息的呢?你又是如何确保它所提供的信息是真实的?”


这段话来自 3 月 19 日 OpenAI 董事长 Sam Altman 公开的一则专访,Sam Altman 主动提到大语言模型的幻觉问题让他担心,并且明确表达虽然 OpenAI 即将推出的新版本大语言模型会在这个问题上有很大改善,但今年内仍然不能完全解决全部问题。


在这样的背景下,对模型的可解释性、鲁棒性都有极高要求的金融行业,该如何落地大语言模型应用?

中国信息通信研究院(以下简称“信通院”)将大语言模型落地路线图总结为诊、建、用、管四个阶段



“诊”,是说从能力分析和需求分析切入,剖析大模型发展现状,“建”从方案设计和研发测试层面牢筑大模型的技术底座,“用”是通过应用开发和效能评估上革新大模型应用范式,“管”则是通过运行监测和运营管理来形成大模型管理体系。


信通院的这个线路图,从能力和需求分析出发给我们提供了一个全面的视角。


而澜码从业务价值创造的维度看,我们将大模型应用落地分成增强自动化、流程自动化和流程自主化三个阶段。当前绝大部分企业都处于第一阶段,在大语言模型应用的初期。



第一阶段我们认为是增强自动化,实现单岗位的增强和提效,主要应用于重复性高、有规律可循的任务,如数据录入、客户服务、报告生成等。


以前 RPA 时代也在谈任务自动化,但受限于技术水平和技术成本,无法实现规则的个性化,只能按照定制的流程一步一步完成重复工作。如果说过去任务的自动化能帮助企业节省一线城市月薪 6000 元员工所拥有的能力或时间,现在有了大语言模型,我们就能让同样是月薪 6000 块钱的员工发挥出相当于月薪 2 万块钱员工的水平。


具体来说,在一个岗位有多个人员的情况下,将企业里业务专家的经验和知识沉淀下来,通过 Agent 去赋能基层的初级、中级员工。增强自动化可以大幅度提高工作效率,减少人工错误,将员工从繁琐任务中释放出来,使其能够专注于更具创新性和战略性的工作。此外,它还可以提升服务质量,通过快速、准确的任务执行,提升客户满意度。


目前,我们在金融客户的场景中推进基于 RAG(检索增强生成)技术的增强自动化,已经在不少场景实现单岗位任务的智能升级。


长期来看,增强自动化是企业提升生产力、降低运营成本、并实现业务创新的重要手段。


埃森哲今年初对以大语言模型为重要技术基础的生成式 AI 在不同银行角色中的潜在用途做过研究,结果显示,73%的美国银行员工的工作时间可能会受到生成式 AI 的影响,其中 39%来自自动化,34%来自增强。



下一个阶段我们称为流程自动化。这一阶段,通过实时自动化系统和数据连接,解决业务协作中的各种问题,提高自动化效率和管理水平。


在这一阶段,流程自动化解决的是部门、角色和岗位的连接问题和业务协作问题,无论是跨部门协作,还是同一部门内部的工作流,自动化效率和管理水平都可以得到优化。


例如,从订单处理到发货,从客户服务到问题解决,流程自动化都能实现各环节的无缝衔接,提高工作效率,减少错误。此外,流程自动化还可以提供实时的业务洞察,帮助管理层做出更明智的决策。


在 RPA 和低代码时代大家也在谈流程自动化,但那时的流程自动化谈的更多的是怎么样把流程的系统、工作流的引擎去驱动。今天在大语言模型的背景下,我们认为流程自动化最重要的是管理上的增效,提供实时的业务洞察,更好的帮助管理层做出决策。


事实上,在公司内部我们已经在实践了。在公司里,我发现 Agent 可以帮助我更有效地传递信息。作为管理者,我面临的一个挑战是确保信息的流通既可信又及时,然而大多数情况下,除了我的秘书或我的直接下属,我无法把全部信息传递给所有人,但有许多基本工作,如催办、总结、协调等,其实是可以通过个性化规则自动化的方式来完成。流程自动化在这个场景下的价值就非常明显了。


而在金融客户的前、中、后台场景,我们也已经看到了大量的可行性,并且正在探讨下一步如何帮助他们落地。总的来说,流程自动化是实现企业数字化转型,提升业务效率和客户满意度的重要工具。


第三个阶段是流程自主化AI Agent 通过世界模型理解业务流程所处的市场、客户、组织、产品的上下文,主动找到当前流程运行状态和目标之间的差距,并采取行动来改进流程及相关要素。管理者只需要给定目标,以及通过自然语言对于流程准则进行调整,AI Agent 会自动进行适应,并规划及完成流程的自动化,包括但不限于和数据库、文档、应用以及相应的一线员工进行互动。


流程自主化的实现,使得大语言模型将算力和数据转化为智力,AI Agent 将专家知识转化为自动化能力。这种转化不仅可以提高企业内部流程的效率,减少人工错误,还能够释放出专家的宝贵时间,使他们可以更专注于创新和策略性任务上。


今天我们已经看到,金融行业中的保险理赔、审核,证券行业的研报、量化投资、信贷审核、普惠金融等业务场景,未来都有实现流程自主化的可能,从而实现一个人机协同,人机融合,人机共生的组织。


作者简介:


周健毕业于上海交通大学计算机系学士、硕士,2002 年获得 ACM 国际大学生程序设计竞赛世界冠军,是首个在此项竞赛夺冠的亚洲团队成员。


2006 年加入谷歌美国总部,负责中文网站搜索质量优化,此后历任阿里云、Mediav、依图科技、弘玑 RPA 等公司研发总监、CTO 等;


十年连续创业经验,作为依图 10 号员工、弘现 RPA 公司 CTO,在 AI 大数据、企业服务领域拥有丰富的经验和项目成功案例。

2024-03-27 21:103513
用户头像
李冬梅 加V:busulishang4668

发布了 1208 篇内容, 共 832.7 次阅读, 收获喜欢 1313 次。

关注

评论

发布
暂无评论
发现更多内容

浅谈非 EVM 公链的可能性: 兼容多类型虚拟机是否是区块链未来?

One Block Community

区块链

大厂面试突击必备:“网络编程”高频八连击,扛得住吗?

程序员啊叶

Java 编程 程序员 架构 java面试

SocialFi 何以成就 Web3 去中心化社交未来

One Block Community

区块链

备战金九银十,两份JAVA面试题2022最新整合版,祝你脱颖而出

王小凡

Java MySQL spring 面试 springboot

腾讯被裁,转头去字节!Java后端核心面试题在手,怎能进不去大厂

程序员啊叶

Java 编程 程序员 架构 java面试

想用K8s,还得先会Docker吗?其实完全没必要

程序员啊叶

Java 编程 程序员 架构 java面试

如何写一份高可读性的软件工程设计文档

C++后台开发

数据库 软件工程 后端开发 C/C++后台开发 C/C++开发

上天入地Hadoop——使用高性能分布式技术完成大数据处理任务

程序猿阿宇

大数据 架构 Java 面试 java程序员 编程、

六面蚂蚁金服,唬住了面试官要了30K;其实Java面试也没那么难

程序知音

Java 程序员 后端技术 秋招 Java面试八股文

数据中台建设(五):打破企业数据孤岛和提取数据价值

Lansonli

数据中台 7月月更

时序数据库在船舶风险管理领域的应用

CnosDB

IoT 时序数据库 开源社区 CnosDB infra

京东发布这份SpringBoot实战手册带你从0手动搭建企业级商城项目

程序猿阿宇

程序员 面试 java程序员 Spring Boot CLI 秋招

Moonbeam创始人解读多链新概念Connected Contract

One Block Community

区块链

DTSE Tech Talk丨第2期:1小时深度解读SaaS应用系统设计

华为云开发者联盟

云计算 后端 SaaS

蓦然回首,“工厂、构造、原型”设计模式,正在灯火阑珊处

掘金安东尼

JavaScript 前端 7月月更

Kubernetes应用管理深度剖析

Bob

云原生 容器化 后端技术 Kubernetes 集群

手慢无!阿里亿级流量高并发系统设计核心原理全彩笔记现实开源

Java全栈架构师

Java 面试 程序人生 分布式锁 架构师

只分享这一次!阿里软件架构师深入底层手写JDK源码

程序猿阿宇

架构 Java 面试 大厂技能 后端技术 秋招

HarmonyOS分布式协同演奏技术实现路线(Java)

程序员啊叶

Java 编程 程序员 架构 java面试

SMI 与 Gateway API 的 GAMMA 倡议意味着什么?

张晓辉

Kubernetes 服务网格 SMI

五面阿里,终拿offer,不明白为什么面试官总喜欢问Java这种问题

程序知音

Java 阿里 后端技术 八股文 Java面试八股文

CMake库搜索函数居然不搜索LD_LIBRARY_PATH

华为云开发者联盟

后端 开发

我给大家免费公开五份阿里Java架构师学习手册!助力金九银十

程序猿阿宇

架构 Java 面试 大厂面试 大厂技能 秋招

难道Redis真的变慢了吗?

程序员啊叶

Java 编程 程序员 架构 java面试

真香!180页100+题15W+字解析的《Java高级面试指南》,果断收下

程序员啊叶

Java 编程 程序员 架构 java面试

[ Kitex 源码解读 ] 熔断机制是如何实现的

baiyutang

Go 微服务 微服务架构 kitex CloudWeGo

一文读懂Elephant Swap,为何为ePLATO带来如此高的溢价?

鳄鱼视界

阿里内网最新发布“M8”级Java面试笔记,助力金九银十

程序员啊叶

Java 编程 程序员 架构 java面试

4位资深专家多年大厂经验分享出Flink技术内幕架构设计与实现原理

程序员啊叶

Java 编程 程序员 架构 java面试

太牛了,百度这份开发手册几乎涵盖了Spring Cloud所有操作

程序猿阿宇

架构 java程序员 java面试 秋招 程序员‘

金融企业落地大语言模型的路线图_生成式 AI_周健_InfoQ精选文章