写点什么

金融企业落地大语言模型的路线图

  • 2024-03-27
    北京
  • 本文字数:2673 字

    阅读完需:约 9 分钟

大小:1.34M时长:07:48
金融企业落地大语言模型的路线图

作者|周健,澜码科技创始人兼 CEO


金融行业数字化成熟度高,数据资源基础好,数字化程度一直处于领先地位,新技术的创新与应用方面也始终保持着前沿。


在这次大语言模型引领的历史大变革的当下,金融行业依然走在了前列,特别是银行业拥有广泛的客户资源,头部国有大行和全国股份制银行客户规模数动辄达千万甚至数亿。凭借信息丰富、数据庞杂、知识专业、人才密集等天然特征优势,银行业拥有与大模型深度结合的基因,因此成为大模型应用落地的重要场景之一。


相对应的,大语言模型技术的快速进步和迭代,也使得传统银行业务能够与人工智能技术深度整合,推动金融领域的数字化和数智化转型,并令这些企业率先受益于新技术。


波士顿咨询公司曾以一家拥有约两万名员工的区域性国际银行为例,初步梳理了该银行前、中、后台相关部门应用生成式 AI 的潜力和效益,预计在首年就可以为该银行节省约 1.5 亿美元的成本,占整体薪酬总包的 7%


过去一年多,我们在金融行业中实践下来,将理论结合实践,形成了一些方法论。我们认为,大语言模型在金融行业中的落地演进将经历三个阶段:增强自动化、流程自动化、流程自主化。

金融企业落地大语言模型的三阶段

“当我开始用 GPT 处理知识性任务时,我通常得事后去核实事实,比如检查它有没有编造一些假消息。你是怎么发现 GPT 能编出那些听起来特别有说服力的假信息的呢?你又是如何确保它所提供的信息是真实的?”


这段话来自 3 月 19 日 OpenAI 董事长 Sam Altman 公开的一则专访,Sam Altman 主动提到大语言模型的幻觉问题让他担心,并且明确表达虽然 OpenAI 即将推出的新版本大语言模型会在这个问题上有很大改善,但今年内仍然不能完全解决全部问题。


在这样的背景下,对模型的可解释性、鲁棒性都有极高要求的金融行业,该如何落地大语言模型应用?

中国信息通信研究院(以下简称“信通院”)将大语言模型落地路线图总结为诊、建、用、管四个阶段



“诊”,是说从能力分析和需求分析切入,剖析大模型发展现状,“建”从方案设计和研发测试层面牢筑大模型的技术底座,“用”是通过应用开发和效能评估上革新大模型应用范式,“管”则是通过运行监测和运营管理来形成大模型管理体系。


信通院的这个线路图,从能力和需求分析出发给我们提供了一个全面的视角。


而澜码从业务价值创造的维度看,我们将大模型应用落地分成增强自动化、流程自动化和流程自主化三个阶段。当前绝大部分企业都处于第一阶段,在大语言模型应用的初期。



第一阶段我们认为是增强自动化,实现单岗位的增强和提效,主要应用于重复性高、有规律可循的任务,如数据录入、客户服务、报告生成等。


以前 RPA 时代也在谈任务自动化,但受限于技术水平和技术成本,无法实现规则的个性化,只能按照定制的流程一步一步完成重复工作。如果说过去任务的自动化能帮助企业节省一线城市月薪 6000 元员工所拥有的能力或时间,现在有了大语言模型,我们就能让同样是月薪 6000 块钱的员工发挥出相当于月薪 2 万块钱员工的水平。


具体来说,在一个岗位有多个人员的情况下,将企业里业务专家的经验和知识沉淀下来,通过 Agent 去赋能基层的初级、中级员工。增强自动化可以大幅度提高工作效率,减少人工错误,将员工从繁琐任务中释放出来,使其能够专注于更具创新性和战略性的工作。此外,它还可以提升服务质量,通过快速、准确的任务执行,提升客户满意度。


目前,我们在金融客户的场景中推进基于 RAG(检索增强生成)技术的增强自动化,已经在不少场景实现单岗位任务的智能升级。


长期来看,增强自动化是企业提升生产力、降低运营成本、并实现业务创新的重要手段。


埃森哲今年初对以大语言模型为重要技术基础的生成式 AI 在不同银行角色中的潜在用途做过研究,结果显示,73%的美国银行员工的工作时间可能会受到生成式 AI 的影响,其中 39%来自自动化,34%来自增强。



下一个阶段我们称为流程自动化。这一阶段,通过实时自动化系统和数据连接,解决业务协作中的各种问题,提高自动化效率和管理水平。


在这一阶段,流程自动化解决的是部门、角色和岗位的连接问题和业务协作问题,无论是跨部门协作,还是同一部门内部的工作流,自动化效率和管理水平都可以得到优化。


例如,从订单处理到发货,从客户服务到问题解决,流程自动化都能实现各环节的无缝衔接,提高工作效率,减少错误。此外,流程自动化还可以提供实时的业务洞察,帮助管理层做出更明智的决策。


在 RPA 和低代码时代大家也在谈流程自动化,但那时的流程自动化谈的更多的是怎么样把流程的系统、工作流的引擎去驱动。今天在大语言模型的背景下,我们认为流程自动化最重要的是管理上的增效,提供实时的业务洞察,更好的帮助管理层做出决策。


事实上,在公司内部我们已经在实践了。在公司里,我发现 Agent 可以帮助我更有效地传递信息。作为管理者,我面临的一个挑战是确保信息的流通既可信又及时,然而大多数情况下,除了我的秘书或我的直接下属,我无法把全部信息传递给所有人,但有许多基本工作,如催办、总结、协调等,其实是可以通过个性化规则自动化的方式来完成。流程自动化在这个场景下的价值就非常明显了。


而在金融客户的前、中、后台场景,我们也已经看到了大量的可行性,并且正在探讨下一步如何帮助他们落地。总的来说,流程自动化是实现企业数字化转型,提升业务效率和客户满意度的重要工具。


第三个阶段是流程自主化AI Agent 通过世界模型理解业务流程所处的市场、客户、组织、产品的上下文,主动找到当前流程运行状态和目标之间的差距,并采取行动来改进流程及相关要素。管理者只需要给定目标,以及通过自然语言对于流程准则进行调整,AI Agent 会自动进行适应,并规划及完成流程的自动化,包括但不限于和数据库、文档、应用以及相应的一线员工进行互动。


流程自主化的实现,使得大语言模型将算力和数据转化为智力,AI Agent 将专家知识转化为自动化能力。这种转化不仅可以提高企业内部流程的效率,减少人工错误,还能够释放出专家的宝贵时间,使他们可以更专注于创新和策略性任务上。


今天我们已经看到,金融行业中的保险理赔、审核,证券行业的研报、量化投资、信贷审核、普惠金融等业务场景,未来都有实现流程自主化的可能,从而实现一个人机协同,人机融合,人机共生的组织。


作者简介:


周健毕业于上海交通大学计算机系学士、硕士,2002 年获得 ACM 国际大学生程序设计竞赛世界冠军,是首个在此项竞赛夺冠的亚洲团队成员。


2006 年加入谷歌美国总部,负责中文网站搜索质量优化,此后历任阿里云、Mediav、依图科技、弘玑 RPA 等公司研发总监、CTO 等;


十年连续创业经验,作为依图 10 号员工、弘现 RPA 公司 CTO,在 AI 大数据、企业服务领域拥有丰富的经验和项目成功案例。

2024-03-27 21:103099
用户头像
李冬梅 加V:busulishang4668

发布了 951 篇内容, 共 547.7 次阅读, 收获喜欢 1113 次。

关注

评论

发布
暂无评论

抖音日均拦截93%诈骗行为:如何打击互联网诈骗行为

石头IT视角

大数据开发面试之26个Spark高频考点

大数据梦想家

大数据 spark 八股文

使用 Amazon SageMaker 为新用户提供实时音乐推荐

亚马逊云科技 (Amazon Web Services)

Amazon 音乐 实时推送

2022 携程提前批大数据一二(oc) 面经

大数据梦想家

大数据 面经分享

浅析大模型在自然语言处理方面的应用

算AI

人工智能 机器学习 产品 算法 5月月更

LabVIEW仪器控制:智能直流电源(科睿源KA3003)

不脱发的程序猿

串口通信 工业自动化 直流电源控制软件 LabVIEW仪器控制

Android 子线程 UI 操作真的不可以?

vivo互联网技术

android 线程 UI

【LeetCode】单值二叉树Java题解

Albert

LeetCode 5月月更

【变量规则,HTML 转义,非法导入名称】flask框架总结(三)

恒山其若陋兮

5月月更

融云漫话:没有一个人躲得过“视频会议”

融云 RongCloud

Python写实用小工具-实现图片转字符画

okokabcd

Python

Amazon Kinesis Data Streams 实现跨账户应用日志收集

亚马逊云科技 (Amazon Web Services)

日志 Data

OpenHarmony 3.1 Release版本关键特性解析——构建OpenHarmony窗口框架

OpenHarmony开发者

OpenHarmony OpenHarmony 3.1 Release 窗口框架

读万卷书为何无用?

大数据梦想家

程序员 个人成长 读书感悟

过去一年对我帮助最大的三本书

大数据梦想家

个人成长 程序人生 读书总结

我的编程学习经历

留乘船

学习

云原生平台 Kyma 上创建的 Lambda Function 的技术实现细节介绍

汪子熙

Kubernetes 云原生 SAP Kyma 5月月更

为何架构设计能力难以提升?- 作业

阿拉阿拉幽幽

战码先锋直播预告丨参与文档贡献,开启OpenHarmony社区贡献之旅

OpenHarmony开发者

OpenHarmony OpenHarmony 3.1 Release 社区贡献

在黑客马拉松中有什么样的收获?

Geek_99967b

SaaS 黑客松 小程序组件

Kafka 核心知识点灵魂 16 问

大数据梦想家

大数据 kafka 八股文

下载Spring4.1.x源码并用IntelliJ IDEA打开

程序员欣宸

Java 5月月更

云原生技术新版图——无服务器(Serverless)数据库

亚马逊云科技 (Amazon Web Services)

数据库 Serverless 云原生

MQTT协议连接阿里云物联网服务器​

DS小龙哥

5月月更

大厂员工过劳死,打工人该如何自救?

大数据梦想家

大数据 程序员 程序人生

LabVIEW仪器控制:智能显示屏(数码管显示屏)

不脱发的程序猿

串口通信 工业自动化 LabVIEW仪器控制 数码管显示屏软件 数码管显示屏

解放双手!推荐一款 GitHub 星标 8.2k+的命令行软件管理器,非常酷炫!

沉默王二

GitHub

Python爬虫网页元素定位术,就在这篇博客中

梦想橡皮擦

5月月更

MASA Auth - 权限设计

MASA技术团队

C# .net 微软 权限

大厂裁员登上热搜,谈谈我的3点认知

大数据梦想家

大数据 个人成长 程序人生 裁员

数字化时代,企业知识管理软件怎么选

小炮

企业知识管理

金融企业落地大语言模型的路线图_生成式 AI_周健_InfoQ精选文章