写点什么

金融企业落地大语言模型的路线图

  • 2024-03-27
    北京
  • 本文字数:2673 字

    阅读完需:约 9 分钟

大小:1.34M时长:07:48
金融企业落地大语言模型的路线图

作者|周健,澜码科技创始人兼 CEO


金融行业数字化成熟度高,数据资源基础好,数字化程度一直处于领先地位,新技术的创新与应用方面也始终保持着前沿。


在这次大语言模型引领的历史大变革的当下,金融行业依然走在了前列,特别是银行业拥有广泛的客户资源,头部国有大行和全国股份制银行客户规模数动辄达千万甚至数亿。凭借信息丰富、数据庞杂、知识专业、人才密集等天然特征优势,银行业拥有与大模型深度结合的基因,因此成为大模型应用落地的重要场景之一。


相对应的,大语言模型技术的快速进步和迭代,也使得传统银行业务能够与人工智能技术深度整合,推动金融领域的数字化和数智化转型,并令这些企业率先受益于新技术。


波士顿咨询公司曾以一家拥有约两万名员工的区域性国际银行为例,初步梳理了该银行前、中、后台相关部门应用生成式 AI 的潜力和效益,预计在首年就可以为该银行节省约 1.5 亿美元的成本,占整体薪酬总包的 7%


过去一年多,我们在金融行业中实践下来,将理论结合实践,形成了一些方法论。我们认为,大语言模型在金融行业中的落地演进将经历三个阶段:增强自动化、流程自动化、流程自主化。

金融企业落地大语言模型的三阶段

“当我开始用 GPT 处理知识性任务时,我通常得事后去核实事实,比如检查它有没有编造一些假消息。你是怎么发现 GPT 能编出那些听起来特别有说服力的假信息的呢?你又是如何确保它所提供的信息是真实的?”


这段话来自 3 月 19 日 OpenAI 董事长 Sam Altman 公开的一则专访,Sam Altman 主动提到大语言模型的幻觉问题让他担心,并且明确表达虽然 OpenAI 即将推出的新版本大语言模型会在这个问题上有很大改善,但今年内仍然不能完全解决全部问题。


在这样的背景下,对模型的可解释性、鲁棒性都有极高要求的金融行业,该如何落地大语言模型应用?

中国信息通信研究院(以下简称“信通院”)将大语言模型落地路线图总结为诊、建、用、管四个阶段



“诊”,是说从能力分析和需求分析切入,剖析大模型发展现状,“建”从方案设计和研发测试层面牢筑大模型的技术底座,“用”是通过应用开发和效能评估上革新大模型应用范式,“管”则是通过运行监测和运营管理来形成大模型管理体系。


信通院的这个线路图,从能力和需求分析出发给我们提供了一个全面的视角。


而澜码从业务价值创造的维度看,我们将大模型应用落地分成增强自动化、流程自动化和流程自主化三个阶段。当前绝大部分企业都处于第一阶段,在大语言模型应用的初期。



第一阶段我们认为是增强自动化,实现单岗位的增强和提效,主要应用于重复性高、有规律可循的任务,如数据录入、客户服务、报告生成等。


以前 RPA 时代也在谈任务自动化,但受限于技术水平和技术成本,无法实现规则的个性化,只能按照定制的流程一步一步完成重复工作。如果说过去任务的自动化能帮助企业节省一线城市月薪 6000 元员工所拥有的能力或时间,现在有了大语言模型,我们就能让同样是月薪 6000 块钱的员工发挥出相当于月薪 2 万块钱员工的水平。


具体来说,在一个岗位有多个人员的情况下,将企业里业务专家的经验和知识沉淀下来,通过 Agent 去赋能基层的初级、中级员工。增强自动化可以大幅度提高工作效率,减少人工错误,将员工从繁琐任务中释放出来,使其能够专注于更具创新性和战略性的工作。此外,它还可以提升服务质量,通过快速、准确的任务执行,提升客户满意度。


目前,我们在金融客户的场景中推进基于 RAG(检索增强生成)技术的增强自动化,已经在不少场景实现单岗位任务的智能升级。


长期来看,增强自动化是企业提升生产力、降低运营成本、并实现业务创新的重要手段。


埃森哲今年初对以大语言模型为重要技术基础的生成式 AI 在不同银行角色中的潜在用途做过研究,结果显示,73%的美国银行员工的工作时间可能会受到生成式 AI 的影响,其中 39%来自自动化,34%来自增强。



下一个阶段我们称为流程自动化。这一阶段,通过实时自动化系统和数据连接,解决业务协作中的各种问题,提高自动化效率和管理水平。


在这一阶段,流程自动化解决的是部门、角色和岗位的连接问题和业务协作问题,无论是跨部门协作,还是同一部门内部的工作流,自动化效率和管理水平都可以得到优化。


例如,从订单处理到发货,从客户服务到问题解决,流程自动化都能实现各环节的无缝衔接,提高工作效率,减少错误。此外,流程自动化还可以提供实时的业务洞察,帮助管理层做出更明智的决策。


在 RPA 和低代码时代大家也在谈流程自动化,但那时的流程自动化谈的更多的是怎么样把流程的系统、工作流的引擎去驱动。今天在大语言模型的背景下,我们认为流程自动化最重要的是管理上的增效,提供实时的业务洞察,更好的帮助管理层做出决策。


事实上,在公司内部我们已经在实践了。在公司里,我发现 Agent 可以帮助我更有效地传递信息。作为管理者,我面临的一个挑战是确保信息的流通既可信又及时,然而大多数情况下,除了我的秘书或我的直接下属,我无法把全部信息传递给所有人,但有许多基本工作,如催办、总结、协调等,其实是可以通过个性化规则自动化的方式来完成。流程自动化在这个场景下的价值就非常明显了。


而在金融客户的前、中、后台场景,我们也已经看到了大量的可行性,并且正在探讨下一步如何帮助他们落地。总的来说,流程自动化是实现企业数字化转型,提升业务效率和客户满意度的重要工具。


第三个阶段是流程自主化AI Agent 通过世界模型理解业务流程所处的市场、客户、组织、产品的上下文,主动找到当前流程运行状态和目标之间的差距,并采取行动来改进流程及相关要素。管理者只需要给定目标,以及通过自然语言对于流程准则进行调整,AI Agent 会自动进行适应,并规划及完成流程的自动化,包括但不限于和数据库、文档、应用以及相应的一线员工进行互动。


流程自主化的实现,使得大语言模型将算力和数据转化为智力,AI Agent 将专家知识转化为自动化能力。这种转化不仅可以提高企业内部流程的效率,减少人工错误,还能够释放出专家的宝贵时间,使他们可以更专注于创新和策略性任务上。


今天我们已经看到,金融行业中的保险理赔、审核,证券行业的研报、量化投资、信贷审核、普惠金融等业务场景,未来都有实现流程自主化的可能,从而实现一个人机协同,人机融合,人机共生的组织。


作者简介:


周健毕业于上海交通大学计算机系学士、硕士,2002 年获得 ACM 国际大学生程序设计竞赛世界冠军,是首个在此项竞赛夺冠的亚洲团队成员。


2006 年加入谷歌美国总部,负责中文网站搜索质量优化,此后历任阿里云、Mediav、依图科技、弘玑 RPA 等公司研发总监、CTO 等;


十年连续创业经验,作为依图 10 号员工、弘现 RPA 公司 CTO,在 AI 大数据、企业服务领域拥有丰富的经验和项目成功案例。

2024-03-27 21:103226
用户头像
李冬梅 加V:busulishang4668

发布了 1061 篇内容, 共 678.2 次阅读, 收获喜欢 1223 次。

关注

评论

发布
暂无评论
发现更多内容

有序存储对于高性能的意义

华为云开发者联盟

后端 开发 华为云 12 月 PK 榜

ins快拍下载保存到手机相册最新图文教学!

frank

ins图片下载 ins

案例丨多元业态管理服务厂商如何走通数字化转型之路

优秀

数字化转型 数字化管理

国产ETL 星光不问赶路人 时我不待

weigeonlyyou

oracle Prometheus Clickhouse MySQL 数据库 InfluxDB Cluster

今明两天,eBPF 技术探索和 Intel Arch 两大技术 SIG 继续开讲 | 第 57-58 期

OpenAnolis小助手

开源 ebpf intel 龙蜥大讲堂 浪潮信息

学习大数据开发技术能参加培训吗?

小谷哥

AI 训练加速原理解析与工程实践分享

百度Geek说

人工智能 机器学习 12 月 PK 榜

启科量子或将开源环境部署工具Runtime

启科量子开发者官方号

#开源 #量子计算

开发者可以选择哪些小游戏分发平台?

FN0

小游戏 小游戏开发 小程序化

web前端培训机构怎么选?

小谷哥

代码质量与安全 | 如何将清洁代码标准扩展到整个企业,促进业务上的成功?

龙智—DevSecOps解决方案

代码质量 代码安全

前端开发培训后可以从事哪些方面的工作

小谷哥

大数据开发技术有好的培训机构吗

小谷哥

支持API 9的Sample已上新,速来拿走

HarmonyOS开发者

HarmonyOS

老板要的物联网可视化大屏,我30分钟就搞定了

华为云开发者联盟

物联网 华为云 12 月 PK 榜

DevSecOps 需要知道的十大 K8s 安全风险及建议

SEAL安全

k8s DevSecOps 12 月 PK 榜

高可用软件什么意思?哪些高可用软件好用?

行云管家

高可用 双机热备 高可用软件

那些专注小程序语法编译的跨端开发平台

FinFish

前端框架 跨端开发 跨端框架 前端开发框架 前端开发平台

隐私计算之多方安全计算(MPC,Secure Multi-Party Computation)

京东科技开发者

大数据 隐私安全 多方安全 MPC OT

尚硅谷发布JDBC新版视频教程

小谷哥

版本控制 | SVN,Git与Helix Core,谁的数据管理基础设施更安全?

龙智—DevSecOps解决方案

git svn 版本控制 版本控制系统

【2023】合肥市等保测评有哪些公司?地址在哪里?

行云管家

等级保护 等保测评 等保2.0 合肥

LED显示屏企业需要抓住直播的风口吗?

Dylan

LED显示屏 全彩LED显示屏 led显示屏厂家

模块四课后作业 - 设计千万级学生管理系统的考试试卷存储方案

闲人Eric

架构实战营

还原火山引擎A/B测试产品——DataTester 私有化部署实践经验

字节跳动数据平台

大数据 AB testing实战 12 月 PK 榜

研讨会回顾 | 自动化测试“领导者”SmartBear解析软件质量与测试现状调研

龙智—DevSecOps解决方案

软件测试 自动化测试 测试自动化

高性能网关基石——OpenResty

ooooooh灰灰

lua nginx openresty

管理有方!华为云数据库为医药行业管理加速

华为云开发者联盟

数据库 后端 华为云 12 月 PK 榜 医药

持续发力折叠屏生态,OPPO 携手开发者探索大屏应用新体验

科技热闻

昇腾CANN:为你开启机器人开发的Buff 加成

华为云开发者联盟

人工智能 华为云 昇腾AI 12 月 PK 榜

安装 Azure CL 并生成 service principal 文件

HummerCloud

云计算 azure

金融企业落地大语言模型的路线图_生成式 AI_周健_InfoQ精选文章