写点什么

蚂蚁数科 CTO 王维香港演讲:AI 是把双刃剑,AIGC 滥用风险需系统性应对

  • 2024-10-29
    北京
  • 本文字数:1039 字

    阅读完需:约 3 分钟

大小:526.97K时长:02:59
蚂蚁数科 CTO 王维香港演讲:AI 是把双刃剑,AIGC滥用风险需系统性应对

大模型的应用从‘上新品’逐渐进入‘强应用’阶段,更好的通用人工智能仍在路上。”10 月 29 日,蚂蚁数科 CTO 王维在香港金融科技周 2024 分享时指出。


两年前,大语言模型(LLM)的出现,引发了全球科技从业者的普遍关注和行业热潮。ChatGPT 月活用户数以史上最快速度达到 1 亿,AI 行业迎来“ChatGPT 时刻”。经过一段时间的狂奔,LLM 性能阶段性趋于饱和,大模型底层推动力逐渐收敛到少数拥有核心数据及算力资源的公司,行业注意力也更多转到了以 Agent 为代表的行业应用侧。



如何解放 LLM 应用的局限性。王维强调,高质量的行业数据和专业工具是 AI 继续发展的关键壁垒和门槛,行业应用需要系统性地解决专业严谨和安全可信等问题。蚂蚁数科“蚁天鉴”产品,集大模型安全测评与防御为一体,让大模型在生产和使用过程中更安全、可控、可靠。


他认为,高质量数据可以更好地模拟客观世界,提升模型的准确性和稳定性。过去十年,伴随着 AI 发展的范式转移,对数据的要求也在持续改变。机器学习从“以模型为中心”转向“以数据为中心”。在当下的 LLM 时代,行业应用要做到安全可信,其核心是如何结合专业人工+AI 算法的高效标注,产生高质量的标注数据。


而面向未来的 AGI 时代,随着互联网公开数据逐步耗尽,以及 GPT-o1 带来的强化学习训练新范式,都预示着数据合成的重要性进一步提升。王维指出,如何通过仿真引擎、自博弈(self-play)强化学习的方式,合成出更多互联网所不覆盖的高质量、高价值领域数据,将是到达 AGI 时代的关键。

 

他也提醒道,AI 是把双刃剑,AIGC滥用所带来的风险需要系统性应对。不久前,“AI 教父”杰弗里·辛顿(Geoffrey E. Hinton)在采访中再次强调了其对 AI 安全问题的强烈担忧。他与另外两位图灵奖得主约书亚·本吉奥(Yoshua Bengio)、姚期智及来自世界各地的几十位科学家共同签署了一封公开信——“AI 安全国际对话威尼斯共识”,呼吁为推动人工智能的发展制定更好的保障措施。


他们在公开信中警告道,“随着人工智能的快速发展,这些‘灾难性的结果’随时可能发生。” 究其问题根源,在于 AIGC 的滥用不仅会产生虚假信息和网络钓鱼攻击,还可能引发全球性的诈骗活动。其中,值得关注的一大风险来源便是 Deepfake, 即基于深度学习算法,从大量的视频和图像数据中学习,伪造出逼真的面部动画和语音。


王维介绍,蚂蚁数科旗下身份安全品牌 ZOLOZ 为此专门研发了综合防控产品 ZOLOZ Deeper,以应对在开户、登录、支付等各种场景的深度伪造风险。在服务印尼某头部银行后,产品上线一个月时间内实现了 Deepfake 风险“0 漏过”。

2024-10-29 18:205484
用户头像
李冬梅 加V:busulishang4668

发布了 1146 篇内容, 共 764.1 次阅读, 收获喜欢 1281 次。

关注

评论

发布
暂无评论
发现更多内容

通过ModelScope开源Embedding模型将图片转换为向量

DashVector

人工智能 数据库 大数据 大模型

TextIn ParseX:助力开发者解析版面元素信息

合合技术团队

科技 textin

终于!!把企业轻量级数据中台的构建路径理清了!

RestCloud

数据中台 ETL 数据管理 企业数据中台

构建安全基石:反射API与代码注入防护的集成方案

技术冰糖葫芦

api 网关 API Gateway API 文档 API 测试 pinduoduo API

输入一段文字,瞬间生成应用。Furion低代码平台与AI协同工作,展现出非凡的效率与精准。

天津汇柏科技有限公司

低代码 低代码平台 AI 人工智能

HTTP 客户端:RestClient、WebClient、RestTemplate

FunTester

运维安全审计系统厂家有哪些?推荐哪家?

行云管家

运维 行云管家 安全运维

国产远控软件中,为什么我倾向于选择向日葵?

科技热闻

论文解读 -TongGu

合合技术团队

科技 论文

无代码情报处理漫谈

数由科技

低代码 ETL 无代码 AI模型 情报处理

测评通义灵码,如何实现微信表情、 AI 语音笔记等小功能?

阿里巴巴云原生

阿里云 云原生 通义灵码

测评通义灵码,如何实现微信表情、 AI 语音笔记等小功能?

阿里云云效

阿里云 云原生 通义灵码

AI假图检测:Deepfake层出不穷,怎么才能“有图有真相”?

合合技术团队

科技 AIGC deepfake

如何将图片转换为向量?(通过DashScope API调用)

DashVector

人工智能 数据库 大数据

ChatGPT 插件开发

霍格沃兹测试开发学社

强化安全防线:融合反射API与代码注入防护的综合策略

代码忍者

API 文档 API 测试

客服测试流水线编排设计思路和准入准出应用|得物技术

得物技术

流水线 企业号2024年8月PK榜 质量平台

蚂蚁数科 CTO 王维香港演讲:AI 是把双刃剑,AIGC滥用风险需系统性应对_生成式 AI_李冬梅_InfoQ精选文章