30+ 行业大咖，提出了这些直击痛点的 AI 议题

AICon全球人工智能开发与应用大会在 2024 年已经成功举办到第三届，作为年度的终极收官之作，除了议题持续推陈出新，值得关注的还有——新增了 9 场圆桌交流环节🎤

两天时间，9 场圆桌。虽然看起来不少，但每一场话题都极具吸引力，妥妥地“不怕你不感兴趣，就怕你分身不暇！”

12 月 13 日~14 日，我们诚邀感兴趣的读者朋友们前来交流，一起围观热烈的思维碰撞。以下是本次大会圆桌交流的系列精彩话题👇🏻具体的圆桌交流时间安排可以在大会日程中查阅。

一、从“卷生卷死”的大模型 API 成本谈起：技术、市场与未来趋势

研讨话题：

1. 国内主流大模型 API 的调用成本已经卷到很低，还会有多少下降空间，空间来自于哪里？

2. 国产算力的真实性价比和可用性如何，现在值得跟进吗？

3. 手机端侧推理，目前整体都在 Demo 阶段，模型稍微大点，上下文稍微长点就不可用。端侧推理未来能否成熟？预测何时能成熟？

4. 投入大模型行业的工程师，做集成应用、模型训练、推理架构等等，哪个方向未来前景更大，工程师应该如何选择职业发展规划？

5. 预测三年后，技术、应用与行业发生的变化

二、大模型驱动下的智能数据治理与处理

研讨话题：

1. 大模型时代，如何平衡数据的广泛性与精细化处理？具体实践中有哪些有效的解决方案？

2. 如何应对实时性要求高的数据处理与推理场景，确保数据的时效性和精度？

3. 大模型时代，需要什么样的 ETL 工具？

4. 大模型如何助力传统数据 ETL Pipeline？

5. 将大模型应用在数据治理领域，如何最小化 AI 幻觉问题产生的影响？如何评估 ROI 和风险？

三、多模态任务中的数据构建与大模型优化

研讨话题：

1. 多模态任务中数据显得很关键，目前数据的情况是否满足需求，未来的数据形式和数据该如何高效构建？

2. 现在数据处理流程，大概有多少比例的工作是由大模型来完成或者辅助完成？

3. 多模态目前有理解和生成任务，对应的有自回归和扩展模型等技术路线，实际场景中，怎么看两者的优缺点和后续技术发展趋势？

4. 多模态大语言模型未来的进化方向，架构变化以及优化目标是什么？

四、LLM 基座选型、数据集构建与产品落地的坑与对策

研讨话题：

1. 在行业应用中，哪些场景更适合大模型的落地？

2. 在现有企业的技术和业务环境中，很多应用和平台是在 AI 大模型爆发之前已经建立并运行的（即存量应用）。面对 AI 大模型的快速发展，如何将其有效嵌入到这些传统或存量应用中？

3. 在行业应用中，如何进行基座大模型的技术选型，以确保最佳的落地效果？

4. 如何构建高质量的大模型行业数据集？

5. 面向 AI Native 的创新产品，应该凝练什么样的能力？

五、资源有限，如何构建高效能的 AI Agent

研讨话题：

1. 如何识别和选择一个既具有可实现性又能发挥 AI Agent 优势的应用场景？

2. 真正智能的 AI Agent 可能会如何实现？

3. 如何在资源有限的情况下突破普通 AI Agent 的能力瓶颈，实现更高的应用价值？

4. AI Agent 平台如何简化开发流程，使更多人能轻松将其应用到具体业务中？

5. 未来 AI Agent 将如何实现与人类的无缝交互？理想形态是什么样的？

6. 如何培养和吸引具备场景理解、文字处理与大模型交互能力的复合型人才？

六、大模型搜广推，“新瓶装旧酒”还是“范式的革新”？

研讨话题：

1. 大模型和互联网传统应用（如搜广推等）的结合，到底是“新瓶装旧酒”还是“范式的革新”？

2. 大模型在大型企业落地有哪些挑战？应该如何应对？

3. 如何看待可穿戴设备与大模型的结合？应用架构上会产生哪些变化

4. 大模型时代到来，哪些传统任务和算法值得升级和用大模型技术重新改变？

七、探索 Scaling Law 的边界与 AI 芯片的新竞争格局

研讨问题：

1. 大模型预训练阶段的 Scaling law 还可持续吗？算力的突破能否带来新的 Scaling law?

2. 形如 OpenAI o1 的推出会对未来算力的格局发生什么变化？

3. 新一代推理芯片（Groq、Celebras）是否会挑战 NVIDIA 的 GPU 地位？

八、RAG 的未来，走向繁荣、重塑还是消亡？

研讨话题：

1. 在 RAG 场景中，数据引擎的检索能力还有哪些潜在的改进空间？

2. 未来，检索技术与大型语言模型（LLM）的结合将如何进一步发展？

3. 除了 RAG，还有哪些方法可以减少大型语言模型的幻觉问题并提高回答的准确性？

4. 多模态技术的发展将如何为 RAG 带来新的机遇？

5. 目前检索和生成模块相对独立，如何更有效地整合检索器和 LLM？

6. RAG 对于 O1 类推理模型的意义何在？

7. 在 Transformer 时代之后，RAG 将如何演进？

九、AI 技术驱动下的产品商业化与用户增长策略

研讨话题：

1. 创业公司面临一个两难：如果紧跟最新技术可能导致产品不断推翻重来，资源消耗大；如果不跟进又可能被新技术淘汰。那么创业公司应该如何在“及时跟进”和“稳定发展”之间找到平衡点？

2. 现在大家都在讨论 AI 应用的变现难题。一些公司在 AI 早期就过于执着于直接变现，反而可能错过了建立用户心智和培养使用习惯的关键期。那么在 AI 应用的商业化路径上，我们是否应该重新思考“先培养用户习惯”还是“先追求收入”这个问题？

3. 既有 C 端用户又有 B 端客户的产品，两者怎么协同发现做增长？