人工智能缺乏“激励机制”，如何重新定位和思考 AI 的发展？

9 月 5 日上午，2024 Inclusion·外滩大会在上海黄浦世博园区开幕。会上众多专家分享了关于人工智能的最新见解。

其中，著名未来学家、《连线》杂志创始主编凯文·凯利在开幕主论坛上的演讲中指出，当人工智能深刻影响经济和文化，必将涌现三大趋势：全球主义、创新加速和 AI 驱动生成。

具体而言，全球主义正在迅速推进，因为我们正在共同构建一个基于技术的“超级有机体”。“我们正将全球的手机、笔记本电脑和所有的数据服务器连接成一个巨大的计算系统。每一台设备就像这个庞大计算机的一个神经元。这台超级计算机在一个前所未有的规模上高速运行。”

同时，AI 技术加速了创新的步伐，这种加速体现在多个方面，包括新发明和新思想的传播速度越来越快、通过增强现实（AR）和虚拟现实（VR）技术来提高学习效率，甚至 AI 也通过机器及其他传感器来感知世界等。此外，ChatGPT 等人工智能工具，也极大地加快了人们学习的速度。

“这正是人工智能带来的真正巨大革命，”凯文·凯利说，人工智能系统正在生成新的事物——它们还不完美，但正在变得越来越好。

机器学习泰斗、美国“三院院士”迈克尔·乔丹则指出，“缺乏对集体性、不确定性和激励机制的关注，是当前对人工智能的讨论中缺失的三个方面。”他强调，AI 系统的发展不能仅依赖单个智能设备，而是要通过集体协作，构建去中心化的智能系统，特别是在面对不确定性时需要集体智能来应对。

“AI 拥有海量的数据，但有些不能生成价值，通过设计激励机制才能驱动 AI 智能体贡献和协作。”迈克尔·乔丹提出了“三层数据市场（Three-Layer Data Markets）”模型，其中用户、平台和数据买家通过“出让数据”、“购买数据”、“提供服务”形成了闭环。他强调，数据购买者也就是企业可以结合“数据和服务”建立与用户的激励机制，从而为他们带来真正的价值。

对此，迈克尔·乔丹援引了统计契约理论，这是一种结合了统计学和经济学的新型理论。在契约理论中，代理人拥有私有信息，而委托人通过激励机制形成了数据和服务相互促进的市场，维持了供需双方的利益平衡。

例如航空公司分“商务舱”和“经济舱”，航空公司作为委托人能够根据代理人的不同支付意愿提供不同的价格，而不需要代理人透露其个人信息。由于过去十年间，全球范围内对数据隐私的监管不断增加，他也建议“我们可以通过非一致的隐私要求进一步提高用户效用，对低成本平台施加更高的要求。”

最后，迈克尔·乔丹将 AI 系统的发展类比于化学工程和电气工程的发展，前者建立在化学、流体力学等领域，后者基于建立在电磁学、光学等技术的基础上。而 AI 的基础是建立在推理、算法和经济理念上，并应以人类福祉为目标。“但人工智能正被置于那些未经深思熟虑的、朴素的旧式愿景之中，它的兴起和发展受到扭曲。”其提醒道。

香港科技大学校董会主席、美国国家工程院外籍院士沈向洋在演讲中谈到大模型时代人机交互方式的演变，从图形界面到搜索、推荐，再到对话，大模型的发展将推动这些交互方式的进一步迭代。

沈向洋认为，AI 为人类提供了与技术共生的全新语境，人机交互的新方式指向“AI 与 IA”的融合共进。IA（Intelligent Augmentation），即智能增强，代表着一种以人为本的 AI 发展路径。它聚焦于运用技术提升人类的能力，而非取代人类，强调了人类与 AI 之间的协作关系。

在谈到 AI agent 时，沈向洋指出，agent 从愿景到落地的过程中，需要始终以需求为圆点，深刻理解模型的能力，并构建一个 AI 深度参与的工作流程。他表示，AI agent 时代的到来，不会是一个神奇而强大的模型突然代替了所有的工作流，它涉及到技术、工程与市场的不断磨合，最终以超预期的服务呈现给人类。

此外，他强调，在 AI 迅速发展的同时，全球需要新的治理框架和体系来应对不同地区的需求和挑战。AI 的治理至关重要，必须打造负责任的 AI 系统，才能确保其对社会产生积极的长期影响。