最新发布《数智时代的AI人才粮仓模型解读白皮书(2024版)》,立即领取! 了解详情
写点什么

Magi 搜索引擎红了:我们只是需要一个比百度更好的引擎

  • 2019-11-08
  • 本文字数:2441 字

    阅读完需:约 8 分钟

Magi搜索引擎红了:我们只是需要一个比百度更好的引擎

“Peak Labs”公司近日发布了其人工智能系统 Magi 的公众版“magi.com”。通过这一搜索引擎,用户输入关键词,即可获取 Magi 从互联网文本中自主学习到的结构化知识和网页搜索结果,每个结构化结果后面都会附上来源链接和其可信度评分。


这跟百度之类的搜索引擎不同,传统搜索引擎返回的是一系列的链接,要解读问题,还需要自己去点击网页挖掘有用信息。



这一引擎发布后,引来大批网友围观,将它的服务器玩挂了。Magi 作者发微博做了回应:“突然很多人关注到了我们,真的很感谢大家,其实搜索引擎真的不是我们的主业,我们自己没做任何推广,更没来得及准备应对这恐怖的流量……Magi 单次搜索的计算量比一般的网页搜索要重很多,请大家手下留情,同时再次表示抱歉!”


magi.com 的结果中,答案在搜索框的正下方,链接则在页面右边,跟主流搜索引擎的用户界面相反。如在 magi.com 里搜索“编程语言”,出来的首先是各种主流编程语言的合集:C#、Python、Java、JavaScript…同时给予“编程语言”这个词以“描述”和“属性”解释。红黄绿的颜色代表 Magi 给出的可信评分级别。


在答案的右侧提供了一些链接,用鼠标划过它们即可看到,答案是从哪个具体的来源学习到的:



Magi 的关注点在用户搜索行为的本质,相对传统搜索引擎来说做了一点小改进 : “帮你思考”。当输入想了解事物或信息,传统搜索引擎给出的是按照结果的权重 (Page Rank) 展现的链接信息,需要自己去归纳和判断可信度。Magi 多做了一步,不仅收录互联网上的海量文本,还会去尝试理解并学习这些文本中蕴含的知识和数据。


季逸超表示,Magi 类似于民用版的 IBM Watson 或非学术版的 Wolfram Alpha


Wolfram Alpha 是一个读得懂你提问的搜索引擎,它的目标是“计算一切” 。按照发明者 Stephen Wolfram 的说法,它是一个计算知识引擎,而不是像百度或者谷歌那样的搜索引擎。简单地说来,它其实是一个绘图计算器、参考书图书馆、以及搜寻引擎的综合体,非常超前。


除了直接给出计算结果,Wolfram Alpha 还能够处理基于自然语言的事实问答问题,例如:


  • 如果输入“China GDP”,出现的将不是一大堆网页,而是直观的数据和图表。包括:中国 GDP 最新情况,从 1970 年至今的中国 GDP 增长情况(图表形式)、中国通货膨胀率、失业人口率。

  • 如果输入“How many people in China”,你可以看到当前中国的总人口数、人口密度、平均每年人口增长率、预期寿命和平均年龄等数据。


Magi 的背后

Magi 来自中国团队 Peak Labs,创始人季逸超在开发者圈子内也小有名气。2011 年,还在北大附中读书期间,他就独自完成了猛犸浏览器 iOS 的开发。2012 年,季逸超创办了自己的公司,继续推动浏览器和输入法项目。目前,Peak Labs 主要精力都放在 Magi 项目上,专注于背后的技术,以及相关商业产品的开发。


“我们真正做商业化的,是 Magi 背后的技术——基于迁移学习的开放信息提取。”


Magi 采取的迁移学习 NLU 算法,具有的优势在于只需使用通用数据训练 AI 引擎,就能使 AI 引擎很好的适用专业垂直领域。Magi 首先使用互联网知识和自有的数据进行预训练,而专业垂直领域的任务仅需极少量人工数据标注,就能达到大规模数据的训练效果。


季逸超在知乎上给出了详细而全面的技术解读(来源:知乎用户季逸超,链接:https://www.zhihu.com/question/354059866/answer/881655371):



一、利用率和通用性


Magi 不再依赖于预设的规则和领域,“不带着问题” 地去学习和理解互联网上的文本信息,同时尽可能找出全部信息 (exhaustive) 而非挑选唯一最佳 (most promising)。Magi 通过一系列预训练任务淡化了具体实体或领域相关的概念,转而学习 “人们可能会关注内容中的哪些信息?”。为 Magi 设计了专门的特征表达、网络模型、训练任务、系统平台(下面都会讲到),并投入大量精力逐渐构建了 proprietary 的专用训练/预训练数据。Magi 通过终身学习持续聚合和纠错,为人类用户和其他人工智能提供可解析、可检索、可溯源的知识体系。


二、覆盖率和时效性


配合自家 web 搜索引擎以评估来源质量,信息源和领域不设白名单,综合 Clarity(清晰度)、Credibility(可信度)、Catholicity(普适性)三个 Magi 权衡知识工程的规模化和准确性难题的量化标准来进行来源质量评估。且注重时效性,时效性体现在上文提到的对既有知识的时间线追踪,做到不再周期性触发 batch 更新,整个系统持续在线上学习、聚合、更新、纠错。


三、可塑性和国际化


没有前置 NER 和 dependency parsing 等环节,减少母文本信息的损失。为 Magi 的提取模型设计了专用的 Attention 网络结构以及数个配套的预训练任务。技术栈完全 language-independent,可以实现低资源和跨语言 transfer。

它做对了什么?

Magi 官网和季逸超自己也坦承还存在一些不足,比如消歧义、工程性,以及规模化和准确度等。对于搜索慢的问题,季逸超在微博中说,这是由于单次搜索的计算量比一般的网页搜索要重很多。Magi 搜索结果目前还不够好,但这也不妨碍它成为一个未来的搜索引擎方向,给用户提供一个可信任的和理解学习之后的知识。特别是发展在这个 AI 时代,搜索引擎的结果更应该贴近用户的需求。


现在的主流搜索引擎依靠机器抓取,建立在超链分析基础上的网页搜索,采用搜索爬虫和排序算法的组合,以关键词为核心自动检索,实现海量信息的自动获取与重要性排序。作为获取信息的入口,它直接关系到我们获取的信息的质量,也成就了早期的互联网公司。 但现在搜索引擎的过度商业化操作已经引起了用户的反感。由于谷歌退出中国,目前中国的主要搜索引擎就是百度。美国宾夕法尼亚大学传播学博士方可成在他的一篇《搜索引擎百度已死》的文章中表示:“百度已经不打算好好做一个搜索引擎了,它只想做一个营销号平台,把希望来搜索内容的人全都变为自家的流量,然后变现。“


很多人也就是需要一个比百度更好的搜索引擎:



季逸超在他的微博里说道:“现在的 Magi 饱含一个工程师朴素的初心,既不想拿广告恶心你,也对你的隐私毫无兴趣。”


Magi 引擎的“红”,说明了大家期望出现一个更好的搜索引擎。


公众号推荐:

跳进 AI 的奇妙世界,一起探索未来工作的新风貌!想要深入了解 AI 如何成为产业创新的新引擎?好奇哪些城市正成为 AI 人才的新磁场?《中国生成式 AI 开发者洞察 2024》由 InfoQ 研究中心精心打造,为你深度解锁生成式 AI 领域的最新开发者动态。无论你是资深研发者,还是对生成式 AI 充满好奇的新手,这份报告都是你不可错过的知识宝典。欢迎大家扫码关注「AI前线」公众号,回复「开发者洞察」领取。

2019-11-08 19:4128910

评论 7 条评论

发布
用户头像
加油 不忘初心 越来越好
2019-11-28 15:05
回复
用户头像
超棒的玩具和词条百科
2019-11-23 10:49
回复
用户头像
搜了一下 自己的网名, 搜出来的东西有点少, 有待提升
2019-11-19 09:53
回复
用户头像
搜了一下 自己的网名 搜出来的东西有点少
2019-11-19 09:53
回复
用户头像
Powerset
2019-11-18 09:40
回复
用户头像
好希望可以给网站定义权重,CSDN好多文章都是什么东西
2019-11-09 16:01
回复
用户头像
背景色配色真够难看的,
2019-11-09 13:32
回复
没有更多了
发现更多内容

java开发之SpringBoot实现自动执行代码

@零度

JAVA开发 springboot

【分布式技术专题】「Zookeeper系列」为大家介绍一下 Zookeeper 的"开发伴侣"—Curator-Framework(组件篇)

洛神灬殇

zookeeper ZooKeeper原理 1月月更 Curator-Framework

深度解读企业云上办公利器「无影云电脑」

阿里云弹性计算

阿里云 无影云电脑

【数据库】查询优化之子连接优化

恒生LIGHT云社区

数据库 sql SQL子查询 子查询

Form 表单在数栈的应用(上): 校验篇

袋鼠云数栈

大数据 前端

大数据开发之Spark SQL 的 Catalyst介绍

@零度

大数据 spark SQL

Apache 基金会年度报告 | ShardingSphere 代码提交量位列前十

SphereEx

数据库 开源 基金会 ShardingSphere SphereEx

网易云信又双叒受到Gartner关注,看看这次的报告说了什么?

网易云信

Gartner 通信平台 CPaaS

main函数你到底知道多少

恒生LIGHT云社区

后端 开发 Java’ main方法

星环科技AIoT平台让工业制造设备更智能、更耐用

星环科技

【堡垒机】2022年企业买堡垒机就选行云管家!五大优点看这里!

行云管家

等保 堡垒机 过等保 等保2.0

阿里云视频云vPaaS低代码音视频工厂:极速智造,万象空间

阿里云视频云

音视频 低代码 视频云 视频开发

12月发布两大特别专区!一图了解龙蜥社区大事件

OpenAnolis小助手

开源 操作系统 运营

rosdep update遇到ERROR: error loading sources list: The read operation timed out问题

Ayosh

ROS

复旦大学陈平博士:网络攻击猖獗,如何应对数据安全与内生安全挑战?

星环科技

网络安全

盘点 2022 云原生实战峰会重磅发布

阿里巴巴云原生

阿里云 开源 容器 云原生

如何高效上架HarmonyOS原子化服务?这个平台帮你搞定!

HarmonyOS开发者

HarmonyOS

AI+CFD:面向空天动力的科学机器学习新方法与新范式

百度开发者中心

飞桨

澳鹏中国智能可配置工作流(Workflow 2.0)全新升级

澳鹏Appen

人工智能 工作流 workflow 数据标注 训练数据

极客星球 | MobPush之FCM离线消息解密

MobTech袤博科技

FCM 离线消息

阿里云消息队列 2021 新功能新特性重要里程碑

阿里巴巴云原生

kafka 阿里云 RocketMQ 云原生 消息队列

热门链游GameFi项目Radio Caca 联手Hoo虎符撒空投

区块链前沿News

Hoo 虎符交易所 链游 RACA

Android技术分享| Android WebRTC 对 AudioRecord 的使用

anyRTC开发者

android 音视频 WebRTC 移动开发 AudioRecord

人员流动大,简历管理纷杂怎么办?用低代码可以解决嘛?

优秀

低代码

为企业选择合适的CRM系统的技巧

低代码小观

CRM 客户关系管理 CRM系统 客户关系管理系统 企业管理软件

恒源云(GPUSHARE)_CV领域有关【直方图】的论文小记

恒源云

深度学习 CV

白话大数据 | 元宇宙来了,但是你了解元数据吗?

星环科技

元数据

【有奖评测】无影云电脑评测征集令,晒出评测赢万元豪礼

阿里云弹性计算

阿里云 无影云电脑 征文活动

MASA Framework - 整体设计思路

MASA技术团队

C# .net 框架 Framework dapr

【分布式技术专题】「Zookeeper系列」为大家介绍一下Zookeeper的"开发伴侣"—Curator-Framework(基础篇)

洛神灬殇

zookeeper curator 1月月更 CuratorFramework

数据库审计设备选择哪家好?谁能告知?

行云管家

数据库 服务器 数据库审计

Magi搜索引擎红了:我们只是需要一个比百度更好的引擎_AI&大模型_Tina_InfoQ精选文章