写点什么

如何看待深度学习?

  • 2015-12-17
  • 本文字数:1041 字

    阅读完需:约 3 分钟

近来,深度学习成为一个流行词。有分析师认为,它会削弱现有机器学习方法的地位。实际上,深度学习并不是一个新概念,它是上世纪 90 年代就已经出现的人工神经网络(ANN)算法的一种扩展。由于ANN 需要极大的数据集用于训练,所以被边缘化了。深度学习算法为ANN 带来了新生,它会训练多层ANN,而所需的数据比先前的预期要少。近日,数据科学家Anubhav Srivastava撰文分享了一些有关深度学习的看法。

深度学习可以更好地通过增加数据集的规模来改善学习结果,这是人们需要这种算法的原因。在实际的解决方案中,深度学习更适合于未标记数据,而这超出了自然语言处理的范畴,后者更多限于实体识别。与传统的机器学习工具相比,深度学习挖掘了神经网络的潜力。基于强大的特征提取,它比其他工具更适合模式识别(图像、文本、音频)。

但是,深度学习并不会取代其他所有的机器学习算法。对于许多应用而言,一些简单点的算法(如逻辑回归、支持向量机)就已经足够。支持者之所以为深度学习而兴奋,一个基本的原因是,它是一种不同于线性或内核模型的元算法。这意味着,深度学习没有任何损失函数的特性,而且不受特定的公式限制,可以为科学家提供更大的灵活性。

有分析师认为,深度学习是最像大脑的算法,但Anubhav 认为这种观点有些片面,并以 Numenta 为例进行了进一步的阐述。Numenta“皮质(cortical)”算法基于分级时序记忆(HTM)模型,而后者是在“稀疏分布记忆(sparse distributed memory)”概念的基础上发展而来,那是一种学习人类长期记忆的数学模型。皮质算法既可以从空间维度,也可以从时间维度进行特征提取,使它更像是大脑的仿制品。

有鉴于此,Anubhav 认为,目前围绕深度学习和Numenta 的一些争论不甚合理。有种观点是,Numenta HTM 适合无监督学习,并将此视为其相对于深度学习算法的一个重大优势。还有一种观点是,Numenta 可以视为一种时间- 内存需求更小的在线学习算法。Anubhav 指出,有一个很重要的事实被忽略了,就是深度学习是一个多层模型。在多数情况下,神经网络模型一次只能求解一种问题类型,面对多种问题类型时,就需要使用混合模型。在这方面,深度学习算法的多层模型是一个巨大的优势,即使Numenta 也无法与其相比。


感谢杜小芳对本文的审校。

给InfoQ 中文站投稿或者参与内容翻译工作,请邮件至 editors@cn.infoq.com 。也欢迎大家通过新浪微博( @InfoQ @丁晓昀),微信(微信号: InfoQChina )关注我们,并与我们的编辑和其他读者朋友交流(欢迎加入 InfoQ 读者交流群(已满),InfoQ 读者交流群(#2))。

2015-12-17 18:005240
用户头像

发布了 1008 篇内容, 共 422.6 次阅读, 收获喜欢 346 次。

关注

评论

发布
暂无评论
发现更多内容

基于 Groq 和 Cartesia 的高速 AI 语音助手发布;xAI 将自行打造超级计算机丨 RTE 开发者日报

声网

你的数据库真的规范吗?小心这些“潜在风险”!

NineData

DevOps 数据库规范 审计日志 NineData SQL 规范

紫光闪存京东品牌焕新日来袭!多重福利精彩放送

新消费日报

使用 Protobuf 实现高效数据交换

左诗右码

protobuf

从 Icelake 到 Iceberg Rust

Databend

积分经济学指南:掌握加密货币激励的新语言

TechubNews

利用Altair One 云平台,轻松实现全球企业产品研发创新与优化

Altair RapidMiner

人工智能 软件 数据分析 制造 altair

华为云发布ServiceStage:内置优秀业界实践「云应用管理和运维」模板

轶天下事

用不了ChatGPT?快试试免费又强大的Anthropic Claude

蓉蓉

GPT Claude

推荐个人或企业使用的4个虚拟桌面解决方案 – 云桌面

青椒云云电脑

云桌面 云桌面解决方案 虚拟云桌面解决方案

华为云助力徐州市城管局荣获数字城市赛道“百景新锐奖”

新消费日报

平凯星辰黄东旭出席 2024 全球数字经济大会 · 开放原子开源数据库生态论坛

PingCAP

开源 金融行业 #TiDB 开放原子 平凯星辰

Persistent在《机构投资者》(Institutional Investor)2024年度亚洲高管团队调查中被评为管理和高管领导力卓越企业

财见

数业智能亮相AI论坛,共探数字心理健康新领域

心大陆多智能体

智能体 AI大模型 心理健康 数字心理

百度安全大模型智能体实践入选信通院“安全守卫者计划”优秀案例

百度安全

RPA助力企业财税业务智能化转型:深入探索与实践

不在线第一只蜗牛

Docker 安装 KONG 带你玩转 API 网关

左诗右码

Kong 网关

AI“语速”知多少?基于云拨测的国产大模型使用体验测评!

火山引擎边缘云

AI 大模型 云拨测、 云拨测 #大模型

华为云CodeArts 12大安全防护机制,端到端全面保障软件供应链安全!

轶天下事

CodeArts加速软件智能化开发,携手HarmonyOS重塑企业应用创新体验

轶天下事

唐刘:当 SaaS 爱上 TiDB(一)- 行业挑战与 TiDB 的应对之道

PingCAP

数据库 SaaS #TiDB 洞察 资源管控

微服务nacos默认开启鉴权JeecgBoot

JEECG低代码

微服务 nacos

Apache IoTDB & TsFile 智慧能源应用“上会”啦!

Apache IoTDB

华为云Astro Zero低代码平台案例:小、轻、快、准助力销售作战数字化经营

轶天下事

云桌面系统解决方案-青椒云

青椒云云电脑

云桌面 云桌面厂家 云桌面解决方案 云桌面系统

深入理解 Nginx 与 Kong 的配置与实践

左诗右码

Kong 网关

全球销量领先车企基于Serverless服务构建数据实时处理的千万级车联网业务

轶天下事

如何看待深度学习?_语言 & 开发_谢丽_InfoQ精选文章