Google 的工程副总 Dave Burke 宣布了一个专门针对移动电话而优化的 Tensorflow 新版本。
这一新的软件库称为 Tensorflow Lite,允许开发人员在用户的移动电话上实时地运行人工智能应用。据 Burke 介绍,该库在设计上力求更快和更小的同时,依然支持最先进的技术。它将作为开源Tensorflow 计划的一部分于今年稍后发布。
当前大多数人工智能处理运行在软件即服务(SaaS)提供商的服务器端。通过该软件库的发布,Google 希望能将一些处理转移到用户的移动电话端。这不仅可以节省处理能力,而且降低了数据量。此外,它可确保用户的数据的私有性,可不再依赖于因特网连接。
Tensorflow Lite 是第二个可在移动电话端运行的深度学习工具。先前在 2016 年 11 月, Facebook 就已经发布了一个称为 Caffe2Go 的架构。Caffe2Go 用于实时风格转移(Style Transfer),即在用户的移动电话端添加了类艺术(Art-like)过滤器。
Burke 还宣布,他团队正在添加与设计一些功能,用于与神经网络处理器进行通信。神经网络中大量使用了同类型的运算,可以使用 GPU 和 Googles 自身的 TPU(Tensor Processing Unit)对这样的运算进行优化。当前移动电话已经用于神经网络,例如在 Google 翻译 App 中。对于移动电话而言,尚难以承担对此类神经网络的训练工作。
查看英文原文: Google Announces Tensorflow Lite: A Neural Network Library for Mobile Phones
公众号推荐:
2024 年 1 月,InfoQ 研究中心重磅发布《大语言模型综合能力测评报告 2024》,揭示了 10 个大模型在语义理解、文学创作、知识问答等领域的卓越表现。ChatGPT-4、文心一言等领先模型在编程、逻辑推理等方面展现出惊人的进步,预示着大模型将在 2024 年迎来更广泛的应用和创新。关注公众号「AI 前线」,回复「大模型报告」免费获取电子版研究报告。
评论