写点什么

Web ML 库 Transformers.js 提供文本转语音功能

作者:Agazi Mekonnen I

  • 2023-12-08
    北京
  • 本文字数:1092 字

    阅读完需:约 4 分钟

Web ML 库 Transformers.js 提供文本转语音功能

JavaScript 库 Transformers.js 提供了类似 Python Transformers 库的功能,设计用于在 Web 浏览器中直接运行 Transformer 模型,而不再需要外部服务器参与处理。在最新的 2.7 版本中,Transformers.js 引入了增强功能,其中包括文本转语音(TTS)支持。这次升级响应了用户的诸多需求,扩展了库的应用场景。


文本转语音(TTS)包括从文本创建听起来比较自然的语音,并提供了多种口语语言和 speaker。目前,Transformers.js 只通过 Xenova/speecht5_tts 提供 TTS 支持,而 Xenova/speecht5_tts 基于微软提供的带有 ONNX 权重的 SpeechT5。未来更新计划中包括增加对 bark 和 MMS 的支持。


开发人员可以通过 @xenova/transformers 中的管道函数来使用文本转语音功能,包括指定“文本转语音”任务和要使用的模型('Xenova/ speecht5_ts '),并使用选项{quantized: false}。此外,其中还包含提供 speaker embeddings 的文件链接。


将 TTS 模型应用于给定的文本后,它就会输出音频数组和采样率。该数组表示合成语音,可以进一步处理或直接在浏览器中播放。


Transformers.js 适用于各种用例,包括风格转换、图像绘制、图像着色和超分辨率。它的多功能性和定期更新使其成为开发人员探索机器学习和 Web 开发结合点的宝贵资产,并使其成为 Web 机器学习领域的可靠工具。


按照设计,Transformers.js 在功能上等同于 Hugging Face 的 Python 库 transformers,也就是说,你可以使用非常近似的 API 运行相同的预训练模型。


Transformers.js 支持许多任务和模型,涉及自然语言处理、视觉、音频、表格数据、多模态应用和强化学习。该库涵盖了从文本分类和摘要到图像分割和对象检测的各种任务,这使其成为各种机器学习应用程序的通用工具。


Transformers.js 提供了广泛的模型支持,包括 BERT、GPT-2、T5 和 Vision Transformer(ViT)等架构,确保用户可以针对特定的任务选择正确的模型。


对于 Transformers.js 的发布,社区持积极态度。在今年早些时候发起的 Reddit 帖子中,用户 Intrepid-Air6525 表示:我决定用它来代替 openai 的嵌入模型。速度非常快。我实际使用的 LLM 是 webLLM ,因为我不想消耗太多的 CPU 处理。


用户 1EvilSexyGenius 对 Hugging Face 的市场定位以及关于实际应用的讨论发表了看法:


[…] 借助 Transformers.js 及他们提供的其他优秀的库,很显然, [Hugging Face] 正在努力实现语言模型的民主化,并将它们带给大众。与每天发布的所有模型相比,这样的帖子会让这个社区受益匪浅。


感兴趣的读者可以从 Hugging Face Transformers.js 官方网站及其 GitHub 库中获得更多信息。


原文链接:

https://www.infoq.com/news/2023/11/transformersjs-ml-for-web/


2023-12-08 08:005861

评论

发布
暂无评论
发现更多内容

【IT小知识】堡垒机支持哪些私有云平台?

行云管家

网络安全 私有云 等保 堡垒机

CHIMA 回顾|图尔兹携 HySuite 亮相,新一代医疗数据安全方案更全面、更精准、更智能

BinTools图尔兹

数据安全 电子病历 数据库管理 医疗信息化 互联互通

AI晚报|GPT-4o最新语音交互模式即将上线,微软Build 2024开发者大会即将开幕...

可信AI进展

人工智能

LLM 大模型学习必知必会系列(五):数据预处理(Tokenizer分词器)、模板(Template)设计以及LLM技术选型

汀丶人工智能

人工智能 大模型

【FAQ】HarmonyOS SDK 闭源开放能力 —Map Kit(2)

HarmonyOS SDK

HarmonyOS

如何用ByteHouse,实现金融场景下的精准营销

极客天地

高并发系统-使用自定义日志埋点快速排查问题

京东科技开发者

中间件是什么?信创中间件有哪些牌子?

行云管家

中间件 信创 堡垒机

LED显示屏:舞台艺术变革

Dylan

艺术 科技 LED显示屏 led显示屏厂家 舞台表演

低代码赋能!让传统工业企业重新夺回数字化转型主动权!

优秀

低代码 数字化转型 工业数字化

那些你不得不知的常见接口协议!

测吧(北京)科技有限公司

测试

即刻职达携手众多企业达成战略合作,共绘人力资源行业创新发展新篇章

新消费日报

融云荣获甲子光年「2024 中国 AI 出海服务创新企业」奖

融云 RongCloud

跨端自渲染绘制的实践与探索

京东科技开发者

Databend 开源周报第 145 期

Databend

火焰杯测试开发大赛赛前辅导——web自动化

霍格沃兹测试开发学社

【深度解析】那些你不得不知的常见接口协议!

测试人

软件测试

报名倒计时丨职场<火焰杯>测试开发大赛报名仅剩最后3天!

测吧(北京)科技有限公司

测试

实战指南:API 集成测试详解

Apifox

测试 后端 集成测试 API 测试工具

报名倒计时丨职场<火焰杯>测试开发大赛报名仅剩最后3天!

测试人

软件测试

赛前辅导 | 职场<火焰杯>测试开发大赛赛前辅导-Web自动化测试

测吧(北京)科技有限公司

测试

Web ML 库 Transformers.js 提供文本转语音功能_架构/框架_InfoQ精选文章