写点什么

通义千问重磅开源 Qwen2.5,下载量突破 4000 万

  • 2024-09-19
    北京
  • 本文字数:1240 字

    阅读完需:约 4 分钟

大小:684.54K时长:03:53
通义千问重磅开源Qwen2.5,下载量突破4000万

9 月 19 日云栖大会,阿里云 CTO 周靖人发布通义千问新一代开源模型 Qwen2.5。Qwen2.5 全系列涵盖多个尺寸的大语言模型、多模态模型、数学模型和代码模型,每个尺寸都有基础版本、指令跟随版本、量化版本,总计上架 100 多个模型。



Qwen2.5 全系列模型都在 18T tokens 数据上进行预训练,相比 Qwen2,整体性能提升 18%以上,拥有更多的知识、更强的编程和数学能力。Qwen2.5-72B 模型在 MMLU-rudex 基准(考察通用知识)、MBPP 基准(考察代码能力)和 MATH 基准(考察数学能力)的得分高达 86.8、88.2、83.1。


Qwen2.5 支持高达 128K 的上下文长度,可生成最多 8K 内容。模型拥有强大的多语言能力,支持中文、英文、法文、西班牙文、俄文、日文、越南文、阿拉伯文等 29 种以上语言。模型能够丝滑响应多样化的系统提示,实现角色扮演和聊天机器人等任务。在指令跟随、理解结构化数据(如表格)、生成结构化输出(尤其是 JSON)等方面 Qwen2.5 都进步明显。


语言模型方面,Qwen2.5 开源了 7 个尺寸,0.5B、1.5B、3B、7B、14B、32B、72B,它们在同等参数赛道都创造了佳绩,型号设定充分考虑下游场景的不同需求,3B 是适配手机等端侧设备的黄金尺寸;32B 是受开发者期待的“性价比之王”,可在性能和功耗之间获得最佳平衡,Qwen2.5-32B 的整体表现超越了 Qwen2-72B。


在 MMLU-redux 等十多个基准测评中,Qwen2.5-72B 表现超越 Llama3.1-405B


72B 是 Qwen2.5 系列的旗舰模型,其指令跟随版本 Qwen2.5-72B-Instruct 在 MMLU-redux、MATH、MBPP、LiveCodeBench、Arena-Hard、AlignBench、MT-Bench、MultiPL-E 等权威测评中表现出色,在多个核心任务上,以不到 1/5 的参数超越了拥有 4050 亿巨量参数的 Llama3.1-405B。


专项模型方面,用于编程的 Qwen2.5-Coder 和用于数学的 Qwen2.5-Math 都比前代有了实质性进步。Qwen2.5-Coder 在多达 5.5T tokens 的编程相关数据上作了训练,当天开源 1.5B 和 7B 版本,未来还将开源 32B 版本;Qwen2.5-Math 支持使用思维链和工具集成推理(TIR) 解决中英双语的数学题,本次开源了 1.5B、7B、72B 三个尺寸和一款数学奖励模型 Qwen2.5-Math-RM。


多模态模型方面,广受期待的视觉语言模型 Qwen2-VL-72B 正式开源,Qwen2-VL 能识别不同分辨率和长宽比的图片,理解 20 分钟以上长视频,具备自主操作手机和机器人的视觉智能体能力。日前权威测评 LMSYS Chatbot Arena Leaderboard 发布最新一期的视觉模型性能测评结果,Qwen2-VL-72B 成为全球得分最高的开源模型。


Qwen2-VL-72B 在__权威测评__LMSYS Chatbot Arena Leaderboard 成为成为全球得分最高的开源视觉理解模型


自从 2023 年 8 月开源以来,通义在全球开源大模型领域成为不少开发者尤其是中国开发者的首选模型。性能上,通义大模型多次登顶 Hugging Face 全球大模型榜单;生态上,通义从零起步、开疆拓土,与海内外的开源社区、生态伙伴、开发者共建生态网络,截至 2024 年 9 月中旬,通义千问开源模型下载量突破 4000 万,Qwen 系列衍生模型总数超过 5 万个,成为仅次于 Llama 的世界级模型群。


HuggingFace 数据显示,截至 9 月中旬 Qwen 系列原生模型和衍生模型总数超过 5 万个

2024-09-19 21:298765

评论

发布
暂无评论
发现更多内容

kubernetes集群安装(二进制)

小小文

Kubernetes 容器

重学 Java 设计模式:实战访问者模式「模拟家长与校长,对学生和老师的不同视角信息的访问场景」

小傅哥

设计模式 小傅哥 重构 代码优化 访问者模式

不是完成你学习的 KPI ,而是要形成指导你行动的 OKR

非著名程序员

学习 程序员 提升认知 知识管理

Node.js与二进制数据流

自然醒

Java node.js 大前端 二进制

浅析 VO、DTO、DO、PO 的概念、区别和用处!

Java小咖秀

学习 设计模式 模型 经验分享

​区块链技术的重要性

CECBC

开发者必备——IDEA配置清单

Noneplus

配置 IDEA

还在划水?这个SQL你能写出来吗?

书旅

php MySQL SQL语法 sql查询

关于计划的思考

zhongzhq

Python中的@staticmethod和@classmethod的区别

BigYoung

Python classmethod staticmethod

Tomcat8.5源码构建

知春秋

tomcat tomcat构建 tomcat源码解读 tomcat剖析

字节跳动面试经验分享,已拿 Offer!

伍陆柒

Java 面试 大厂

mac vmware centos7 设置静态IP

愤毛阿青

network vmware Centos 7

Redis进阶篇三——主从复制

多选参数

redis redis高可用 redis6.0.0 Redis项目

Python类中的__new__和__init__的区别

BigYoung

Python __init__ __new__

一文看懂 OAuth2

Geek_z9ygea

Java 大前端 Web oauth2.0

SpringBoot入门:00 - 初始化项目

封不羁

Spring Boot java 14

JVM中栈的frames详解

程序那些事

JVM 堆栈 性能调优 JIT GC

工厂方法模式

Leetao

Python 设计模式 工厂方法模式

猿灯塔:spring Boot Starter开发及源码刨析(二)

猿灯塔

Java 猿灯塔 源码刨析

漫画 | 架构设计中的那些事

码农神说

架构设计 架构师 漫画编程

Linux 进程必知必会

苹果看辽宁体育

Linux 操作系统

推荐一款Python开源库,技术人必备的造数据神器!

狂师

Python 开源 自动化 开发工具 开发数据

带你解析MySQL binlog

Simon

MySQL Binlog

图片处理不用愁,给你十个小帮手

阿宝哥

Java 开源 大前端 工具 图片

信创舆情一线--《关键信息基础设施安全保护条例》纳入2020年立法计划

统小信uos

信息安全

Rust是如何保障内存安全的

博文视点Broadview

读书笔记 rust

一些思考

张健

性能碾压 POI !利用模板语法快速生成 Excel 报表

葡萄城技术团队

表格控件 GCExcel 服务器端开发

30 张图带你分分钟看懂进程和线程基础知识全家桶

爱嘤嘤嘤斯坦

Java 线程 进程 进程线程区别

Java集合总结,从源码到并发一路狂飙

给你买橘子

Java 编程 算法 集合

通义千问重磅开源Qwen2.5,下载量突破4000万_生成式 AI_华卫_InfoQ精选文章