东亚银行、岚图汽车带你解锁 AIGC 时代的数字化人才培养各赛道新模式! 了解详情
写点什么

比 Python 快 68000 倍!Mojo 正式发布,网友:Python 生态系统最重要的升级来了

  • 2023-09-18
    北京
  • 本文字数:4542 字

    阅读完需:约 15 分钟

大小:1.84M时长:10:42
比Python快68000倍!Mojo正式发布,网友:Python生态系统最重要的升级来了

自 5 月 2 日首次亮相以来,Modular 公司的 Mojo 编程语言引起了开发人员的极大兴趣,已经有超 12 万开发人员注册使用 Mojo Playground,19 万开发者热情参与 Discord 与 GitHub 讨论。Fast.ai 联合创始人、数据科学家 Jeremy Howard 更是表示,“Mojo 可能是近几十年来最大的编程语言进步。”


9 月 7 日,Modular 公司宣布正式发布 Mojo:Mojo 现在已经开放本地下载——初步登陆 Linux 系统,并将很快提供 Mac 与 Windows 版本。



Modular 公司由 LLVM 和 Swift 编程语言的联合创始人 Chris Lattner 创办,此前刚获得 1 亿美元(约 7 亿人民币)融资。Chris Lattner 表示,本轮融资总额达到 1.3 亿美元,所得款项将用于产品扩展、硬件支持和推动自研 AI 编程语言 Mojo 的进一步发展。


据介绍,Mojo Playground 提供的只是一套简单的语言展示,而本地 Mojo 工具链则可帮助开发人员完成更多工作。本地开发者工具将开放全部 Mojo 功能,包括一套完整的编译器功能与 IDE 工具,让开发者能够轻松对 Mojo 应用进行构建与迭代。

Mojo:面向 AI 开发者的新型编程语言


Mojo 是一种面向 AI 开发者的新型编程语言。随着时间推移,它将逐步成长为 Python 的超集。Mojo 已经支持与任意 Python 代码的无缝集成,并提供可扩展的编程模型以支撑各类关键性能系统,包括在 AI 场景中普遍存在的加速器(例如 GPU)。


Mojo 能够切实满足开发者需求,引导大家逐步采用新功能,从而在必要时获得高性能体验。具体来说,Mojo 可以为开发者带来的主要收益:

 

  • 一种语言编写所有内容:Mojo 能够随时随地服务于 AI 开发者,将 Python 的可用性与以往强制开发者使用 C、C++ 或 CUDA 的系统编程功能结合起来。 开发者可以在公共代码库上工作,从而简化从研究到生产的整个工作流程。

  • 突破 Python 性能极限:时至今日,Python 已经无处不在。但对于需要更高性能或特殊硬件的任务,Python 的表现往往不那么理想。Mojo 能够发挥 CPU 的性能潜力,并可良好支持 GPU 和 ASIC 等外部加速器,提供与 C++ 和 CUDA 相当的卓越性能。

  • 对接完整 Python 生态系统:Mojo 提供与 Python 生态系统间的全面互操作性,使其能够无缝利用 Python 库资源,同时发挥 Mojo 自身的功能与性能优势。例如,开发者可以将 NumPy 和 Matpotlib 同自己的 Mojo 代码无缝混合起来。

  • 升级 AI 工作负载:Mojo 紧密集成有模块化 AI 引擎,允许开发者通过自定义操作轻松扩展自己的 AI 工作负载,包括预处理、后处理操作和高性能数学算法。开发者还可以引入内核融合、图重写、sharp 函数等。


通过对现有 Python 代码做一点简单变更,开发者就可以使用 Mojo 对高计算强度工作负载进行显著加速(最高可提速 6.8 万倍)。目前,Mojo 的实际应用案例包括:


为何能比 Python 快 68000 倍?


Mojo 是 Python 家族的一员,但有着远大的目标——想要与 Python 生态系统完全兼容,因此开发人员可以继续使用自己熟悉的工具。Mojo 旨在通过保留 Python 的动态特性,同时为系统编程添加新原语,逐渐成为 Python 的超集。


LLVM 和 Swift 编程语言的联合创始人、Modular 公司 CEO Chris Lattner 此前在 Hacker News 上表示:“我们的目标不是让动态 Python 神奇地快速。虽然我们在动态代码方面要快得多(因为我们有编译器而不是解释器),但这并不是依靠‘足够智能’的编译器来消除动态性”。


据介绍,Mojo 最初的目标是比 Python 快 35000 倍,近日该团队表示,Mojo 将动态与静态语言的优点结合起来,一举将性能提升达 Python 的 68000 倍


Mojo 团队在系列博文中介绍了 Mojo 是如何比 Python 快 68000 倍的:在第一篇博文中,团队尝试将代码移植为 Mojo,从而获得了约 90 倍的性能提升;在第二篇博文中,团队对代码进行矢量化与并行化,又将性能提升了 2.6 万倍;在第三篇博文中,团队展示如何通过新的性能技术全面超越 3.5 万倍的程序加速目标。


具体来说,Mojo 团队首先用简单端口将 Python 程序提速 89 倍;之后通过针对性优化和利用现代 CPU 的算力潜能,又将速度提升 2.6 万倍。Mojo 团队提出的并行策略是,每个 CPU 核心都应负责处理同等数量的代码行。


然而,只有当跨行工作负载相同时,对负载进行拆分以保证各个线程 worker 获取其中一组代码行才具有可行性;但曼德勃罗集并不是这样。以这种方式进行拆分会引发负载不均衡问题,这是因为曼德勃罗集中的一个像素可能在单次迭代后完成,而另一像素则可能经历 MAX_ITERS 多次迭代。也就是说,各个行的迭代次数并不相等,会导致某些率先完成计算的线程处于闲置状态,不利于全面挖掘性能潜力。


为了演示这种不均衡问题,Mojo 团队绘制了每个行在曼德勃罗集中执行的迭代总数。如下图所示,某些行在转义之前只需要不到 1000 次迭代,但其他一些行则可能需要超 80 万次迭代。


各个行所执行的迭代总数(以对数坐标系显示)并非均匀分布。某些行(例如图像中央部分的行)可能需要80多万次迭代,而两端的行则只需要800次左右迭代。


如果硬性为各个线程分配一定数量的连续行,就会发生全体线程都在等待,直至中间某组代码行(被分配给某个核心)完成运行的情况。解决这个问题的办法有很多,但最简单的当然是过度拆分。也就是说,各个线程所获得的不是一组平均分配的行,而是建立起一个工作负载池,再为每个行创建相应的工作项。各线程则以循环方式不断从线程池中拾取这些工作项。


好消息是 Mojo 拥有一个性能出色的并发运行时,所以我们用不着自行创建线程池或者设计循环拾取/执行。Mojo 的运行时提供不少高级功能,可以充分利用这样的多核心系统。


fn compute_row(y:Int):    let cy = min_y + h * scale_y    @parameter    fn compute_vector[simd_width:Int](w:Int):        let cx = min_x + iota[DType.float64, simd_width]() * scale_x        output.simd_store[simd_width](Index(h,w),                 mandelbrot_kernel(ComplexSIMD[DType.float64,                                               simd_width](cx,cy))    vectorize[num_ports * simd_width, compute_vector](width)with Runtime(num_cores()) as rt:    let partition_factor = 16 # Is autotuned.    parallelize[compute_row](rt, height, partition_factor * num_cores())
复制代码


可以分别在拆分成 2、4、8、16 和 32 份时评估程序性能,相应结果如下:



到这里,Mojo 团队获得了 2.3 倍于并行版本的加速效果,更是达到矢量化实现版本的 78 倍。那么,在每个行中做进一步划分会不会让性能更上一层楼?如果单行很大,那也许可以。但 Mojo 团队这个示例中的最大单行长度也不过 4096。另外,同一行内的各像素间往往更具相关性。这时候更适合采用单指令流多数据流(SIMD),避免工作被白白浪费在矢量通道当中。



回顾整个旅程,Mojo 团队先是对 Python 代码实现了 2.6 万倍性能提升,之后又使用超额订阅达成提速 68847 倍的最终成绩,并最终实现了 6.8 万倍的 Python 提速效果;而在应用超额订阅之后,性能在此前并行版本的基础上又提高了 1 倍。

如何使用 Mojo?


目前,开发者可以将 Mojo 下载至自己的本地计算机上,Modular 公司表示,Mojo 绝不只是编译器那么简单。

Mojo 工具箱

 

Mojo SDK 的首个版本即提供轻松开发 Mojo 程序所需要的一切,具体包括以下工具选项:

 

  • Mojo 驱动程序:提供用于 read-eval-print-loop(REPL)的 shell,允许开发者构建并运行 Mojo 程序、打包 Mojo 模块、生成文档和格式化代码。

  • 面向 Visual Studio Code(VS Code)的扩展:支持各种生产力功能,例如语法高亮显示、代码补全等。

  • Jupyter 内核:支持构建和运行 Mojo notebook,包括使用 Python 代码。

  • 支持调试(即将推出):进入并检查正在运行中的 Mojo 程序,甚至可以将 C++ 与 Mojo 堆栈帧混合起来。

 

本次发布的 SDK 初始版本将支持 x86/Linux 系统,在后续更新中,团队将进一步扩展至其他操作系统、硬件和工具功能。


Mojo SDK 视图示例

Mojo 驱动程序

 

与 Python 一样,开发者可以运行 Mojo 命令在 REPL 中进行编程。下面是一个在 Mojo 中计算欧氏几何距离的示例:


$ MojoWelcome to Mojo! 🔥Expressions are delimited by a blank line.Type `:Mojo help` for further assistance.1> %%python2. import numpy as np3. n = 100000004. anp = np.random.rand(n)5. bnp = np.random.rand(n)6> from tensor import Tensor7. let n: Int = 100000008. var a = Tensor[DType.float64](n)9. var b = Tensor[DType.float64](n)10. for i in range(n):11.    a[i] = anp[i].to_float64()12.    b[i] = bnp[i].to_float64()13> from math import sqrt14. def Mojo_naive_dist(a: Tensor[DType.float64], b: Tensor[DType.float64]) -> Float64:15.    var s: Float64 = 0.016.    n = a.num_elements()17.    for i in range(n):18.       dist = a[i] - b[i]19.       s += dist*dist20.    return sqrt(s)23> fn Mojo_fn_dist(a: Tensor[DType.float64], b: Tensor[DType.float64]) -> Float64:24.    var s: Float64 = 0.025.    let n = a.num_elements()26.    for i in range(n):27.       let dist = a[i] - b[i]28.       s += dist*dist29.    return sqrt(s)30.31> let naive_dist = Mojo_naive_dist(a, b)32. let fn_dist = Mojo_fn_dist(a, b)33. print(fn_dist)34. 1290.852142509223535. print(naive_dist)36. 1290.8521425092235 
复制代码


此外,Mojo 还允许开发者构建静态编译的可执行文件,从而在无需任何依赖项的前提下进行部署。例如,开发者可以编译并运行示例库当中的 hello.🔥 程序,如下所示:


$ Mojo build hello.🔥$ ./helloHello Mojo 🔥!963$ ls -lGtranh hello*-rw-r--r-- 1 0   817 Sep  3 23:59 hello.🔥-rwxr-xr-x 1 0   22K Sep  3 23:59 hello
复制代码


这个静态编译的 22 kB 二进制文件非常酷,它的实现离不开 Mojo 紧凑的依赖项管理机制。

Visual Studio Code 扩展

 

VS Code 是目前全球最流行的 IDE 之一。Mojo 已经在 Visual Studio Marketplace 上发布了官方扩展,能够直接提供支持。如此一来,各位开发者就能轻松在生产流程中获取 Mojo 支持语法高亮显示、诊断和修复、定义和引用、悬停帮助、格式化、代码补全。

Jupyter 集成

 

Jupyter 为交互式开发提供了一套强大的环境。Mojo 包含一个 Jupyter 内核,允许开发者直接在其中使用 Jupyter notebook。团队在 GitHub 上共享了 Mojo Playground 中的所有 notebook(https://github.com/modularml/mojo/tree/main/examples/notebooks),关于更多细节信息请参阅 README 自述文件。

调试支持(即将推出)

 

在即将发布的新版本中,团队将在 VS Code 中添加通过 LLDB 命令行界面实现的交互式调试体验。不仅如此,Mojo 的调试程序能够在同一调试会话中无缝对 Mojo/C/C++ 混合代码进行操作,进一步增强开发者在处理高度专业化代码时的能力。

 

参考链接:

https://www.modular.com/blog/mojo-its-finally-here

https://www.modular.com/blog/mojo-a-journey-to-68-000x-speedup-over-python-part-3

公众号推荐:

2024 年 1 月,InfoQ 研究中心重磅发布《大语言模型综合能力测评报告 2024》,揭示了 10 个大模型在语义理解、文学创作、知识问答等领域的卓越表现。ChatGPT-4、文心一言等领先模型在编程、逻辑推理等方面展现出惊人的进步,预示着大模型将在 2024 年迎来更广泛的应用和创新。关注公众号「AI 前线」,回复「大模型报告」免费获取电子版研究报告。

AI 前线公众号
2023-09-18 15:4022553

评论 7 条评论

发布
用户头像
是不是把python代码中的sleep(68000),改成sleep(1)实现的
2023-09-21 17:19 · 安徽
回复
?
2023-10-15 16:21 · 浙江
回复
???

2023-10-15 16:35 · 浙江
回复
用户头像
一个闭源(尚无开源计划)的编程语言, 应用范围最多也止步于playground, 谁敢将其应用于生产环境? 对自己也是对自己所处组织不负责
2023-09-12 10:02 · 四川
回复
用户头像
该说现有Python,这是有多慢
2023-09-11 10:52 · 北京
回复
用户头像
快这么多倍是什么原理?
2023-09-09 14:37 · 北京
回复
不是因为mojo多牛逼,而是因为Python太慢了
2023-12-11 08:05 · 内蒙古
回复
没有更多了
发现更多内容

vue prop传递数据

小恺

6月月更

一文带你认识HTML

未见花闻

6月月更

揭秘攻防演练中红队需要什么样的人才

穿过生命散发芬芳

6月月更 攻防演练

测试基础之:面试的信心来源于过硬的基础

甜甜的白桃

软件测试 核心竞争力 测试开发 功能测试 6月月更

【用户文章转载】版本管理这件事,没有偏执,惟有极致

龙智—DevSecOps解决方案

游戏开发 版本管理 CI工具链 周版本制度

通过DAO的现状,看Web3最具影响力的基础设施M-DAO

小哈区块

【网易云信】C++ 静态反射在网易云信 SDK 中的实践

网易智企

c++ 开发工具

el-select数据量过大引发卡顿,怎么办?

华为云开发者联盟

前端 测试 数据 华为云

如何针对海外不同地区进行音视频自动化测试?丨Dev for Dev 专栏

声网

自动化测试 Dev for Dev

研究uni-app的第五天

恒山其若陋兮

6月月更

如何做好产品管理

PingCode

95后阿里P7晒出工资单:狠补了这些个技术栈,真的香啊

Java全栈架构师

Java 程序员 面试 架构师 Java面试题

数据质量管理

奔向架构师

数据治理 数据管理 6月月更

再仿个人主页来看 GetX 和 Provider 之间的 PK

岛上码农

flutter ios 前端 安卓 6月月更

浅谈 REST API 身份验证的四种方法

wljslmz

REST API 6月月更

八大误区,逐个击破(3):在云上,变更和数据的管理都不足为虑

龙智—DevSecOps解决方案

atlassian云版 版本选择 迁移上云

力扣每日一练之二维数组上篇Day4

京与旧铺

6月月更

【LeetCode】数组中的 k-diff 数对Java题解

Albert

LeetCode 6月月更

数字人民币预付式消费的监管之道,智能合约能不能解决所有问题?

CECBC

Java Core 「9」J.U.C 同步工具类-1

Samson

学习笔记 Java core 6月月更

IP核是什么?有什么类型?半导体IP核全攻略

龙智—DevSecOps解决方案

知识产权 半导体 芯片开发 半导体IP核 IP核管理

leetcode 198. House Robber 打家劫舍(中等)

okokabcd

LeetCode 动态规划 数据结构与算法

DevStream 成为 CNCF Sandbox 项目啦!- 锣鼓喧天、鞭炮齐鸣、红旗招展、忘词了。

胡说云原生

开源 cncf DevStream

阿里云智能编码插件进行了一个上新大动作

阿里云云效

云计算 阿里云 云原生 代码

盘点一些好用且小众的 Markdown 编辑器

宇宙之一粟

markdown编辑器 6月月更

转转统一权限系统的设计与实现(设计篇)

转转技术团队

权限系统 rbac

官宣!Apache Doris 从 Apache 基金会毕业,正式成为 Apache 顶级项目!

SelectDB

Apache 数据库 apache doris

“多元化”通证经济模型:DAO的神经和血液

CECBC

C++ 静态反射在网易云信 SDK 中的实践

网易云信

c++ 开发工具

网站制作FAQ页面必要性及方法

小炮

频频破圈,走向百业:大模型的毕业季

脑极体

比Python快68000倍!Mojo正式发布,网友:Python生态系统最重要的升级来了_生成式 AI_凌敏_InfoQ精选文章