MLX(Apple 开源机器学习框架)
官方介绍
MLX 是 Apple 官方开源的数组计算 / 机器学习框架(MIT 许可),专为 Apple Silicon 的统一内存架构优化:NumPy 风格 API,内置神经网络与优化器包、自动微分与函数变换,提供 Python、Swift、C++、C 接口,用 Metal 做 GPU 加速。子项目 mlx-lm 专做大语言模型在 Mac 上的生成与微调。
核心功能
- 统一内存:数据在 CPU 与 GPU 之间无需拷贝,64GB 统一内存可直接喂大模型
- 惰性计算 + 可组合的函数变换,省内存且灵活
- mlx-lm:与 Hugging Face Hub 集成(一条命令用上千个模型)、量化与上传、LoRA 与全参数微调
- 覆盖 Mac、iPhone、iPad、Vision Pro 等 Apple 平台
使用说明
- 安装:
pip install mlx-lm - 生成:
mlx_lm.generate --model 模型名 --prompt "你好" - 微调:
mlx_lm.lora(LoRA 微调,消费级 Mac 可跑) - WWDC25 有官方入门视频(Get started with MLX for Apple silicon)
官方链接
- GitHub:github.com/ml-explore/mlx
- 文档:ml-explore.github.io/mlx
- Apple 开源项目页:opensource.apple.com/projects/mlx
- mlx-lm:github.com/ml-explore/mlx-lm