MLX(Apple 开源机器学习框架)

官方介绍

MLX 是 Apple 官方开源的数组计算 / 机器学习框架(MIT 许可),专为 Apple Silicon 的统一内存架构优化:NumPy 风格 API,内置神经网络与优化器包、自动微分与函数变换,提供 Python、Swift、C++、C 接口,用 Metal 做 GPU 加速。子项目 mlx-lm 专做大语言模型在 Mac 上的生成与微调。

核心功能

  • 统一内存:数据在 CPU 与 GPU 之间无需拷贝,64GB 统一内存可直接喂大模型
  • 惰性计算 + 可组合的函数变换,省内存且灵活
  • mlx-lm:与 Hugging Face Hub 集成(一条命令用上千个模型)、量化与上传、LoRA 与全参数微调
  • 覆盖 Mac、iPhone、iPad、Vision Pro 等 Apple 平台

使用说明

  • 安装:pip install mlx-lm
  • 生成:mlx_lm.generate --model 模型名 --prompt "你好"
  • 微调:mlx_lm.lora(LoRA 微调,消费级 Mac 可跑)
  • WWDC25 有官方入门视频(Get started with MLX for Apple silicon)

官方链接