AMD 推出在本地运行大模型的开源项目 Gaia
AMD推出Gaia项目,在PC本地运行大模型。支持Windows 11 Pro/Home版本,提供两种安装模式:适用于所有Windows PC的Generic Mode和优化Ryzen AI处理器的Hybrid Mode。Hybrid Mode利用NPU和iGPU提升性能。AMD Zen4 APU开始整合NPU。 2025-3-22 14:27:6 Author: www.solidot.org(查看原文) 阅读量:0 收藏

在 PC 上本地运行大模型日益流行,AMD 也推出了自己的在本地运行大模型项目 Gaia。源代码托管在 GitHub 上,采用 MIT 许可证。Gaia 目前只支持 Windows 11 Pro/Home,不支持 macOS 或 Linux。Gaia 提供了两个安装程序,一个适用于任何 Windows PC 的 Generic Mode,基于 Ollama 后端;另一个为 AMD 的 Ryzen AI 处理器进行优化的 Hybrid Mode,能利用其 NPU 和 iGPU 执行计算,以获得更好的性能。AMD 从 Zen4 APU 开始整合 NPU,但此前很少有程序能直接利用 NPU。

github.com/amd/gaia


文章来源: https://www.solidot.org/story?sid=80855
如有侵权请联系:admin#unsafe.sh