快科技6月11日消息,AMD主导开发的开源本地AI服务器解决方案Lemonade发布了10.7版本,正式集成NVIDIA CUDA后端,首次实现对NVIDIA GPU的完整本地AI推理适配。
Lemonade此前已广泛支持AMD Ryzen AI NPU、Radeon/Instinct GPU、x86_64 CPU及Apple Metal GPU,唯独缺失对NVIDIA产品的专门优化。
此次10.7版本在Windows与Linux双平台上同步集成Llama.cpp的CUDA后端,配合NVIDIA GPU检测功能,用户可在NVIDIA硬件上获得与AMD硬件一致的本地AI体验。
该项目还首次在Linux上加入stable-diffusion.cpp的CUDA后端,同时带来跨厂商的Vulkan扩展支持,进一步拓宽了GPU适配范围。
本次更新还带来Lemonade产品路线中的重要工具lemonade bench,专用于在Llama.cpp、FastFlowLM、vLLM、Ryzen AI等多后端之间进行端到端的LLM推理性能对比,降低开发者测试门槛。
除此之外,LMX-Omni模型支持、原生Prometheus实时监控端点等增强功能一同上线,稳步推进Lemonade向全场景本地AI引擎演进。
值得关注的是,本次CUDA后端的合并是由外部开发者提交,最终由AMD官方合并进主线,标志着AMD向跨厂商AI生态迈出了重要一步。
AMD Lemonade项目持续在GitHub发布开源版本,目前10.7已可通过项目主页下载体验,开发者可根据硬件需求选择适当后端组合,实现从云端API到本地部署的平滑过渡。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
36氪 2026-06-10 09:29:17
机器之心Pro 2026-01-13 12:57:27
钛媒体APP 2026-06-09 13:41:35
游民星空 2026-06-10 15:30:24
钛媒体APP 2026-06-11 08:58:07
霹雳炮 2026-06-09 22:41:33
经济观察报 2026-06-11 09:51:56
每日经济新闻 2026-06-02 06:05:39
3DM游戏 2026-06-09 08:47:06
IT之家 2026-06-11 10:02:23
PConline太平洋科技 2026-06-09 16:39:56
财联社 2026-05-28 10:54:03
财联社 2026-06-10 21:04:12
万大叔来了 2026-06-10 23:13:00
南阳日报 2026-06-10 14:25:49
网易科技态度见闻 2026-06-08 18:03:01
新浪财经 2026-06-11 00:31:51
看财经show 2026-06-08 21:33:51
财联社 2026-06-11 01:10:14
我是一个粉刷匠2 2026-06-11 08:44:47
量子位 2026-05-30 20:18:29
DeepTech深科技 2025-12-26 18:07:26
机器之心Pro 2026-05-06 17:01:48
界面新闻 2026-06-10 20:38:30
每日经济新闻 2026-06-09 14:07:34
财联社 2026-06-09 14:10:32
机器之心Pro 2026-04-15 12:05:50
中国经营报 2026-06-11 09:20:54
量子位 2026-01-30 21:59:52
钛媒体APP 2026-04-18 20:29:35
田哥哥 2026-06-10 22:00:29
菜但瘾大第一名 2026-06-09 22:32:40
装甲铲史官 2026-01-25 12:20:23
魔兽世界研究所 2026-06-11 11:54:31
何子萱伢 2026-06-11 03:26:35
装甲铲史官 2026-04-29 11:51:27
量子位 2026-06-11 12:10:57
雷科技 2026-06-11 11:34:14
量子位 2026-06-11 12:13:41
环球网资讯 2026-06-11 00:16:10