AMD X3D搞AI居然比打游戏还猛!8核暴打16核 领先达88%
据GiggleHD实际测试,比打AMD X3D处理器在RAG(检索增强生成)AI基准测试中展现出远超预期的游戏性能表现,最高领先非X3D芯片达88%。还猛核暴
RAG AI通过外部向量数据库检索信息来增强大模型的打核达回答质量,与纯LLM推理不同,领先向量搜索的比打大量计算负载落在CPU而非GPU上。
随着Agentic AI工作负载的游戏推进,搜索驱动的还猛核暴任务流越来越多,CPU的打核达延迟瓶颈问题日益突出。
HNSW(分层可导航小世界)搜索算法就是领先典型例子,在GPU执行LLM推理的比打同时,CPU负责图检索,游戏更大的还猛核暴缓存意味着更短的检索时间。
GiggleHD使用开源的打核达X3D RAG基准测试,针对个人PC和小团队单节点场景(约100K-200K向量),领先对AMD锐龙9000X3D系列及多款非X3D芯片进行了实测。


结果显示,在100K向量批量搜索中,X3D CPU最高比非X3D芯片快88%;在200K向量测试中,同为8核的锐龙7 9850X3D比锐龙7 9700X快50%以上,且8核X3D芯片的速度超过了16核的锐龙9 9950X。


索引构建方面,100K向量测试时间缩短50%,200K向量缩短39%,并发RAG吞吐量同样由X3D芯片领跑。


差距较小的项目是TTFT(首Token时间)吞吐量,因为该任务主要依赖GPU而非CPU。

- ·2020最好的重疾险是什么?2022最好的重疾险是什么?
- ·豆奶市场再迎大咖,高达千亿的豆奶市场,果味豆奶植物蛋白风味饮品必定火爆市场!
- ·保险买什么好?保险买什么最好?
- ·速讀今日國際財經日誌(03/08)|天下雜誌
- ·2018年8月17日中国玻璃综合指数,行业资讯
- ·方便粉面火遍大江南北!丽星好嗨呦,料足味正爽翻天,冲击方便食品市场!
- ·威少50+16+10压哨三分绝杀 雷霆逆转1分胜掘金
- ·歐債後,歐洲成跨國公司投資天堂|天下雜誌
- ·明光组织企业开展六一儿童节暨爱心妈妈结对帮扶活动_
- ·【汉阴医瞭】煤炭取暖要谨慎 警惕冬季“樱桃红”
- ·汉阴县科协再次获评中国科协全国科普日优秀组织单位
- ·不得外放!上海地铁迎来“静音”时代
- ·换前挡风玻璃多长时间可以洗车 汽车更换挡风玻璃要多久能上路,行业资讯
- ·玻璃砖在家装中的惊艳装饰作用,行业资讯
- ·保险买什么好?保险买什么最好?
- ·汉阴县凤台幼儿园开展素质测评 提升保教质量
