国产GPU鼎力支持!摩尔线程快速部署DeepSeek
DeepSeek V3、R1系列开源AI大模型在多语言理解、复杂推理任务中展现了卓越性能,不仅推动了AI技术的普及与发展,更是对开源社区的极大贡献。
5小时前
来源:快科技  

快科技2月4日消息,DeepSeek V3、R1系列开源AI大模型在多语言理解、复杂推理任务中展现了卓越性能,不仅推动了AI技术的普及与发展,更是对开源社区的极大贡献。

目前,各家科技巨头都已纷纷开始支持、部署DeepSeek,国产硬件也在加速支持。

作为国产全功能GPU创新企业,摩尔线程快速实现了对DeepSeek蒸馏模型推理服务的高效部署,可让更多开发者基于摩尔线程全功能GPU,进行AI应用创新。

一键体验地址:

https://playground.mthreads.com

此外,用户也可以基于摩尔线程MTT S80、MTT S4000显卡,进行DeepSeek-R1蒸馏模型的推理部署。

其实早在1月28日,就已经有B站UP主在摩尔线程MTT S80上手动完成实践:

https://www.bilibili.com/video/BV18YfQYEEs2

通过DeepSeek提供的蒸馏模型,能够将大规模模型的能力迁移至更小、更高效的版本,在国产GPU上实现高性能推理。

摩尔线程基于自研全功能GPU,通过开源与自研双引擎方案,快速实现了对DeepSeek蒸馏模型的推理服务部署。

开源框架适配:

基于Ollama开源框架,摩尔线程完成DeepSeek-R1-Distill-Qwen-7B蒸馏模型的部署,并在多种中文任务中展现了优异的性能,验证摩尔线程自研全功能GPU的通用性与CUDA兼容性。

自研引擎加速:

通过摩尔线程自主研发的高性能推理引擎,结合软硬件协同优化技术,通过定制化的算子加速和内存管理,显著提升了模型的计算效率和资源利用率。

这一引擎不仅支持DeepSeek蒸馏模型的高效运行,还为未来更多大规模模型的部署提供了技术保障。 

最后,摩尔线程即将开放自主设计的夸娥(KUAE)GPU智算集群,全面支持DeepSeek V3、R1模型,以及新一代蒸馏模型的分布式部署。

夸娥集群集成先进推理技术与分布式计算框架,将确保大规模模型的高效稳定运行,助力开发者快速实现业务落地。

最新文章
1
奥克斯欲上市,空调市场要“变天”?
2
国产GPU鼎力支持!摩尔线程快速部署DeepSeek
3
PTM存储定制下,江波龙这款eMMC能做到多极致?
4
年销量再降20%,智能电视盒子来到“说再见”前夜?
5
“国补”助力春节家电产品热销,2025年将是逆势回暖的一年
6
叫板华为!又一款三折叠将今年发布 这电池太逆天了
7
蛇年第一款超大杯!小米15 Ultra跑分出炉:骁龙8至尊版+16GB内存
8
超轻薄手机时代要来了,国产厂商都会跟进超轻薄机型,且电池远超果星!
9
2024年厨房小家电整体零售额同比下降0.8%,市场竞争回归理性
10
又没上国补“大名单” 清洁电器将继续“尴尬而勤奋”
11
三折叠、真全面屏... 聊聊2024年让我印象深刻的手机
12
7英寸带屏HomePod今年登场:苹果押宝智能家居
13
2024年全球XR设备市场遇冷:出货量同比下降10.3%
14
2024厨电十大事件:品类表现明显分化,AI、美学日渐流行
15
可灵AI再升级 推出全新萌感创意特效、高精细度可控生图功能
16
约好戏!快手「好戏连连·新春戏曲晚会」沈阳场26号火热开唱,全程直播共享年味
17
赵雅芝、蔡明、何洁都来了!快手电商春节开启“快手星光百货”明星直播
18
新银座索尼公园首展即将启幕,六大原创主题展带你解锁多元奇幻体验
19
第二届大学生创想大赛 -「企」梦索尼 启动创想新篇章,欢迎参赛!
20
再次与年轻创想者共创感动:索尼中国第二届大学生创想大赛启动
关于我们

微信扫一扫,加关注

商务合作
  • QQ:61149512