查看完整版本: [-- 国产x86!兆芯打造AI训练推理一体方案 双路64核心[6P] --]

武当休闲山庄 -> 数码讨论 -> 国产x86!兆芯打造AI训练推理一体方案 双路64核心[6P] [打印本页] 登录 -> 注册 -> 回复主题 -> 发表主题

huozm32831 2024-05-14 20:46

快科技5月14日消息,兆芯与算能联合SOPHON.TEAM生态,基于自家处理器,构建了一套可高效落地的AI训练、推理一体化整体解决方案,可解决企业部署深度学习应用人力成本高、技术难度大、开发周期长、迭代能力差等难题。
这套方案面向真实业务场景,分为硬件层、软件层、数据层。
硬件层包括包括x86架构的兆芯开胜KH-40000系列服务器处理器,以及TPU处理器、推理微服务器、智算卡等算能自研算力产品。

软件层部署训练平台和推理平台,集算法训练与推理部署等能力于一体。
数据层通过视频采集、数据清洗、数据标注等操作,进行数据的训练和推理。
这套方案以AutoML零代码自动化训练平台为基础,可帮助用户通过简单的操作,自主完成模型创建、数据标注、模型训练、模型测试、模型部署等全流程,实现快速、高效的深度学习工程化落地。
用户还可以根据实际需求自主生产、部署所需算法,并根据业务场景需求自动化迭代精度,显著优于硬件与固定算法绑定的传统方案。

应用场景——
1、构建现代立体化视频图像巡检体系
采取数据增强策略,针对性生成移动小目标识别等相关深度学习算法,多帧过滤、多次检测,弥补无人机视角下移动目标过小、检测难度大等不足,进行精准识别,可以快速、准确地识别出巡检区域内的特定目标。
2、提升网络基础设施智能化管理,以及故障风险预警能力
通过智能化监测系统,收集基础设施的运行数据,并借助AutoML自动化训练平台对机房和基站等场景的基础设施进行数据分析和建模,从而实现故障和安全隐患的预测和预警,进一步提前对发生故障和风险事件的可能性进行判断和排除。
相关产品——

1、算能智算卡SC7
面向深度学习推理的算力卡,已完成与兆芯开胜KH-40000系列服务器处理器的适配认证,高效适配市场上主流深度学习算法。
可用于视频结构化、人脸识别、行为分析、状态监测等应用,为智慧城市、智慧交通、智慧能源、智慧金融、智慧电信、智慧工业等领域。

2、联想开天KR722z G2服务器
搭载双路开胜KH-40000/32处理器,共64个核心,支持12个前置3.5寸或24个2.5寸热插拔硬盘,以及4个后置热插拔硬盘,内存容量最高支持2TB。
整机采用冗余的散热功能,可选电源功能设计,提供强大算力的同时,可保障业务连续稳定运行。

3、联和东海XRS 302系列服务器
搭载双路开胜KH-40000/32处理器,32个内存槽位最大支持2TB,多种规格PCIe接口可支持GPU算力卡等硬件扩展。
适用于OA/邮件服务、数据库服务、存储服务、云平台计算节点,AI 算力服务、推理服务等应用场景。

此外,基于兆芯处理器平台的AI教育解决方案,已经在华南理工大学工程训练中心AI实验室顺利部署上线。
该方案进一步完善了学校的AI教学模式,能够帮助学生模拟和探索AI在真实场景中的应用,进行机器视觉、自然语言处理、深度学习等方面的实践。

jjybzxw 2024-05-14 22:56
兆芯是一家中国芯片设计公司,专注于研发基于x86架构的处理器。最近,兆芯推出了一款新的AI训练和推理一体的解决方案,该方案采用了双路64核心的设计。这意味着它可以在人工智能领域,特别是在深度学习方面提供高性能的计算能力。

AI训练和推理是深度学习中的两个关键步骤。训练是一个学习过程,通过大量的数据来训练模型,使其能够识别模式或执行特定的任务。推理则是使用训练好的模型来分析新数据,从而得出结论或做出预测。

兆芯的这款新产品旨在为这些过程提供高效的计算平台。64核心的设计意味着它具有高度的并行处理能力,这对于在训练大型深度学习模型时同时处理大量数据非常有利。此外,该方案可能还集成了其他功能,如高速内存支持和高带宽的数据传输,以进一步提高其在AI工作负载中的性能。

尽管具体的技术细节和性能指标尚未公布,但这款国产x86处理器的目标是在数据中心、云计算平台和高端企业应用中提供一种可靠的AI解决方案。随着人工智能技术的快速发展,对高效能计算硬件的需求也在不断增长,兆芯的这款产品有望满足市场对此类设备的需求。

然而,需要指出的是,目前全球范围内已有许多公司在AI训练和推理领域拥有成熟的产品和技术,例如英伟达(NVIDIA)的GPU加速器和谷歌(Google)的TPU硬件。因此,兆芯的挑战在于如何在竞争激烈的市场中确立自己的地位,并提供具有竞争力的产品。

总体而言,兆芯推出的AI训练推理一体方案展示了中国在高性能计算芯片领域的研发能力。随着更多类似的产品进入市场,我们可以期待在不久的将来,国内用户在选择高性能计算设备时将有更多的本土选项。


查看完整版本: [-- 国产x86!兆芯打造AI训练推理一体方案 双路64核心[6P] --] [-- top --]


Powered by www.wdsz.net v8.7.1 Code ©2005-2018www.wdsz.net
Gzip enabled


沪ICP备:05041533号