.jpg)
软硬件一体化.jpg)
开箱即用
智能推理引擎
灵活扩展如今，AI 技术正大步迈入数字内容生产领域。生成式人工智能（AIGC）技术在写作、翻译绘画等多个领域达到“类人”表现，展现出在大数据学习基础上的非凡创意潜能。大语言模型强化了计算机对文本、语音等数据的分析能力，意图识别的准确性也进一步提升。更进一步，大语言模型能够结合用户的历史对话、上下文语境，更精准地识别用户的需求和意图。短期内即可提供质且智能的问答推荐，业务咨询，服务应答。超集信息大语言模型推理一体机符合OCSP设计规范，基于第四代英特尔®至强®处理器，充分释放Max处理器的HBM高带宽内存性能，结合独有的大模型推理加速引擎，实现推理结果的高准确率、低延迟性和降低总体拥有成本。
.png)
.jpg)
.jpg)
.jpg)
.jpg)
一体机配置两颗第四代英特尔®至强®系列处理器、32根DDR5内存，可提供10个PCIe扩展位，使得一体机既可承载HPC计算任务，又可无缝切换至AI推理业务部署模式，一机两用，确保基础设施成本可控且安全。
一体机高度仅2U，配置双路第四代英特尔®至强® Max系列处理器，凭借其独特的高带宽内存（HBM）设计，不仅可满足10-60B参数的模型推理能力，在推理准确度、延迟等关键指标均能提供令人满意的结果，综合整体性能与价格，为用户实现极高的性价比。
一体机算力可根据用户需求进行定制，同时支持单机的大语言模型推理和多机多柜的分布式大语言模型推理，适应不同模型量级和算力需求的场景。
用户可实时监控一体机的资源使用情况和状态，包括设备健康度、设备运行时间、CPU使用数、内存使用率系统运行负载、进程运行状态、磁盘使用率、磁盘运行状态等。
