
6月13日的新闻是AMD,该消息将于今天清晨推进AI 2025,AMD正式启动了其下一个代代的开源软件技术ROCM 7,进一步提高了AI和开发人员的生产率。随着ROCM 7的发布,AMD最终从ROCM 6软件电池中进步。近年来,这已经收到了多次更新,特别是自AI计算出现以来。以下是AMD侧重于ROCM 7的一些功能:最新的算法和模型,以通过MI350系列的ROCM攀登集群管理业务水平的高级SUPORT的高级特征。 ROCM 7电池包括VLLM V1,LLM-D和SGLANG等扩展帧,并专注于提供各种优化。未来的新ROCM 7核和算法包括Python总部的Autotuning Gemm,Moe,Atterness和核心写作。 AMD宣布了对MI350系列的FP6和FP4支持。 ROCM7 aLSO包括对这些高级数据类型的全面支持,例如FP8,FP6,FP4和Hybrid Precision。 AMD说,从表演的角度来看,他从新闻发布会上获悉,ROCM 7专注于推论,将使绩效提高到3.5倍,为AI工作负载。具体而言,与ROCM 6相比,呼叫3.1 70b的ROCM 7增加了3.2倍,QWEN2-72B增加了3.4倍,而Deep Speek R1增加了3.8倍。 [来源:这是一所房子]