封面新闻记者 孟梅 易弋力

9月25日，在2024百度云智大会上，百度智能云秘书将百舸AI异构遐想平台全面升级至4.0版块。升级后的百舸，围绕落地大模子全旅程的算力需求，在集群创建、斥地实践、模子老练、模子推理四大方面，为企业提供“多、快、稳、省”的AI基础设施。

为了科罚算力资源穷乏的问题，百舸4.0对“多芯混训”才能进行了要点升级，罢了了在万卡范围集群上95%的多芯羼杂老练效率，达到业务最最初水平。

在集群部署纪律，升级后的百舸粗略罢了器用层面的秒级部署，将万卡集群初始准备时候从数周最快缩减至1小时，极地面提高部署成果，裁减业务上线周期。

针对大模子老练历程中故障频发的问题，百舸4.0全面升级了故障检测时间和自动容错机制，不错有用谴责故障发生频次，大幅减少集群故障处置时候，在万卡集群上罢了了跳跃99.5%的有用老练时长。

在模子推理上赌钱最火的手机app，最进攻的是速率和本钱。当今长文本推理冉冉成为主流，百舸4.0举座上作念了推理速率和本钱优化，长文本推理成果提高了1倍以上。