xAI首席执行官埃隆·马斯克在社交平台X上宣布,其团队正在研发的Grok 4.8人工智能模型将采用全新C++软件栈进行训练,参数量级达到2.5万亿。这一技术突破标志着大规模语言模型训练架构的重大升级,马斯克透露该模型将于本周完成基础训练并启动强化学习阶段。
此前马斯克曾预告Grok 4.7将于9月12日发布,但随后调整计划表示需要延长开发周期。据内部技术文档显示,延期主要源于强化学习模块的优化问题——当前版本在处理复杂任务时存在"过早放弃"现象,且自我校验机制不够严谨。研发团队正在调整回复长度惩罚参数,以提升模型完成困难任务的能力。
技术专家指出,参数量突破2万亿级后,模型训练对软件栈的效率要求呈指数级增长。xAI此次采用定制化C++架构,可能是为了解决传统框架在超大规模参数下的内存管理瓶颈。这种技术路径选择与马斯克追求极致性能的产品理念高度契合。
目前行业对Grok 4.8的期待主要集中在两方面:一是全新训练架构能否带来显著的性能提升,二是2.5万亿参数规模下模型的实际推理效率。随着强化学习阶段的启动,预计未来两周将有更多技术细节披露,这或将引发新一轮AI技术路线讨论。