马斯克旗下xAI开源3140亿参数大语言模型Grok-1，挑战OpenAI GPT系列

【ITBEAR科技资讯】3月18日消息，近日，马斯克旗下的人工智能创新企业xAI宣布，他们开发的大型语言模型Grok-1已经实现开源，并向全球公众开放下载。这一消息在科技界引起了广泛关注。

Grok-1是一款采用混合专家系统(Mixture-of-Experts，MoE)技术构建的大型语言模型，其参数数量高达3140亿，这一数字远超过了OpenAI的GPT-3.5模型的1750亿参数，成为迄今为止参数量最大的开源大型语言模型。根据Apache 2.0协议的条款，xAI已经开放了Grok-1的模型权重和架构，供全球开发者共同研究和使用。

据ITBEAR科技资讯了解，xAI强调Grok-1完全由公司内部团队自行训练完成，其预训练阶段已于2023年10月圆满结束。此次公开发布的是Grok-1在预训练阶段结束时的原始基础模型检查点，这意味着该模型还未经过任何针对特定应用场景的微调。对于开发者而言，这无疑提供了一个极具潜力的研究起点。

xAI的成立旨在与OpenAI、谷歌、微软等科技巨头在大型模型领域展开竞争。其团队成员均来自业界顶尖的研究机构和知名企业，如OpenAI、谷歌DeepMind、谷歌研究院以及微软研究院等。这样一支强大的团队背景无疑为xAI在大型模型领域的竞争提供了坚实的支持。

尽管xAI目前还没有公布Grok-1的具体测试成绩，但业内对于这款大型语言模型的性能表现充满期待。随着各大科技巨头在人工智能领域的竞争日益激烈，xAI的Grok-1无疑将成为这场竞争中的一大看点。