近日,科技界迎来了一则备受瞩目的消息:特斯拉CEO埃隆·马斯克宣布,其旗下人工智能实验室xAI正式开源了Grok 2.5版本,并预告Grok 3将在半年后同样采取开源策略。
这一动作早在月初便由马斯克本人预告,尽管实际开源时间稍有延迟,但网友们的反应普遍积极,认为“迟到总比不到好”。现在,Grok 2.5已经可以在HuggingFace平台上下载,包含了42个文件,总容量达到了惊人的500GB。
为了顺利运行Grok 2.5,xAI官方推荐使用SGLang语言。具体步骤包括首先下载权重文件,用户可以选择任意文件夹存放这些文件。值得注意的是,下载过程中可能会遇到错误,官方建议多次尝试直至成功。下载完成后,用户将得到一个包含42个文件、总计500GB的文件夹。
接下来,用户需要安装最新版的SGLang推理引擎(版本号需大于等于v0.5.1),并通过特定命令启动推理服务器。值得注意的是,运行该模型需要至少8块显存超过40GB的GPU,这对普通用户来说无疑是一大挑战。
一旦服务器启动,用户就可以通过发送请求与Grok进行交互。由于这是一个预训练模型,用户需要遵循特定的聊天模板来确保通信的有效性。成功发送请求后,用户将收到来自Grok的回复。
关于Grok 2.5的性能水平,虽然它可能无法与当前最先进的主流模型相媲美,但根据去年xAI发布的技术博客,Grok 2系列在LMSYS排行榜上的总体Elo分数已经超越了Claude和GPT-4。在一系列学术基准测试中,Grok 2也展现出了与前沿模型相竞争的实力。
然而,马斯克的开源举动也引发了一些争议。有网友指出,在HuggingFace平台上,xAI并未明确说明开源模型的参数权重,导致大家只能根据以往信息猜测它可能是一个拥有2690亿参数的MoE模型。关于开源协议的问题也引发了讨论,因为xAI在HuggingFace上的表述被解读为一种非商业许可,这与许多其他公司采用的MIT或Apache 2.0许可有所不同。
除了开源Grok 2.5外,马斯克还宣布了Grok APP的新功能更新,主要集中在AI视频生成方面。这一更新为用户带来了全新的体验,感兴趣的用户可以在APP上亲自尝试。
在宣布开源和新功能的同时,马斯克还发表了一段引人深思的言论,他认为xAI很快就会超越谷歌,但中国公司才是他们真正的竞争对手。这一观点无疑为未来的科技竞争埋下了伏笔。