星期一
09:25
马斯克的AI公司xAI正式公开Grok-1源代码
热度 ... | 分享
链观CHAINLOOK消息,马斯克的人工智能公司 xAI 宣布开放其 3140 亿参数混合专家模型 Grok-1 的权重和架构。Grok-1 是一个从头开始由 xAI 训练的大型语言模型,采用混合专家模型架构,其中 25% 的权重在给定令牌上处于活跃状态。该模型的基本模型权重和网络架构现已根据 Apache 2.0 许可证开放。
据悉,Grok-1 的预训练阶段已于 2023 年 10 月结束,目前发布的是原始基础模型检查点,未针对任何特定应用进行微调。
免责声明:本文不构成投资建议,用户应考虑本文中的任何意见、观点或结论是否符合其特定状况,及遵守所在国家和地区的相关法律法规。
下一篇:
Solana链上交易机器人BonkBot交易额连续四日创历史新高
据 Dune 数据信息,Solana 链上的交易机器人 BonkBot 交易额连续四日创历史新高,其中昨日单日交易额达 1.33 亿美元,交易费用超 70 万美元。