字节跳动正在训练参数规模最高达10万亿的超大AI模型,处于早期预训练阶段
本文是 24TopNews 对公开财经信息完成重复合并后的事件分析,不是原始采访或证券推荐。
字节跳动正在训练一款参数量高达10万亿的人工智能模型。该模型目前处于预训练阶段,这一阶段通常需要三到六个月时间,之后将进入微调并最终发布。
这一参数量规模远超中国现有模型。月之暗面旗下的Kimi K3模型拥有2.8万亿参数,字节跳动的这款新模型规模是其三倍有余。此前,美团的LongCat-2.0与DeepSeek的V4-Pro曾以1.6万亿参数领跑中国本土AI行业,但Kimi K3已后来居上。在参数数量方面,行业估算美国Anthropic公司最先进的Mythos 5拥有约8万亿参数,Fable 5约为5万亿,字节跳动的模型在规模上已接近这些系统。
参数是模型从数据中学习到的数值设置,用于识别模式、生成答案并执行任务,通常被视作衡量模型规模的粗略指标,但实际能力还取决于数据质量和训练方法等其他因素。中国科技企业正不断压缩大模型的迭代与发布周期,以适应全球AI领域的激烈竞争。