马斯克：它无疑优于基于 Jax 训练的 2.1 万亿参数模型，但我们在训练过程中出现了一些失误，直到训练中途才修正。过去几个月里，我们大幅提升了数据质量。即将开展的 3 万亿参数模型训练将采用优化后的内部训练软件以及质量好得多的数据。