基础概念理解 AI 与大模型必备的基础术语
模型参数
模型内部可学习的数值,规模通常以「多少 B」衡量。
参数数量是衡量模型规模的主要指标:参数越多,容量越大、能力通常越强,但训练与推理成本也越高。7B、70B、671B 等表述即指参数规模。对 MoE 模型而言,激活参数是评估推理成本更准确的指标。
模型内部可学习的数值,规模通常以「多少 B」衡量。
参数数量是衡量模型规模的主要指标:参数越多,容量越大、能力通常越强,但训练与推理成本也越高。7B、70B、671B 等表述即指参数规模。对 MoE 模型而言,激活参数是评估推理成本更准确的指标。