Model / Mistral AI

Mixtral 8x7B

MoE 架构的普及性示范，用更少激活参数换取接近大模型的性能。

发布

2023-12-11

发布方

Mistral AI

类型

稀疏专家模型

许可

Apache 2.0

上下文

32k tokens