Mixtral 发布了 Mixtral 8X22B，它采用了稀疏混合专家（Sparse Mixture-of-Experts, SMoE）的架构。这种架构允许模型在运行时只激活部分参数，从而在维持高性能的同时大幅度提升了成本效率。具体来说，Mixtral 8x22B 的总参数量为141B，但实际运行时仅激活39B参数。
这种架构的主要优势：
Support authors and subscribe to content
This is premium stuff. Subscribe to read the entire article.
Login if you have purchased
一款人工智能驱动的工具，它使用先进的算法来修复和恢复损坏的旧照片。它可以去除划痕、撕裂、斑点和褪色，甚至可以为黑白照片着色。让旧记忆重获新生。