Meta-Llama-3.1-405B-FP8
多语言大型语言模型，优化对话和文本生成。
- 支持8种语言：英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语。
- 使用Grouped-Query Attention（GQA）技术，提高推理扩展性。
- 提供基础预训练模型和指令调整模型，适用于多样化的自然语言生成任务。
- 在安全性和有用性方面进行了优化，减少开发者部署安全AI系统的负担。
- 支持商业和研究用途，允许模型输出用于改进其他模型，包括合成数据生成和蒸馏。
- 遵守Llama 3.1社区许可协议，确保合法合规的使用。
产品详情
Meta Llama 3.1是一系列预训练和指令调整的多语言大型语言模型（LLMs），包含8B、70B和405B三种大小的模型，专门针对多语言对话使用案例进行了优化，并在行业基准测试中表现优异。该模型使用优化的transformer架构，并通过监督式微调（SFT）和人类反馈的强化学习（RLHF）进一步与人类偏好对齐，以确保其有用性和安全性。
