科技之家

科技之家,汇聚专业声音 解析IT潮流

首页 > 软件 >

Meta发布Llama 3.1大语言模型 提供8B、70B及405B参数版本

来源:互联网 时间:2024-07-24 11:37:23

  原标题:Meta 发布 Llama 3.1 大语言模型:128K 上下文、全新 405B 版

  Meta 今晚正式发布Llama 3.1开源大语言模型,提供 8B、70B 及405B 参数版本。

  据介绍,Llama 3.1 系列改进了推理能力及多语言支持,上下文长度提升至 128K,首次推出 405B 参数的旗舰模型。

  Meta 称 4050 亿参数的Llama 3.1-405B 在常识、可引导性、数学、工具使用和多语言翻译等一系列任务中,可与 GPT-4、GPT-4o、Claude 3.5 Sonnet 等领先的闭源模型相媲美。

  此外,8B 与 70B 参数的 Llama 3.1 模型与其他参数量相似的闭源和开源模型相比,也同样具有竞争力。

  注:Llama 3.1 现已于 Meta 官网和 Hugging Face 开放下载,包括 AWS、英伟达、戴尔、Azure 和 Google Cloud 在内的超过 25 个合作伙伴也已经准备就绪。

相关文章