Meta发布新一代人工智能模型系列Llama 4
作者:
文少
责任编辑:刘沙
来源:
电脑商情在线
时间:2025-04-07 11:51
关键字:
Meta 人工智能 模型 Llama 4
近日,Meta发布了新一代人工智能模型系列——Llama 4,旨在提升其在人工智能领域的竞争力。
该系列包含Llama 4 Scout、Llama 4 Maverick和Llama 4 Behemoth,它们均基于大量未标注的文本、图像和视频数据进行训练,以增强视觉理解能力。
Llama 4系列采用了混合专家(MoE)架构,将数据处理任务分配给专门的“专家”模型,提高了计算效率。
其中,Maverick拥有4000亿个参数,128个“专家”模型,仅170亿个活跃参数;Scout具备170亿个活跃参数、16个“专家”模型以及总计1090亿个参数;Behemoth模型尚在训练中,有2880亿个活跃参数、16个“专家”模型,总参数数量接近2万亿个。
根据Meta的内部测试,Maverick适用于“通用助手和聊天”等场景比如创意写作,在某些编码、推理、多语言、长文本上下文和图像基准测试中,其表现超过了GPT-4o和Gemini2.0等模型。Scout则拥有1000万个词元的超大上下文窗口,能够处理数百万字的文档和图像。
目前,Scout 和 Maverick 模型在Llama.com网站以及 Meta 的合作伙伴处均可公开获取。Meta 表示,其人工智能助手 Meta AI已在 40 个国家更新为使用 Llama 4 模型。不过,受到人工智能和数据隐私法律所施加的监管要求,“位于” 欧盟或 “主要营业地” 在欧盟的用户和公司被禁止使用或分发这些模型。