Meta AI 已经进入了由大型语言模型 (LLM) 主导的 AI 竞赛，例如 OpenAI 的 ChatGPT、微软的 GPT-powered Bing 和谷歌的 Bard。Meta 首席执行官马克·扎克伯格 (Mark Zuckerberg) 在Facebook帖子中发布了这一消息：“今天我们发布了一种名为 LLaMA 的新型最先进的 AI 大型语言模型，旨在帮助研究人员推进他们的工作……Meta 致力于这种开放的研究模型我们会将我们的新模型提供给 AI 研究社区。”
LLaMA 基础语言模型的参数范围从 7B 到 65B 不等，并使用来自公开数据库的数万亿个标记进行了训练。LLaMA-13B 模型优于 GPT-3，但体积小 10 倍，使其能够在单个 GPU 上运行。Meta AI 研究团队在新论文 LLaMA：开放和高效的基础语言模型中深入研究了 LLaMA 的技术细节。
