突破：谷歌推出了其最先进的多模态人工智能 Gemini，在传闻明年推出之前，在复杂的基准测试中超越了人类和 GPT-4。
# Gemini 有三个版本：Ultra、Pro 和 Nano，每个版本都针对特定任务进行了优化。
- > Gemini Ultra 以突破性的分数领先，在 MMLU 基准测试中超越了人类专家 （！它在解决复杂问题方面大放异彩，展示了无与伦比的世界知识和分析能力的融合。
> Gemini擅长推理，成功破译复杂的书面和视觉数据，为人工智能从庞大的信息池中获取知识的能力树立了新标准。
——> 凭借其在文本、图像、音频等方面的培训，Gemini 可以驾驭数学和物理等复杂的主题，以前所未有的清晰度提供解释。
—> 对于编码任务，Gemini 能够理解和生成多种编程语言的高质量代码，突破了 AI 辅助编码的界限。
踢球者是 Gemini 在从数据中心到移动设备的所有设备上高效运行的能力。这种适应性是一个飞跃，暗示了人工智能在各种应用中的无限潜力。Note：和Tensorflow的结合。
Gemini Ultra 将提供给选定的客户和开发人员进行早期实验和反馈，然后在明年初更广泛地推出。同样在明年初，谷歌将推出由 Gemini Ultra 提供支持的 Bard Advanced。
# Genimi 的数据
用于Gemini的预训练数据的混合被排除在技术报告之外，但数据混合似乎确实是构建有效AI系统的新黑魔法。Gemini 为我们提供了一些重要的数据相关知识......
（1）多样化的来源：只要有可能，我们应该从许多不同的来源（例如，网络、书籍、代码等）中提取数据，以便在预训练期间使用。然而，除了纯粹的文本数据之外，我们还应该将来自不同模态（例如图像、音频、视频）、语言和领域（例如编码）的数据纳入预训练过程。
（2） 注意你的分词器：大多数从业者只是下载一个预训练的分词器，并将其用于他们的应用程序，假设它运行良好。但是，事实并非如此！令牌化问题会导致许多下游问题，从而降低性能。为了获得最佳结果，我们应该根据预训练集中的数据训练我们自己的分词器。这样，分词器就专门针对模型将遇到的数据类型。双子座正是这样做的。
（3）清洁度是关键：LLM预训练的数据管道很复杂。它们包括启发式、基于模型的方案、安全/毒性过滤器等等。在之前的工作（例如，Falcon LLM）中，我们看到作者强调仅使用简单的启发式方法来过滤预训练数据。然而，Gemini 似乎把厨房水槽扔到了预训练数据管道上。他们使用所有可用的工具来制作最干净的预训练数据集。
（4） Chinchilla的永恒教训：龙猫在 2022 年 3 月展示的同样简单的发现今天仍然适用。最好的预训练 LLM 需要大量参数和大量数据。简而言之，很多 LLM 都训练不足！我们应该尽可能多地使用数据来预训练这些模型（假设我们没有因计算成本而破产）。
（5）数据权重：除了数据混合之外，我们从每个预训练数据源采样数据的频率（即数据权重）也很重要！为了调整此数据权重，我们应该使用较小的模型和数据集运行调整实验，以确定最佳设置。有趣的是，Gemini的作者还提到，在整个训练过程中改变数据权重（例如，在训练结束时增加特定领域信息的权重）可能会有所帮助。
# Jeff Dean对 Gemini模型背景的介绍
“The Gemini effort came about because we had different teams working on language modeling, and we knew we wanted to start to work together. The twins are the folks in the legacy Brain team (many from the PaLM/PaLM-2 effort) and the legacy DeepMind team (many from the Chinchilla effort) that started to work together on the ambitious multimodal model project we called Gemini, eventually joined by many people from all across Google. Gemini was also was the Nasa project that was the bridge to the moon between the Mercury and Apollo programs.”
双子座在拉丁语中是“双胞胎”的意思。
Gemini 之所以能够做到这一点，是因为我们有不同的团队在进行语言建模，我们知道我们想开始合作。 这对双胞胎是传统 Brain 团队（许多来自 PaLM/PaLM-2 项目）和传统 DeepMind 团队（许多来自 Chinchilla 项目）的成员，他们开始合作开展我们称之为 Gemini 的雄心勃勃的多模态模型项目，最终来自谷歌各地的许多人加入了这个项目。 双子座也是美国宇航局的项目，它是水星和阿波罗计划之间通往月球的桥梁。
