谷歌宣布推出新的人工智能处理芯片和云超级计算机

毫无疑问，2023 年是生成式人工智能的一年，谷歌将以更多人工智能的发展来结束这一年。该公司宣布创建迄今为止最强大的 TPU(正式名称为张量处理单元)、Cloud TPU v5p 以及来自Google Cloud的 AI 超级计算机。谷歌工程研究员兼机器学习系统副总裁 Amin Vahdat 表示：“[生成式]的增长——过去五年里参数每年增加十倍——带来了对训练、调整和推理的更高要求。”和云人工智能团队在一份新闻稿中表示。

Cloud TPU v5p 是一个 AI 加速器、训练和服务模型。Google 设计的 Cloud TPU 是为了处理大型、训练周期长、主要由矩阵计算组成且在其主训练循环内没有自定义操作的模型，例如TensorFlow或 JAX。当使用 Google 最高带宽的芯片间互连时，每个 TPU v5p pod 都带有 8,960 个芯片。

Cloud TPU v5p 遵循 v5e 和 v4 等之前的迭代。据 Google 称，考虑到每个 Pod 的 FLOPS，TPU v5p 的 FLOPs 是 TPU v4 的两倍，可扩展性是 TPU v4 的四倍。与 TPU v4 相比，它的 LLM 模型训练速度还快 2.8 倍，嵌入密集模型速度快 1.9 倍。

然后是新的人工智能超级计算机，它包括一个具有开放软件、性能优化硬件、机器学习框架和灵活消费模型的集成系统。我们的想法是，与单独查看每个部分相比，这种合并将提高生产力和效率。AI超级计算机的性能优化硬件利用了谷歌的Jupiter数据中心网络技术。

谷歌改变了步伐，向开发人员提供开放软件，为 JAX、PyTorch和 TensorFlow 等机器学习框架提供“广泛支持”。这一宣布是在 Meta 和 IBM 推出人工智能联盟之后发布的，该联盟优先考虑开源(谷歌显然没有参与其中)。AI超级计算机还引入了两种模式：Flex启动模式和日历模式。

谷歌在发布这一消息的同时，还推出了 Gemini(一种被该公司称为“最大、功能最强大”的新)，并在Bard和 Pixel 8 Pro 上进行了推广。它将提供三种尺寸：Gemini Pro、Gemini Ultra 和 Gemini Nano。