共计 1177 个字符,预计需要花费 3 分钟才能阅读完成。
在今年 5 月的 I / O 大会上,谷歌宣布了 Trillium,这是谷歌自研设计的第六代张量处理单元(TPU)。现在,Trillium 已经进入预览版,可供谷歌云客户使用。TPU 是驱动 AI 的核心,使谷歌的设备和应用尽可能有用,而 Trillium 则是迄今为止最强大和最可持续的 TPU。
什么是 TPU?
TPU(张量处理单元)是谷歌专门为加速 AI 计算任务设计的 ASIC(应用特定集成电路)。为了更好地理解 Trillium 的独特之处,我们需要了解一下不同类型的计算处理器:CPU、GPU 和 TPU。
CPU、GPU 和 TPU 的区别
- CPU(中央处理单元)
- 特点:通用芯片,可以处理多种任务。
- 用途:适合多种计算任务,但对特定任务的性能可能不如专用芯片。
- 例子:几乎每部智能手机和笔记本电脑中都有 CPU。
- GPU(图形处理单元)
- 特点:专门用于加速图形渲染和 AI 工作负载的芯片。
- 用途:在图形密集型应用和 AI 计算中表现出色。
- 例子:高端游戏系统和某些台式机中常见。
- TPU(张量处理单元)
- 特点:谷歌自研的 ASIC,专为 AI 计算任务设计。
- 用途:在运行基于 AI 的计算任务时,性能远超 CPU 和 GPU。
- 例子:谷歌的数据中心中使用,支持谷歌的搜索、YouTube 和 DeepMind 的大型语言模型等服务。
为什么谷歌创建 TPU?
- 历史背景:CPU 在 20 世纪 50 年代末发明,GPU 在 90 年代末出现。谷歌在约 10 年前开始考虑 TPU,因为语音识别服务的质量大幅提升,如果每个用户每天只与谷歌交谈三分钟,就需要将数据中心的计算机数量翻倍。
- 需求:谷歌需要比当时可用的现成硬件更高效的东西,并且需要从每块芯片中获得更多的处理能力。
- 解决方案:谷歌决定自行设计 TPU,以满足这些需求。
Trillium TPU 的特点
- 高性能
- 计算能力:与上一代 TPU v5e 相比,Trillium 每芯片的峰值计算性能提高了 4.7 倍。
- 意义:Trillium 能够以比上一代快 4.7 倍的速度完成运行复杂数学所需的全部计算,处理更大、更复杂的工作负载。
- 高能效
- 可持续性:Trillium 是谷歌迄今为止最可持续的 TPU,能效比上一代 TPU 高 67%。
- 意义:随着对 AI 的需求持续飙升,行业需要可持续地扩展基础设施。Trillium 使用更少的电力来完成相同的工作。
Trillium 的实际应用
- 医疗领域:客户使用 Trillium 进行 RNA 分析,以诊断各种疾病。
- 多媒体转换:客户使用 Trillium 将书面文本快速转换为视频。
- 未来潜力:Trillium 进入预览版,谷歌期待看到更多创新应用的出现。
Trillium TPU 是谷歌在 AI 计算领域的又一重大突破。它不仅在性能上远远超过上一代 TPU,还在能效方面取得了显著进步。随着 Trillium 进入预览版,谷歌云客户将能够利用这一强大的工具,推动更多创新和发展。无论是医疗、多媒体还是其他领域,Trillium 都有望带来革命性的变化。(来源)
相关文章
- 核能与 AI:科技巨头的绿色转型
- 【2024 年 1 月 24 日 AI 晚报】谷歌 Chrome 浏览器将加入 AI 功能;小红书多模态团队发布新“扩散模型”
- 【2024 年 1 月 18 日 AI 晚报】谷歌推出画圈搜索及生成式 AI 多重搜索功能;三星发布 Galaxy S24 系列手机,搭载谷歌 Gemini
- 【2023 年 12 月 20 日 AI 晚报】谷歌发布零样本视频生成模型 VideoPoet;港中大团队开源 AI 音频工具包 Amphion
- 【2023 年 12 月 19 日 AI 晚报】百川智能发布 Baichuan2-Turbo 系列 API;OpenAI 新论文,用小模型监督大模型
相关文章
- 核能与 AI:科技巨头的绿色转型
- 【2024 年 1 月 24 日 AI 晚报】谷歌 Chrome 浏览器将加入 AI 功能;小红书多模态团队发布新“扩散模型”
- 【2024 年 1 月 18 日 AI 晚报】谷歌推出画圈搜索及生成式 AI 多重搜索功能;三星发布 Galaxy S24 系列手机,搭载谷歌 Gemini
- 【2023 年 12 月 20 日 AI 晚报】谷歌发布零样本视频生成模型 VideoPoet;港中大团队开源 AI 音频工具包 Amphion
- 【2023 年 12 月 19 日 AI 晚报】百川智能发布 Baichuan2-Turbo 系列 API;OpenAI 新论文,用小模型监督大模型
相关文章
- 核能与 AI:科技巨头的绿色转型
- 【2024 年 1 月 24 日 AI 晚报】谷歌 Chrome 浏览器将加入 AI 功能;小红书多模态团队发布新“扩散模型”
- 【2024 年 1 月 18 日 AI 晚报】谷歌推出画圈搜索及生成式 AI 多重搜索功能;三星发布 Galaxy S24 系列手机,搭载谷歌 Gemini
- 【2023 年 12 月 20 日 AI 晚报】谷歌发布零样本视频生成模型 VideoPoet;港中大团队开源 AI 音频工具包 Amphion
- 【2023 年 12 月 19 日 AI 晚报】百川智能发布 Baichuan2-Turbo 系列 API;OpenAI 新论文,用小模型监督大模型
正文完
关注公众号获取最新教程
