值得注意的是,Jalapeño 的设计初衷并非仅为运行 OpenAI 自家模型而定制,而是定位为一种通用推理芯片。这意味着该芯片旨在提供更广泛的兼容性,以满足多样化的 AI 推理需求。在实际测试中,Jalapeño 展示了极具竞争力的性能表现:在几乎所有测试场景下,其能效比(perf/W)均优于英伟达(NVIDIA)目前的主力产品 Blackwell。
之所以将“能效比”作为设计的核心指标,是因为当前 AI 行业的扩张正面临严重的电力供应限制。对于许多 AI 企业而言,增加电力供应的难度和成本往往高于建设更多数据中心。在能源受限的背景下,提高单位功耗下的计算能力成为降低运营成本、提升规模化的关键路径。
与此同时,英伟达在 Hot Chips 上展示其新芯片 Vera 时也强调了电力供应的重要性。英伟达明确指出,电力限制已直接影响到相关产品的营收表现。OpenAI 此次推出 Jalapeño,正是针对这一行业痛点进行的战略性布局,旨在通过更高效的硬件设计来突破能源瓶颈。
【小编观点】
OpenAI 此举释放了一个强烈信号:在 AI 竞赛进入深水区后,单纯追求算力的堆砌已不再是唯一路径。随着电力成本和基础设施限制成为制约模型规模化的核心因素,能够提供高能效比的定制化芯片将成为大模型厂商的核心竞争力。OpenAI 与博通的深度合作,预示着 AI 巨头正试图在硬件底层与英伟达建立更深层次的竞争壁垒。
【核心提要】
【正文报道】
在近期举行的 Hot Chips 大会上,OpenAI 展示了其首款自研推理芯片——Jalapeño。该芯片由 OpenAI 与博通(Broadcom)联合研发,标志着 OpenAI 在底层硬件架构上迈出了关键的一步。据悉,从组建专门的开发团队到最终完成流片(Tape-out),整个研发周期仅耗时约 16 个月。
值得注意的是,Jalapeño 的设计初衷并非仅为运行 OpenAI 自家模型而定制,而是定位为一种通用推理芯片。这意味着该芯片旨在提供更广泛的兼容性,以满足多样化的 AI 推理需求。在实际测试中,Jalapeño 展示了极具竞争力的性能表现:在几乎所有测试场景下,其能效比(perf/W)均优于英伟达(NVIDIA)目前的主力产品 Blackwell。
之所以将“能效比”作为设计的核心指标,是因为当前 AI 行业的扩张正面临严重的电力供应限制。对于许多 AI 企业而言,增加电力供应的难度和成本往往高于建设更多数据中心。在能源受限的背景下,提高单位功耗下的计算能力成为降低运营成本、提升规模化的关键路径。
与此同时,英伟达在 Hot Chips 上展示其新芯片 Vera 时也强调了电力供应的重要性。英伟达明确指出,电力限制已直接影响到相关产品的营收表现。OpenAI 此次推出 Jalapeño,正是针对这一行业痛点进行的战略性布局,旨在通过更高效的硬件设计来突破能源瓶颈。
【小编观点】
OpenAI 此举释放了一个强烈信号:在 AI 竞赛进入深水区后,单纯追求算力的堆砌已不再是唯一路径。随着电力成本和基础设施限制成为制约模型规模化的核心因素,能够提供高能效比的定制化芯片将成为大模型厂商的核心竞争力。OpenAI 与博通的深度合作,预示着 AI 巨头正试图在硬件底层与英伟达建立更深层次的竞争壁垒。
背景链接:
https://newsletter.semianal...