wordpress和帝国哪个好,怎样做网站排名优化,信誉好的手机网站建设,wordpress 编辑器 高亮 引用人工智能的行业竞争#xff0c;不仅是OpenAI与谷歌等各大互联网巨头的大模型之争#xff0c;支撑运算的芯片赛道也暗流涌动#xff0c;大模型“制造机”们也加入了赛道。
OpenAI计划从CEO Sam Altman投资的一家初创公司Rain AI订购更高效的NPU芯片#xff1b;微软也推出两…
人工智能的行业竞争不仅是OpenAI与谷歌等各大互联网巨头的大模型之争支撑运算的芯片赛道也暗流涌动大模型“制造机”们也加入了赛道。
OpenAI计划从CEO Sam Altman投资的一家初创公司Rain AI订购更高效的NPU芯片微软也推出两款自研芯片Azure Maia 100和Azure Cobalt 100谷歌刚推出的新模型Gemini 1.0 采用的就是自己设计的芯片TPUs v4 和v5e。
在这之前英伟达构筑的AI芯片帝国是这些大模型公司的强大输出方如今大模型公司试图要自给自足一部分。而正式向英伟达发起挑战还是芯片赛道上的老玩家。
美国超威半导体公司AMD已推出新一代AI芯片MI300X 还从从英伟达手中分走了Meta、微软和OpenAI三大客户。
AI芯片卷起来了但想要挑战坐在“王位”英伟达也绝非易事。
大模型公司自给芯片
今年以来各种AI大模型和应用百家争鸣英伟达 A100、A800、H100、H800等能支持AI大模型训练的芯片被疯狂抢购。“消费者”不仅是科技公司还有各国政府和风险投资公司。
“卖水”的英伟达一时风头无两他们家的AI芯片供不应求AI市场再现GPU短缺。
微软在 2023 财年报告中就多次指出对能否为其云运营获取GPU感到担忧。OpenAI的CEO Sam Altman也不止一次公开“抱怨”芯片短缺及成本巨大今年5月他曾公开表示OpenAI正在经历严重的算力短缺。这也正在影响用户体验ChatGPT时常卡顿反应延迟。
据报道OpenAI 运行 ChatGPT 的成本每天在70 万美元。路透社指出每个 ChatGPT 查询的成本约为 4 美分如果此类查询增长到 Google 搜索的1/10则需要预先投入价值约 480 亿美元的 GPU每年需要花费 160 亿美元的芯片才能维持运行。
算力短缺成本高昂戴尔亚太和日本总裁 Peter Marrs 就曾预测买家不会容忍英伟达GPU 的交货时间过长这将给大量竞争对手制造机会。
为了摆脱对英伟达的芯片依赖OpenAI 正在考虑研发自己的AI芯片以应对全球GPU 的短缺缩减GPT的训练成本。
前几天OpenAI一份订购意向书曝光Altman任职CEO期间该公司承诺从一家初创公司Rain AI订购芯片金额高达5100万美元而Altman投资了这家公司。
值得一提的这款芯片是基于神经拟态Neuromorphic技术的 “类脑” AI 芯片NPU据说“模仿了人脑的结构和功能”支持并行和分布式地处理信息非常适合 AI 应用中的“计算密集型任务”能够实现低耗、高效地处理信息。但目前该芯片仍在研发阶段。
不仅是OpenAI微软和Google等大型科技公司也在一直打造更高效的芯片。
11月16日微软在年度IT专业人士和开发者大会Ignite上推出两款自研芯片——云端AI芯片微软Azure Maia 100、服务器CPU微软Azure Cobalt 100。
Maia 100旨在为AI工作负载运行基于云的训练和推理而Cobalt 100则用于通用工作负载。微软的数据中心预计将在2024年初同时采用Arm CPU和专用AI加速器。微软表示除了在 Bing和 Office AI 产品上测试该芯片外OpenAI也正在测试该芯片。
微软研发Maia 100 自用及供给合作伙伴OpenAI
谷歌也开始行动其刚刚发布的、号称“吊打”GPT-4的大模型Gemini1.0用的就是谷歌自研的TPUs v4 和 v5e芯片。
谷歌称在TPUs上Gemini的运行速度明显快于早期规模更小、性能更弱的模型。此外歌还发布了TPU系统 Cloud TPU v5p旨在为训练前沿 AI 模型提供支持从而加速 Gemini 的开发。
包括苹果、华为等硬件厂商越来越多的科技巨头都开始自主设计和开发自己的芯片以满足自身的业务需求和差异化竞争。
英伟达的防御与扩张
大模型公司卷进芯片赛道真能彻底摆脱对英伟达的依赖吗
尽管市面上英伟达H100 GPU已涨到了原价的两倍依旧供不应求。也即便已经上线自研芯片的谷歌也依然在大量采购英伟达的芯片。
英伟达有自己的护城河。
据英国《金融时报》 报道今年以来英伟达已经投资了二十多家公司包括从价值数十亿美元的大型新人工智能平台到将人工智能应用于医疗保健或能源等行业的小型初创企业。
虽然英伟达表示公司在投资时并没有特殊条款也不要求被投企业必须使用英伟达的芯片。但某种程度上这意味着更密切的关系。
英伟达风险投资部门 NVentures 的负责人 Mohamed Siddeek 表示“对于英伟达来说进行初创企业投资的首要标准是相关性。” 他强调“使用我们的技术、依赖我们的技术、在我们的技术上建立业务的公司我想不出我们投资的公司有哪家没有使用英伟达的产品。”
根据跟踪风险投资机构 Dealroom 的估计英伟达在 2023 年参与了 35 笔交易几乎是去年的六倍。Dealroom 指出这是英伟达人工智能领域交易最活跃的一年超过了Andreessen Horowitz 和红杉等硅谷大型风险投资公司。
此外英伟达CUDA计算平台以及软硬件生态也为英伟达护城河构筑了更加坚固的河堤。
CUDA是一种英伟达推出的并行计算架构运行相同任务的情况下支持CUDA系统的英伟达GPU比CPU的速度要快10到100倍。正是得益于CUDA系统GPU才得以打败CPU成为今天运行大数据计算的基础。
大模型公司自研芯片摆在眼前的也困难并不少根源是原材料的供不应求。
The Enderle Group首席分析师 Rob Enderle 就表示“制造芯片并非易事代工厂和晶圆厂已经饱和这使得 OpenAI 的这项工作很可能会失败。”他补充说“他们最好与 AMD、高通、英伟达或英特尔合作因为后者已经拥有自己的铸造厂。”
还有成本。
Futurum Group的高级分析师Todd R. Weiss表示创建自己的芯片摆脱依赖“乍一看是一个很酷的主意”但设计自己的芯片、建立自己的芯片制造设施永无止境地开发更新更好的芯片路线图所需的成本还要担心自己的供应链问题“这并不比从他人手中购买芯片更简单。”
芯片的战场还在芯片制造商之间。
12月6日英伟达最大的竞争对手美国超威半导体公司AMD举行“Advancing AI”发布会并拉来了微软、Meta等科技公司高管站台发布会上AMD带来了新一代AI芯片MI300X。
与英伟达的 H100 HGX 相比 MI300 X 加速器在运行大语言模型推理时的吞吐量和时延表现都要明显高出一截且价格也更加低廉。Meta、微软和 OpenAI 公司随后在 AMD 投资者活动上表态未来他们将会使用 AMD最新的AI芯片。
真正降低成本的办法还得看芯片制造商的“互卷”。AMD、英伟达等芯片大厂进入产能竞争价格才能打下来。而大模型巨头自研芯片无非是为“军备竞赛”多一条奔跑的腿。
