博通加速向Nvidia发起进攻
博通强调的一项优势是其 XPU 的能效。其功耗不到 600 瓦，是业内功耗最低的 AI 加速器之一。
Nvidia 的许多竞争对手都想抢占其市场主导地位。其中一个不断出现的名字是 Broadcom。仔细观察就会知道原因。其 XPU 功耗不到 600 瓦，使其成为业内最节能的加速器之一。
美国银行在本周给投资者的一份报告中表示，“将其视为人工智能的首选。”它并不是在谈论 Nvidia，尽管美国银行认为 Green Team 是 GPU 之战中无可争议的赢家。它指的是博通，该公司最近在其第二季度收益报告中宣布了 10 比 1 的股票分割和好于预期的收入。该公司预计 2024 财年的销售额将高于预期的 510 亿美元。
美国银行分析师预测该公司 2025 财年的销售额将达到 599 亿美元，同比增长 16%。分析师指出，博通去年收购VMWare 带来的效率提升、销售额的提升以及定制芯片的潜在增长是其 2025 年预测的关键指标。如果美国银行的预测正确，那么博通的市值可能会使其与其他几家科技巨头一起跻身万亿美元俱乐部，其中包括微软、苹果、Nvidia、亚马逊、Alphabet 和 Meta。
为了实现这一目标，它必须与 Nvidia 展开竞争，后者目前的市值领先博通 8040 亿美元，为 3.4 万亿美元。此外，Nvidia 的 CUDA 架构已在超大规模企业（如 Meta、微软、谷歌和亚马逊）的 AI 工作负载方面获得了近乎垄断的地位，这些企业是其最大的客户。它拥有一个庞大的软件、工具和库生态系统，这进一步锁定了客户，并为博通等竞争对手设置了很高的进入门槛。
这些公司都希望减少对 Nvidia 的依赖，因此博通将自己定位为替代方案，为云计算和 AI 公司提供定制的 AI 加速器芯片（称为 XPU）。在最近的一次活动中，博通指出，对其产品的需求正在滚雪球般增长，并指出两年前最先进的集群有 4,096 个 XPU。2023 年，它构建了一个拥有超过 10,000 个 XPU 节点的集群，需要两层 Tomahawk 或 Jericho 交换机。该公司的路线图是将其扩展到 30,000 多个，最终达到 100 万个。
博通强调的一项优势是其 XPU 的能效。其功耗不到 600 瓦，是业内功耗最低的 AI 加速器之一。
博通对芯片市场也有不同的看法，称芯片市场正从以 CPU 为中心转向以连接为中心。除了 CPU 之外，GPU、NPU 和 LPU 等替代处理器的出现需要高速连接，而这正是博通的专长。
为何连iPhone 15都不能用“苹果智能”？
传统内存都不够，兼容Apple Intelligence的设备都至少有8GB的RAM——6GB保障日常应用流畅运行，多出2GB跑端侧LLM。
今年的WWDC上，最令人惊喜的可能不是iOS 18，而是苹果的AI：Apple Intelligence。
不过，官方的说法是，Apple Intelligence将仅支持 iPhone 15 Pro、iPhone 15 Pro Max以及搭载M1或后续芯片的iPad和Mac设备。
翻译一下：目前在售的所有iPhone里面，只有15 Pro系列支持Apple Intelligence，连同期发售的15和15 Plus都不行！不过， 三年前发售的iPad Pro却可以！
为什么会出现这种情况呢？
近日，知名分析师郭明錤分析称，从这可以推断出，能否支持Apple Intelligence的关键应该是DRAM大小，而非AI算力 (TOPS)。
问题在内存，而不在算力！
参数上看，M1芯片的算力约为11 TOPS，而A16芯片的计算能力约为17 TOPS。不过，M1的DRAM最低为8GB，最高可达16GB，高于A16的6GB，这多出来的2GB，很有可能是“问题的关键”。郭明錤推测称：
“因此，目前的 Apple Intelligence 端侧AI LLM对DRAM 的需求约为2GB或更低。”
进一步，郭明錤表示，可以从另一角度验证Apple Intelligence对DRAM的需求：
“Apple Intelligence采用端侧3B LLM（应为 FP16，M1的NPU/ANE对FP16有很好的支持），经过压缩后（采用2-bit与 4-bit的混合配置），随时需要预留约0.7-1.5GB DRAM来运作Apple Intelligence的端侧LLM。”
与安卓手机司空见惯的16GB甚至24GB的“大号”DRAM相比，苹果设备通常提供的DRAM较少，大多不超过6GB。iphone 13等老款机型，DRAM更是只有4GB。
因此，不少分析师认为，苹果设定2GB“内存壁垒”或可促进消费者对旧设备的“更新换代”，即将到来iPhone 16系列机型中，苹果可能提供更高的DRAM选项。
郭明錤表示：
“未来 Apple Intelligence 的端侧AI肯定也会升级（最有可能升级到7B LLM），届时需要更大DRAM才能运作。
值得观察Apple是否会以此作为高低阶机种的产品区隔策略。”
