AI 硬件与部署 今日: 0|主题: 326|排名: 1 

据传，英伟达在 3 月的 GTC 2026（GPU 技术大会）上确实憋了大招。目前的各种情报指向，老黄要推出一款代号可能为 “Blackwell-I”（Inference，推理专用）。 训练芯片（如 H100/B200）追求的是吞吐量和原始暴力；而推理芯片追求的是低延迟和高能效比。这次的新芯片据传采用了更激进的 FP4/FP6 数据格式，这意味着在同样的 ...

不得不服，英伟达是个伟大的公司！不仅技术牛，反应更是迅速，在高端算力紧缺下，迅速推出新“推理”芯片，直指AI痛点。 ​​AI大模型现在迭代得太快了，高端算力不够用早就不是啥新鲜事了。训练阶段的算力大战还没消停，现在轮到“推理”环节掉链子，成了新的行业难题。就在大家都为算力不够用发愁的时候，英伟达又一次秀 ...

【消息称 OpenAI 将导入英伟达基于 Groq 技术的 AI 推理芯片】《华尔街日报》称一些大型客户发现某些智能 AI 工作负载在仅使用 CPU 运行时比搭配 GPU 的混合方案更高效。 ​​​

CPU集中开始出现紧缺 随着 OpenClaw、MaxClaw、Kimi Claw 等各类 agent 开始兴起，单次、无状态、GPU主导的大模型推理，变成了多轮循环、有状态、强逻辑调度、高并发分支的全链路持续计算任务——GPU 只负责 token 生成的一小段，而 Agent 全生命周期90%的工作，都要靠 CPU 完成，使得 CPU 开销呈 5-10 倍放大。 记者 ...

转一个财联社之前发布过的，关于谷歌TPU和英伟达GPU的区别对比图吧。 ​​​

Nvidia 预计将在今年的GTC 2026上公布采用台积电A16的Feynman GPU~ 不得不说现在AI真是芯片发展的液氮，AI芯片的迭代真是太快了。 ​​​

如果把芯片比作一幅极其复杂的微雕画，那么晶圆就是那张画布。绝大多数晶圆都是由高纯度硅制成的。无论是给英伟达做 AI 芯片，还是给三星做内存，起步阶段用的“白板”晶圆在材质上大同小异。 核心差异在加工，内存、硬盘（闪存）、CPU 都要用晶圆。区别不在于晶圆本身，而在于光刻机往上面“画”了什么：CPU/GPU，电路结 ...

【消息称三星电子将停产 2D NAND 闪存，原有产线用于 1c nm DRAM 内存制程】 三星电子最早将在今年 3 月停止在华城园区 12 号生产线制造 2D NAND 闪存，其 2D NAND 闪存时代将正式结束。三星 2013 年实现 3D NAND 量产，此前保留小规模 2D NAND 产能以应对特殊利基市场需求。华城 12 号生产线未来将服务于 1c nm DRAM 内 ...

【每瓦性能提高 10 倍，#英伟达大秀下一代AI系统# Vera Rubin】英伟达下一代 AI 系统 Vera Rubin 由全球 80 多家供应商提供 130 万个零部件，核心包括 72 颗 Rubin GPU 和 36 颗 Vera CPU。其每瓦性能是前代 Grace Blackwell 的 10 倍，功耗虽翻倍但能效比实现跃升，并首次采用 100% 液冷散热。新系统数据传输速度达 260TB ...

今年可以商用的LPDDR6吞吐率还是10667Mbps，2027年可以到14400Mbps。 今年所有头部DRAM厂商都会推出LPDDR6的芯片，不过并不是所有的SOC厂商都可以支持LPDDR6。目前可以确认是高通、联发科、三星以及一家国产SOC。 ​​​

【把数据中心塞进桌面机箱的人，是疯了还是对了】 快速阅读： ASUS发布搭载NVIDIA GB300 Grace Blackwell Ultra芯片的桌面工作站ExpertCenter Pro ET900N G3，最高775GB内存、20 PFLOPS AI算力，售价约8万至10万美元。它把数据中心级算力装进了一个普通机箱，引发AI圈广泛讨论。 --- 这台机器的存在本身就是一种冒犯。 ...

【传闻英特尔可能放弃CPU大小核设计】目前，Intel主流处理器普遍采用性能核（P-core）与能效核（E-core）组合设计。以Core Ultra 9 285K为例，其为24核心规格，其中包含8个性能核与16个能效核，通过差异化分工实现性能与功耗平衡。不过据外媒Fudzilla援引相关信息称，英特尔或正考虑转向“统一核心”设计，以简化调度逻辑、 ...

【全球最快的交换机：速度是每秒7.2TB】 你以为互联网很快？ 先看这个，全球最快的交换机。 速度是每秒7.2TB。 一个机架，塞进去九个这样的交换机。 然后用一个叫NVLink主干的东西连起来。 这里面是两英里长，五千根结构精密的电缆。 最终的效果是什么？ 它把72个GPU跟另外72个GPU全部高速互联。 每秒可以传输130TB的数据 ...

【博通推出业界首款 6G 兼容 DFE 数字前端 SoC 芯片 BroadPeak】BroadPeak 在单一SoC上集成了先进的 5nm CMOS DFE 和 ADC/DAC 模块，功耗相较现有芯片最多可降低 40%。 ​​​

在LPDDR6时代，非超高端的笔记本GPU我觉得诸如M5 Pro和Strix Halo 这种大内存位宽的方案才是最正确的方向。 一方面，CPU自身在非GPU场景基本不存在缺内存带宽的问题，LP6这种大幅提升的带宽在很多场合下都是多余的，除了高端核显本，别的都很无所谓。 另一方面，现在的GPU本就是在疯狂缩位宽，而LPDDR6 如果做四通道那就 ...

据多家消息，字节跳动的芯片研发团队已经秘密扩充到了千人以上，AI芯片方向的研发人员就超过500人。他们手里的牌，已经摆上了桌：AI芯片、服务器CPU、VPU(视频处理单元)、DPU(数据处理单元)，四大产品线齐头并进 。此外，路透社还曝光，字节跳动正与三星电子深度洽谈，其自研AI推理芯片SeedChip计划于3月底前拿到首批样片 ...

【高通首批机架级 AI 软硬件解决方案开启交付，基于 AI 100 芯片】2 月 24 日消息，高通 CEO 安蒙昨日宣布，该企业的首批机架级 AI 软硬件全栈解决方案已运抵沙特阿拉伯，开始向合作伙伴 HUMAIN 的数据中心交付。IT之家注：HUMAIN 首席执行官 Tareq Amin 称该机架系统基于高通的 AI100 技术，这里更可能指的是 2023 年发布 ...

【7168 块英伟达 GPU 火力全开，美国实验室创纪录模拟量子微芯片】美国科研团队利用 Perlmutter 超级计算机上的 7168 块英伟达 GPU，耗时 24 小时，以前所未有的细节，超高精度模拟量子微缩芯片（Quantum Microchip）。 ​​​

把模型做成芯片 真正意义上的软件定义硬件 无敌快

Taalas引发争议：AI的端侧时代开启？最近在硅谷和华尔街，都在传一个数字：17,000。 不是道指、纳指，而是 Taalas 这家公司的芯片速度（基于Llama 3.18B）： 每秒 1.7 万个 Token。 比 NVIDIA 的主流方案快了接近 10 倍。 比已经很快的专用芯片 Groq 还要快 17 倍 以上。 而且不需要昂贵的HBM、以及高性能散热组件，成 ...