财新传媒

【新科技观察】“光芯片”能否破解算力瓶颈/仅凭思维操控鼠标实现在望吗

2024年02月27日 19:31
财新智库出品的《新科技观察》报告每周二发送,提供重要的全球新科技政策信息、市场资讯、企业动态及深度洞察
上海世界移动通信大会中国信科展台的光芯片。图:视觉中国

  财新智库的《新科技观察》每周报告又和您见面了,本期我们的精彩关注包括:光芯片能否破解AI算力瓶颈、上海光机所“超大容量光盘”取得突破进展、Neuralink首位人类受试者可仅凭思维操控鼠标、谷歌发布平均性能远超Llama-2的全球最强开源大模型Gemma等等。想阅读报告全文、获取邮件推送服务,请点这里

  以下是报告精华摘要:

一、资讯速递

  【前沿】

  ♢ 上海光机所“超大容量光盘”取得突破进展

  ♢ 马斯克:Neuralink首位人类受试者可仅凭思维操控鼠标

  ♢ 谷歌发布全球最强开源大模型Gemma,平均性能远超Llama-2

  【市场】

  ♢ 微软悄然开发网卡替代品 意彻底摆脱对英伟达的依赖

  ♢ 欧盟正式启动对TikTok调查程序

  ♢ Stellantis将在意大利生产零跑电动车?零跑汽车暂未回应

  ♢ IDC预测:AI手机和PC出货量未来几年将猛增

  ♢ Reddit提交IPO招股书计划纽交所上市

  ♢ 高合创始人丁磊承认,翻身窗口期仅剩3个月

  ♢ 竹间智能紧急回应“停工停产”不实

  ♢ 三星计划不久将Galaxy AI引入部分Galaxy可穿戴设备

  ♢ 盛拓半导体完成数千万元融资

  ♢ 宇树科技宣布完成近10亿元B2轮融资

  ♢ 信诺维医药完成7亿元E轮融资

  ♢ 消息称苹果正加快开发智能戒指

  ♢ 谷歌视频大模型VideoPoet负责人蒋路加入TikTok

  ♢ 微软AI PC将在今年完成首秀

  ♢ 芯片专家详解Groq芯片:目前并不能替代英伟达

  ♢ 字节跳动辟谣推出中文版Sora:还没有完善的产品落地

  ♢ 紧随OpenAI,贝佐斯、英伟达投资Figure AI

  ♢ 李开复回应AI大模型使用开源技术:行业标准做法

  ♢ 马斯克称XMail即将到来

  ♢ OpenAI竞争对手Anthropic又获7.5亿美元投资,一年内融资73亿美元

  ♢ 苹果正在内部测试类ChatGPT工具Ask

  ♢ 特斯拉中国大举招募AI工程师

  ♢ 英伟达再为中国特供两款新型AI芯片样品

  ♢ 亚马逊警告员工:工作中勿使用第三方AI工具

  ♢ 字节发布文生图开放模型SDXL-Lightning

  ♢ 2023年全球动力电池使用数据出炉,宁德时代连续7年全球第一

二、深度分析

《光芯片来了,能否破解算力瓶颈》

  自从OpenAI在2022年11月推出ChatGPT以来,如Alphabet和Meta以及包括Anthropic和Cohere在内的知名初创公司越来越多地发布了更强大版本的大型语言模型,这些模型需要大量的计算能力。英伟达的芯片成为了AI热潮的主力军,而英伟达在AI计算市场的份额超过80%。

  AI 大模型的“军备竞赛”背后,就是算力的比拼。对于目前的科技公司来说,要想在大模型的竞争中赶上潮流,就必须构建强大的算力设施,而AI芯片的短缺,已经一定程度上限制了OpenAI的成长。

  以 OpenAI 团队为例,他们训练 GPT3 模型用了一万张英伟达 A100 显卡,训练 GPT4 乃至更高级的模型则需要更多算力。业内认为,一万张显卡几乎就是一个大模型的门槛,国内大厂几乎都部署了两三万张显卡。比如,一个英伟达AI基础架构解决方案SuperPOD 架构需要 140 台 AI 服务器;1120 张 A100GPU;186 台交换机与 5760-8000 个光模块。

  作为最热门的 AI 处理器之一,英伟达的 AI 芯片 H100 的峰值功耗高达 700 瓦,超过了普通美国家庭的平均功耗。专家预测,随着大量 H100 芯片被部署,其总功耗将与一座美国大城市不相上下,甚至超过一些欧洲的小国家。

  为了解决AI算力短缺问题,OpenAI的CEO山姆·奥特曼在世界政府峰会(World Government Summit)上透露,他正在计划筹集7万亿美元重塑全球半导体行业。奥特曼在 X 上发帖表示,OpenAI 认为世界需要比目前人们计划的更多的人工智能基础设施 —— 包括晶圆厂产能、能源、数据中心等。建立大规模的人工智能基础设施和有弹性的供应链对于经济竞争力至关重要。

  对此黄仁勋回应说,7万亿美元显然可以买下所有的GPU,假设计算机不会变得更快,可能就会得出这样的结论:我们需要14颗行星、3个星系和4个太阳来为这一切提供燃料。但计算机架构仍在不断进步,更高效、更低成本的芯片会持续出现,而这将使得奥特曼的这种“7万亿美元”大规模投资变得不那么必要。

  而计算机架构的进步,面临的是摩尔定律的失效。因此,研发节能高效的 AI 芯片已成为学界、业界高度关注的研究方向之一。

  2月16日,来自美国宾夕法尼亚大学、诺基亚贝尔实验的研究团队提出了一种新型 AI 芯片——利用光波进行复杂的数学运算,该芯片有可能从根本上加快计算机的处理速度,同时还可降低能源消耗。相关研究发表在最新一期《自然·光子学》上。

  该论文的通讯作者,宾夕法尼亚大学Nader Engheta 表示,由于生产芯片的商业代工厂的限制,这种设计已经可以用于商业应用,并有可能被改装用于GPU。

  新型芯片利用了硅光子平台,即利用硅基材料制造光电子器件,用于实现光波的传输、调制和探测,具有集成度高、成本低廉、光电转换效率高等优点。

  除了更快的速度和更少的能耗之外,新型芯片还具有隐私优势。由于许多计算可同时进行,因此无需在计算机的工作内存中存储敏感信息,从而使采用此类技术的未来计算机几乎无法被入侵。

  硅光子技术是一种光通信技术,使用激光束代替电子半导体信号传输数据,是基于硅和硅基衬底材料,利用现有CMOS工艺进行光器件开发和集成的新一代技术。最大的优势在于拥有相当高的传输速率,可使处理器内核之间的数据传输速度快100倍甚至更高,功率效率也非常高,因此被认为是新一代半导体技术。

  随着云计算、大数据、人工智能的快速发展,社会对于信息获取与处理效率的需求持续攀升,但摩尔定律失效在即,硅光技术正凭借其在高传输速率、高能效比、超低延迟等方面的突出优势,成为半导体领域竞争的另一条赛道。

  光子芯片所具有的高速度、低能耗、工艺技术相对成熟等优势,能够有效突破传统集成电路物理极限上的瓶颈,满足新一轮科技革命中人工智能、物联网、云计算等产业对信息获取、传输、计算、存储、显示的技术需求。

  美国是硅光子领域起步最早也是发展最好的国家,早在1969年,美国的贝尔实验室的S.E.Miller首次提出了集成光学的概念,但是由于InP波导的高损耗和工艺落后难以实现大规模集成,这一技术在当时未能掀起波澜。1991年美国便成立了“美国光电子产业振兴会”,以引导资本和各方力量进入光电子领域……(全文5597字)

  本文选自财新智库报告《新科技观察》,点这里阅读全文或注册邮件获得推送

责任编辑:严维汉 | 版面编辑:许金玲
财新网主编精选版电邮 样例
财新网新闻版电邮全新升级!财新网主编精心编写,每个工作日定时投递,篇篇重磅,可信可引。
订阅