劲爆优惠40%
🎉 尊享股票精析,五一轻松解锁财富密码领取限时折扣

AI化身“吞电巨兽” 内存计算或成省电新招

发布时间 2024-4-3 15:23
更新时间 2024-4-3 15:35
© Reuters.  AI化身“吞电巨兽” 内存计算或成省电新招

智通财经APP获悉,随着人工智能(AI)的繁荣,作为AI基础设施核心组成部分的电力资源正在引起越来越多的关注。毫无疑问的是,AI是一个高耗能的领域,数据中心、超级算力中心都堪称“吞电巨兽”。有专家推算认为,到2027年,AI行业每年的电量消耗可能在85到134太瓦时之间,这几乎相当于荷兰一个国家的年度电力需求。国际能源署(IEA)此前的一份报告也指出,由于人工智能和加密货币的需求,数据中心的用电量将在不久的将来大幅增加。

不少行业大佬也都AI可能面临的能源危机发出警告。今年1月,OpenAI首席执行官萨姆·奥特曼承认,AI行业正面临能源危机。他警告称,未来AI需要能源突破,因为AI消耗的电力将远远超出人们的预期。特斯拉(TSLA.US)首席执行官马斯克在2月底出席一场会议时也表示,芯片短缺的情况可能已经过去,但AI和电动汽车正在以如此迅猛的速度扩张,明年全球将面临电力和变压器供应紧张的问题。英伟达(NVDA.US)首席执行官黄仁勋更是直言:“AI的尽头是光伏和储能!如果只考虑计算,我们需要烧掉14个地球的能源,超级AI将成为电力需求的无底洞。”

一个关键原因在于,AI需要大量的数据,而数据在存储芯片和处理器之间来回传输的这一过程需要消耗大量电力。因此,至少十年来,研究人员一直试图通过制造可以在存储数据的地方处理数据的芯片来节省电力。这个过程通常被称为“内存计算”。

内存计算目前仍面临着技术上的挑战,现在刚刚走出研究阶段。而随着AI的高耗能引发了人们对其经济可行性和环境影响的严重质疑,能够提高AI能源效率的技术可能会带来巨大回报。这使得内存计算成为越来越令人兴奋的话题。台积电(TSM.US)、英特尔(INTC.US)和三星电子等主要芯片制造商都在研究内存计算。OpenAI首席执行官奥特曼等个人、微软(MSFT.US)等公司以及不少政府附属实体都投资了从事这项技术的初创公司。

这项技术是否会成为AI未来的重要组成部分还无法确定。通常,内存计算芯片对温度变化等环境因素很敏感,而这可能会导致计算错误。初创公司们正在研究各种方法以改善这一点。然而,更换采用新技术的芯片往往都很昂贵,而且客户通常会犹豫不决,除非他们对重大改进有信心。初创公司也必须说服客户,新技术带来的好处是值得冒险的。

目前,内存计算初创公司还没有着手AI计算中最困难的部分,即训练新模型,这一过程主要由英伟达等公司设计的AI芯片来处理。内存计算初创公司似乎不打算直接与英伟达展开竞争,它们的目标是将业务建立在推理上,即利用现有模型接收提示并输出内容。推理不像训练那么复杂,但其规模也很庞大。这意味着专门为提高推理效率而设计的芯片可能会有一个前景良好的市场。

内存计算公司仍在摸索其产品的最佳用途。总部位于荷兰的内存计算初创公司Axelera正瞄准汽车和数据中心的计算机视觉应用。总部位于德克萨斯州奥斯汀的Mythic的支持者认为,内存计算在短期内是AI安全摄像头等应用的理想选择,但最终希望它们能用于训练AI模型。

行业智库Semiconductor Research Corp.的首席科学家Victor Zhirnov表示,AI能源使用的巨大规模让每个人都迫切需要研究如何提高这项技术的效率。他直言:“AI迫切需要节能的解决方案,否则它会很快自杀的。”

最新评论

风险批露: 交易股票、外汇、商品、期货、债券、基金等金融工具或加密货币属高风险行为,这些风险包括损失您的部分或全部投资金额,所以交易并非适合所有投资者。加密货币价格极易波动,可能受金融、监管或政治事件等外部因素的影响。保证金交易会放大金融风险。
在决定交易任何金融工具或加密货币前,您应当充分了解与金融市场交易相关的风险和成本,并谨慎考虑您的投资目标、经验水平以及风险偏好,必要时应当寻求专业意见。
Fusion Media提醒您,本网站所含数据未必实时、准确。本网站的数据和价格未必由市场或交易所提供,而可能由做市商提供,所以价格可能并不准确且可能与实际市场价格行情存在差异。即该价格仅为指示性价格,反映行情走势,不宜为交易目的使用。对于您因交易行为或依赖本网站所含信息所导致的任何损失,Fusion Media及本网站所含数据的提供商不承担责任。
未经Fusion Media及/或数据提供商书面许可,禁止使用、存储、复制、展现、修改、传播或分发本网站所含数据。提供本网站所含数据的供应商及交易所保留其所有知识产权。
本网站的广告客户可能会根据您与广告或广告主的互动情况,向Fusion Media支付费用。
本协议的英文版本系主要版本。如英文版本与中文版本存在差异,以英文版本为准。
© 2007-2024 - Fusion Media Limited | 粤ICP备17131071号 | 保留所有权利。