Google的TurboQuant现在可以将RAM需求减少多达6倍

雅加达 - 谷歌推出了一个突破,有可能改变全球技术行业的格局。通过名为TurboQuant的压缩算法,这家科技巨头声称能够将AI模型的内存(RAM)需求减少多达六倍。

这一创新是在RAM需求激增的背景下出现的,原因是ChatGPT和Gemini等大型语言模型的快速发展。到目前为止,复杂的AI模型需要非常大的内存容量,这引发了全球内存芯片价格的上涨,并在从数据中心到消费笔记本电脑的各个领域创造了瓶颈。

TurboQuant:可容纳 6 倍数据的“数字卡车”

TurboQuant技术使用一种称为量化的方法,它在不显著牺牲准确性的情况下简化数据。它的主要目标之一是“键值缓存”,这是AI中的一个重要组成部分,它存储会话上下文,以便模型不必从头开始重新计算 - 但它一直被认为是RAM的巨大浪费。

Google声称,这种新方法所实现的效率接近理论上的最大极限。一个简单的类比是:就像在行李箱里放了六倍多的衣服,而不会增加重量——节省空间,但仍然实用。

此消息立即震惊了市场。三星电子、SK海力士和美光科技等大型芯片制造商的股价下跌,因为投资者担心,如果该技术得到广泛采用,RAM需求可能会急剧下降。

尽管如此,一些分析师认为,全球RAM危机尚未真正结束。效率的提高实际上可以引发更复杂和“资源狂热”的人工智能的发展,因此长期来看,内存需求仍然很高。

目前,TurboQuant仍处于研究阶段,尚未准备好大规模使用。大规模实施预计需要时间,特别是大型科技公司已经锁定芯片供应合同。

但有一点是明确的:如果通过软件可以大大提高AI的效率,那么对全球RAM供应的压力可能会比预期更快地减弱。人工智能世界可能还不节俭,但至少它开始学习“更有效地生活”。

关注VOI Whatsapp频道