精选· 重要性 4/5
谷歌发布Gemma 4 12B模型,可在16GB内存笔记本上运行
Ars Technica — AI··Ryan Whitwam·约 1 分钟阅读
中文导读
谷歌推出Gemma 4 12B模型,填补产品线空白,能在16GB内存的消费级笔记本上高效运行,降低本地AI部署门槛。
生成式人工智能的繁荣已将内存成本推高至顶峰,而谷歌是这一趋势的关键组成部分。因此,谷歌应该提供一些不太需要RAM的本地人工智能模型。该公司宣布发布新的Gemma 4型号,填补了今年早些时候推出的产品阵容的空白。
新型号足够高效,您可以在相当普通的消费笔记本电脑上运行它。4月,谷歌发布了Gemma 4系列的四款型号,这也标志着谷歌向更开放的Apach2.0许可证的转变。
最初的模型包括两个移动优化选项(E2 B和E4 B)以及两个用于更严肃工作的模型(26 B混合专家和31 B密集)。这在中间留下了一个相当大的无人服务空间,这正是新模型的所在地。
Gemma 4 12 B的功能比移动版本强得多,但不需要20,000美元的人工智能加速器即可在本地运行。谷歌表示,Gemma 4 12B的独特之处在于,它可以在许多消费者笔记本电脑上运行,而不会牺牲质量。
只要你有一台16GB系统RAM或VRAM的计算机,120亿参数模型就可以工作。这大约是Gemma 4 26 B MoE总内存占用量的一半,谷歌声称新型号的功能几乎相同,至少就基准测试而言是如此。
原文出处
Google's new Gemma 4 12B model is designed to run on any laptop with 16GB of RAM本文为机器翻译辅以 AI 润色,仅供参考。原始事实以原文为准。