从荒芜到前沿：NVIDIA研究员谈大模型算力、开源协作与AI未来走向，中国开源领先获认可！

中国在开源协作上领先偏见不可取天天嘲笑中国AI只会 套壳抄袭 完全是一种傲慢的偏见。在理解和实践 开源协作 这个维度上中国实际上已经走在世界的最前面。摩尔定律已死加速靠共同设计别再指望显卡能轻易降价了摩尔定律从经济学角度看已经死透了。现在晶体管越做越小造价却呈指数级暴涨。只靠缩小芯片设计来躺赚红利的时代已经过去现在的加速必须靠算法、软件到芯片制造的 极端共同设计 来硬挤出来。“技术奇点” 观点片面智能多维天天炒作 技术奇点 是一个错误且片面的观点。智能是高度多维且依赖上下文的一个顶级的企业CEO和一个奥数冠军所需要的智力维度完全不同。4 - bit预训练易跑飞成本高用4 - bit格式进行模型预训练极易面临模型跑飞Diverge的深渊。在实际训练中稍有不慎整个模型就会数值不收敛而彻底跑飞导致数百万美元的算力账单直接泡汤。开源比闭源更安全支持思想多样性开源比闭源更安全阳光和多样性才是最好的消毒剂。在安全问题上试图由少数几家巨头垄断、在顶层强行筑起一堵围墙来定义 哪些思想安全、哪些不安全本身就是极其危险的做法。支持思想的多样性让整个社会共同参与技术的评估与自我纠偏是数百年来人类社会在实践中证明更安全的治理路径。对话开放人工智能技术的发展探讨主持人与Brian Catanzaro就开放人工智能技术的现状、差距、进步动力、开源生态与闭源模型关系、中国模型进步原因、客户使用开源模型理由等问题展开讨论。Brian认为开放技术能让人们实现创新人工智能社区发展迅猛开源人工智能进步受需求等因素推动中国在开源协作方面领先开放人工智能技术可满足公司定制化需求。Bryan的经历与NVIDIA的发展介绍了Bryan Catanzaro在NVIDIA和百度的工作经历包括在NVIDIA参与的项目如Copperhead、cuDNN、DLSS、Megatron等以及在百度与吴恩达、Dario Amodei共事的经历。还讲述了他回到NVIDIA后的工作及相关项目的发展。Nemotron项目解析阐述了Nemotron承担的两项使命一是帮助NVIDIA理解构建未来系统二是支持整个生态系统。还讨论了摩尔定律的现状介绍了Nemotron的关键发布节点和Nemotron联盟的理念。Nemotron家族模型特点介绍了Nemotron家族模型Nano、Super、Ultra的参数及应用场景强调其聚焦于agentic推理且注重效率。还解释了4比特和16比特的区别以及Nemotron架构的混合式特点、混合专家架构的原理和优势等。