每日AI乱炖 · 2026-11-06:RTX 3090、Claude Code

RTX 3090搭配24 GB VRAM,没有使用WSL;问题报告#107757描述了一条可能的路径:Claude Code进行网页搜索时,把用户邮箱写进User-Agent请求头。

每日AI乱炖 · 2026-11-06:RTX 3090、Claude Code

这里是由Robin为你带来的咸话咸说之每日AI乱炖。

今天从一款名字里带着「Small」的模型聊起,再看看混合专家怎么训练、大模型怎么搬进Windows电脑,以及编程助手发出网络请求时,可能把什么一起带了出去。最后,把视线转向AI参与物理学证明的尝试。

Inkling 2 Small:「小」模型装着5940亿参数

Inkling宣布推出Inkling 2 Small。这款多模态混合专家模型,总参数达到5940亿,每次推理激活170亿参数,还能接收图像输入,并支持调整推理时投入的计算量。「Small」这个名字,得连着它的架构一起看:模型把输入交给部分选中的专家处理,每一步不必把全部参数都调动起来,从而比同等总容量的稠密模型减少计算开销。

和此前总参数2760亿、激活参数120亿的Inkling Small相比,这次更新扩大了模型容量,也支持看图和调整推理投入。公告称,新模型在Artificial Analysis Intelligence Index上取得31分,智能体编程、视觉、知识工作和推理方面都有提升;Inkling把这些变化归因于更高效的预训练,以及一次大规模、统一的强化学习训练。来源:Inkling 2 Small发布帖

对开发者来说,现在能上手的入口是Tinker:可以在Playground里使用,也能采样和微调。权重目前仍然封闭。Inkling计划下周以Apache 2.0许可证发布完整权重和可下载检查点,前提是完成外部安全测试与红队测试。服务已经开放,权重下载则仍是带条件的发布计划。

专家怎么分工?一份MoE手册把镜头转向训练现场

看到「每次只激活部分参数」,接下来的问题就是:由谁来选专家,怎样避免任务分配失衡?Hugging Face作者Nouamane发布的Megatron-LM实战手册,正面向从稠密模型训练转向混合专家模型的开发者,把路由、负载均衡和专家布局放进可操作的工程流程。

手册从测试硬件、创建镜像、建立稠密模型基线开始,再带读者运行第一个单节点MoE。这个顺序让训练有了对照:先建立基线,再进入专家网络的分工。后面的章节还涉及分布式系统问题、模型服务和强化学习,不需要GPU也能学习。来源:Megatron-LM MoE训练手册发布帖

作者说,指导来自CSCS的Alps集群上约80万个GH200 GPU小时的MoE训练经验。这里的单位是累计GPU小时。配套内容包括55幅图、可运行脚本和汇总后的Megatron-LM推荐参数,手册也区分了作者实际运行的结果与小型模拟实验。对于要配置和排查MoE训练的工程师,这些脚本和参数,把模型发布中的架构名词接到了具体的训练步骤上。

单张RTX 3090跑DeepSeek,显存之外还有内存和硬盘

从训练集群回到桌面电脑,Delta Inference Engine发布了v0.93。这款采用MIT许可证、基于Strata的Xolotl引擎的Windows移植版,扩展了单张RTX 3090运行DeepSeek-V4.1-Flash-1017的支持,覆盖64 GB、96 GB和128 GB内存配置,并能原生读取新的Unsloth量化版本。

最抓眼球的数字来自作者自己的测试机:24 GB显存VRAM的RTX 3090,搭配i5-13600K、192 GB系统内存和PCIe 4.0 NVMe存储,没有使用WSL。在这套配置上,UD-IQ2_XXS达到每秒41个token;99道难题答对57道,对照的ds4 Q2答对52道,完整模型答对59道。面对约180个token的提示词,首个token等待时间从3.8秒降到了2.3秒。来源:Delta Inference Engine v0.93更新帖

这条本地部署路线的关键,是让显存、系统内存和NVMe流式加载一起承担模型,而不要求把整个模型塞进显存。它原生运行于Windows,兼容OpenAI接口,给Windows用户提供了本地运行这款模型的途径。相应的资源账也要算完整:运行要求包括至少64 GB内存、至少12 GB显存的NVIDIA RTX显卡、快速NVMe,以及233至395 GB模型存储空间。每秒41个token对应的是作者那台192 GB内存测试机,不能把它套到所有受支持配置上。AMD显卡目前不受支持,扩展到三四张或更多GPU时表现也较差。

Claude Code邮箱外传报告,把注意力拉到请求头

模型跑起来之后,工具怎样联网,同样影响使用体验。有用户报告,Claude Code把账号邮箱地址发送给了网站;部分评论者把随后增加的个性化垃圾邮件与此联系起来。其中一名评论者称,工具在私人账号下运行时,使用curl携带了组织邮箱地址。

问题报告#107757描述了一条可能的路径:Claude Code进行网页搜索时,把用户邮箱写进User-Agent请求头。这个字段用来标识发起请求的客户端软件;账号标识如果被放进去,接收请求的网站就能看到。对编程助手而言,这让身份信息是否随请求外传,成了一个具体到HTTP字段的工程问题。来源:Claude Code问题报告#107757

GitHub问题报告中的Contributor回复称,2.1.317及后续版本加入了名为cc-plugin-privacy的内置模块,通过确定性检查拦截这种行为。现有材料主要是用户叙述,缺少技术复现,也没有维护者确认问题的完整范围。因此,这里能说的是用户报告了邮箱外传,并讨论了相应防护;个性化垃圾邮件与该行为之间的联系,仍是评论者的判断。

AI参与物理学证明,落点是向前一步

最后看一条科研线索。一则YouTube内容的作者提到,OpenAI上周公布了新一批证明的研究进展,其中一项向一个长期存在的物理学问题迈进了一步:Yang-Mills理论是否存在。作者借此讨论AI从数学证明走向物理学的尝试。来源:YouTube相关内容

这条消息值得关注的落点,是AI参与证明工作的方向延伸到了物理学问题。具体到结果,材料只说「迈进了一步」,没有给出这项证明的技术展开;所提供的文本在开始解释Yang-Mills理论时便结束了。本期能讲到这里:作者报告了一项进展,不能把它写成这个长期问题已经得到解决。

把今天几条消息放在一起,模型的参数表、训练脚本、桌面电脑里的内存和硬盘,以及网络请求中的身份信息,都进入了同一幅使用图景。Inkling展示了模型容量与激活计算的安排,MoE手册展开了训练中的专家分工,Delta把部署落实到具体硬件,Claude Code的报告则提醒我们留意工具发出的请求。科研那一端,也要把「向前一步」说准确。今天这锅每日AI乱炖,就沿着这些具体细节,看看AI怎样被训练、运行和使用。