今日要点
- 迪士尼买下 Character.AI — AI 这个聊天机器人平台,本周正式宣布破产了。
- 微软「医疗超级智能」 — 微软高管 Mustafa Suleyman 称,微软的 AI 在疑难病例诊断上的表现可以匹敌甚至超过医生,还把这个目标称作「医疗超级智能」。
- 16GB 的 AMD 显卡 — 本地大模型圈来了一个相当硬核的移植:有开发者把 llama.
- 不刷 BIOS 也能改 — 对跑多卡推理、受单卡功耗预算限制的玩家来说,这相当于把超频和解锁的自由度又拿了回来,还不冒刷硬件的风险。
这里是由Robin为你带来的咸话咸说之每日AI乱炖
迪士尼买下 Character.AI,却把官司留在了门外
Character.AI 这个聊天机器人平台,本周正式宣布破产了。听起来像是一个产品衰败的故事,但法院文件透露的剧情要曲折得多:这其实是迪士尼一笔交易的关键一环。迪士尼借这次破产雇走了 Character.AI 的大部分员工,包括刚卸任的首席执行官 Karandeep Anand,还可能获得这家公司的大部分技术资产,同时避开它身上沉重的法律包袱。过去几年,Character.AI 因为聊天机器人的安全问题吃了多起私人诉讼,还被多地监管机构调查。在破产案的相关声明里,新任首席执行官把目标描述成与人身伤害索赔方和调查方州达成「双方同意的解决方案」,同时为股东保住资产价值。交易结构里最巧妙的一点是:Character.AI 的残留实体继续背着那些还没打完的官司。来源:Ars Technica
微软「医疗超级智能」:主张很响,证据还没跟上
微软高管 Mustafa Suleyman 称,微软的 AI 在疑难病例诊断上的表现可以匹敌甚至超过医生,还把这个目标称作「医疗超级智能」。不过目前能看到的主要是公司主张和各家媒体的转述标题——TechCrunch、The Verge、Gizmodo 都报了,但材料里没有具体任务、评测集、样本量、医生对照和第三方验证。诊断能力是不是真的超过了医生,现在还只能算一个待核实的比较问题,不是已证实的突破。来源:Google News
16GB 的 AMD 显卡,跑满了 Qwen3-27B 的 262k 上下文
本地大模型圈来了一个相当硬核的移植:有开发者把 llama.cpp 里的自适应 KV 缓存流式传输从 NVIDIA/CUDA 搬到了 AMD 的 ROCm/HIP 上,让 Qwen3-27B 在单张 16GB 的 RX 9070 XT 上跑满 262,144 token 的完整上下文窗口。做法是把约 7.4GB 的完整 KV 缓存放在主机内存里,通过 PCIe 异步流式传输与 GPU 计算重叠,权重则用量化和词表裁剪压到约 13.6GB。实测里,1k 到 4k 上下文解码速度有 71.8 到 86.5 token 每秒,拉满 262k 后降到约 31——慢了,但在以前 65k 就爆显存的框架里,这已经是整整一个量级的扩展。有意思的细节是,把功耗从默认 304W 压到 231W,预填充延迟只损失约 3.6%。代码发布在 github.com/achyudh/llama.cpp 的 feature/adaptive-kv-stream-rocm 分支。来源:Reddit r/LocalLLaMA
不刷 BIOS 也能改:RTX 30/40/50 的跨平台 VBIOS 工具
开发者 Panchovix 一口气发布了三个开源工具:跨 Linux 和 Windows 的 VBIOS 编辑器、基于 Windows 注册表的自定义 VBIOS 加载器,还有基于 Fedora 的 Linux 加载器,后者通过修改内存中的 GSP 固件启动、生成独立 GRUB 启动项,内核更新时还会自动重建。它们能调功耗上限、电压、NVVDD/MSVDD 偏移、风扇策略等一堆参数——RTX 5090 的功耗上限可以压到 400W 以下——但完全不碰物理 VBIOS,所以绕开了 NVIDIA 的 falcon 安全校验。这事的来龙去脉是:NVIDIA 从 Maxwell 那一代起就在 GPU 里集成了 Falcon 安全处理器校验固件签名,直接刷写自定义 VBIOS 这条路十年来基本走不通。对跑多卡推理、受单卡功耗预算限制的玩家来说,这相当于把超频和解锁的自由度又拿了回来,还不冒刷硬件的风险。作者自测覆盖了 RTX 5090/5080/4090 等主流卡,不过笔记本 Ada 目前还改不了。来源:Reddit r/LocalLLaMA
Tyger:一个 0.6B 小模型管住了全双工语音代理的「什么时候说话」
开源社区发布了 Tyger 的开放权重:在 NVIDIA Nemotron 3.5 ASR Streaming 0.6B 基座上叠了一个 1400 万参数的因果 GRU,专管语音代理的全双工轮次控制。它每 80 毫秒、无前瞻地输出三种状态——用户说完了、用户插话该停、或者代理该发出「嗯」「哦真的吗」这类倾听反馈——同时监听麦克风和代理自己的回放,避免把回声当成用户输入。配套的 tyger-s2s 语音栈整合了 Gemma 4 E4B FP8 与 VoxCPM2,在 RTX 5090 上从用户说完到首个音频输出约 0.7 秒,而且默认完全本地运行,音频不离开你的机器。代价也不小:整个栈要 28GB 显存,只支持 FP32,目前只在 5090 上测过。来源:Reddit r/LocalLLaMA
ORL:扩散语言模型在单张 5090 上跑到 2,788 token 每秒
研究团队发布了 ORL(On-Policy Residual Learning),一种针对扩散语言模型的残差学习方法,配上自研推理引擎 dlmrt。数字很亮眼:LLaDA-2.1-mini 加 ORL 的 NVFP4 量化版,在单卡 RTX 5090 上达到 2,788 token 每秒;QwenDLM-4B 拿到约 6.9 倍端到端吞吐提升,HumanEval pass@1 还从 82.9% 升到 89.6%;后训练只用了 4.2M 自生成 token 和 36 个 H100 小时。dlmrt 用 CUDA Graph 捕获整个去噪循环,同等设置比 SGLang/vLLM 快 1.2 到 1.6 倍。需要留意,这些都是单请求峰值而非平均值,NVFP4 也只在 Blackwell 显卡上提供。模型、训练代码、评估流程和推理引擎全部开源,论文在 arXiv 上。来源:Reddit r/LocalLLaMA
今天这几条放在一起看挺有意思:迪士尼在用破产程序给 AI 交易做手术,微软在医疗诊断上放了一个还待验证的大话,而开源社区这边,有人把 16GB 显卡的长上下文极限推了一个量级,有人把 VBIOS 的修改权从签名校验里捞了回来,还有人让扩散语言模型的速度第一次像模像样地逼近自回归方案。大公司的叙事越来越响,开源世界的工程进展却一直很安静地往前拱——作为开发者,后者才是真能落到你机器上的东西。
