每日AI乱炖 · 2026-11-17:OpenAI、Amazon

OpenAI 推出 GPT‑6.2 Astra 与 Sol,并把 Sol 定为日常默认模型;Amazon 则用 AI 驱动的巡逻无人机把摄像头搬上移动平台。

每日AI乱炖 · 2026-11-17:OpenAI、Amazon

今日要点

  • OpenAI — OpenAI 推出 GPT‑6.2 Astra 与 Sol,并把 Sol 定为日常默认模型;Amazon 则用 AI 驱动的巡逻无人机把摄像头搬上移动平台。
  • Amazon — 按亚马逊 11 月 10 日发布的公告,Ring Rover Cam 和 Ring Drone Cam 分别预计从 2026 年底和 2027 年初开始交付客户。

这里是由Robin为你带来的咸话咸说之每日AI乱炖。

OpenAI 发布 GPT‑6.2 Astra 与 Sol,Sol 定为日常工作默认档

OpenAI 推出 GPT‑6.2 Astra 与 Sol,并把 Sol 定为日常默认模型;Amazon 则用 AI 驱动的巡逻无人机把摄像头搬上移动平台。官方把 Sol 定位成日常工作的默认模型,覆盖专业级内容产出、计算机操作、交互式网页设计,以及代码和网络安全这些能力;Astra 与 Sol 的具体分工、价格和可用性,现有材料没有展开,暂时只能确认 Sol 的官方定位。 OpenAI 这次的重点不在跑分,而在每天都要用的那一档;Amazon 这边则是会移动的摄像头。

价格上,GPT‑6.2 Sol 沿用 GPT‑6.1 Sol 的 token 价格,OpenAI 称两款新模型能以每项任务成本的一小部分接近或超过其他领先模型。这也是开发者做升级评估时最实在的一点:吸引力主要在成本效率,基准上的优势能不能落到具体工作流,还得按自己的任务验证。材料里没有足够的基准测试细节,所以它们是否实现了显著跃升,暂时无法验证,实际任务表现和办公文档生成质量仍是主要疑问。

社区反馈分成两路。一部分人认为,如果相关基准成立,两款的性价比可能很高;另一部分人对官方展示的幻灯片、表格和备忘录很不客气,有用户直言质量不及 GPT‑5.6 Sol,甚至早于 Opus 4.5 的成果。也有人表示 Sol 已经是自己的日常工作主力,同时期待 Luna 更新,并建议补充 Gemini 4 Carbon 的科学基准成绩。讨论还延伸到发布时机、与其他模型的横向比较,以及 Anthropic 接下来会怎么回应。

把新版本直接放进最高频的位置,意味着厂商愿意拿稳定性和口碑去赌,这比任何单项成绩都更能说明信心。价格没有随之上调,压力就转到真实任务里的文档质量和长流程可靠性上,官方演示被社区嫌弃,恰好点在这里。接下来要看两件事:官方会不会补上可核的基准与可用性说明,对手会不会跟着调整自己的档位。

来源:hackernews

Amazon 发布 Ring 巡逻无人机与机器人,2026 年底起陆续交付

下一条,硬件把摄像头从墙上挪到了地上和空中。

亚马逊旗下的 Ring 把摄像头搬上了移动平台。按亚马逊 11 月 10 日发布的公告,Ring Rover Cam 和 Ring Drone Cam 分别预计从 2026 年底和 2027 年初开始交付客户。亚马逊押注的是,不少 Ring 用户会愿意让一台带 AI 的安防无人机和机器人在家里或者办公室里巡逻。

两台设备都靠一套叫 AI Pilot 的系统工作:它用设备自身的摄像头,配合专门的视觉模型、设备端传感器和云端处理来规划巡逻路线,并在移动中自主绕过家具这类障碍物。同一套系统也会把客户的住所或者办公场所画成数字化的平面图。建图这一步,发生在客户抱着 Ring 无人机走过室内空间之后,或者发生在让 Ring Rover 自主探索一阵之后。

这类产品也一定会让隐私担忧再升级一轮——此前亚马逊试图推广会飞的安防摄像头时,类似质疑已经出现过一次。

安防设备一旦开始移动,采集范围就从固定视角变成整个空间,这比多加一个功能更能改变用户和厂商之间的权力关系。设备要靠自己的摄像头建图,意味着住宅内部的结构会被搬进云端流程,隐私争议之所以反复出现,是因为它和产品价值本来就是同一件事。接下来看交付节奏,以及厂商会不会把建图和存储的边界讲清楚。

来源:aihot

Hugging Face 把语言模型请求的路由交给 OpenRouter

换一条赛道,看推理请求在服务商之间怎么被分配。

Hugging Face 在 2026 年 11 月 16 日宣布,Inference Providers 里的语言模型请求不再走它自己的路由器,改由 OpenRouter 统一调度。OpenRouter 会按实时价格、速度和可靠性信号,为每一次调用挑供应商,首选供应商失败时自动重试;用户仍然可以在模型 ID 后面追加 :fastest、:cheapest 或者具体供应商名字,把路由策略固定下来。

对调用方来说,账面上的变化有两面。现有的 Hugging Face token 继续能用,官方称不在供应商价格之上加价;但语言模型请求不再支持自定义供应商的 API Key,相关费用统一记到 Hugging Face 账户上。这次调整只覆盖语言模型,图像、视频和音频生成还是走原来的 Inference Providers 路径。

公告引用的数字是:OpenRouter 目前每月处理超过 800 万亿个 token,覆盖 600 多个模型和 80 多家供应商;开放权重模型占的 token 比例,从 2025 年 10 月的 26.8% 升到 2026 年 9 月底的 71.7%,平均成本约为闭源模型的四分之一。

需要说明一点:这条消息来自 Reddit 对公告的二手转述,具体实现和商业影响,还是应当以 Hugging Face 与 OpenRouter 的正式说明为准。

把选路交给第三方,等于承认价格和可用性每天都在变,一家平台自己盯着调度很难跟上。对调用方来说,麻烦从挑供应商变成读账单:密钥的用法变了,开销集中到一个账户,排障却要跨两个平台找原因。这条消息本身是二手转述,正式说明和实际行为之间的差距,值得盯一段时间。做多模型编排的产品,选路质量会直接落在成本和失败率上,这一点比公告里的份额更实际。

来源:reddit

OVH 公布 Olala mini 7A1B:70 亿参数,每次推理只激活 10 亿

回到模型侧,一家欧洲云厂商拿出了自己的开源权重。

OVH 宣布推出 Olala mini 7A1B,并把模型细节一起放了出来。这是一款稀疏混合专家模型,总参数量 70 亿,每次推理只激活 10 亿参数;每层有 256 个专家,注意力部分把 Differential-TPA 和 Mamba-3 混在一起设计,权重以 BF16 格式提供,当前上下文窗口为 32,000 tokens。

性能方面,OVH 称它塞得进显存低至 8 GB 的 GPU,在 RTX A4500 上跑到每秒 160 tokens,只用普通 CPU 也有每秒 50 tokens。许可证定了 Apache 2.0,计划在 Hugging Face 上开源。

关键在混合专家的算法:参数摊在多个专家里,每个 token 只走其中少数几个,所以总参数量不等于每次推理真正动用的参数量,7B 加 1B 激活说的正是这件事,那套混合注意力设计想兼顾的是长上下文和推理效率。不过这些吞吐数字都来自发布方,既没有详细的评测方法,也还没有独立验证,实际硬件上跑到什么程度得自己测。

稀疏架构真正卖的不是参数量,而是显存和延迟之间的兑换比例,能塞进消费级显卡这件事,对自建团队的意义大过多数的榜单名次。混合注意力同时照顾长上下文和推理速度,方向不算新,难的是把两套机制调到稳定。所有吞吐数字都出自发布方,独立复测之前只能当作上限看。对小团队来说,能不能在一台机器上跑起来,往往比支持多少种语言更有决定权。

来源:reddit

llama.cpp 轮换 K/V 读取顺序,长上下文吞吐最高提升 1.41 倍

再往下看一条来自本地推理社区的改动,它只动了一处读取顺序。

llama.cpp 的 PR #32407 由 gaugarg-nv 提交,做的事只有一件:轮换 K/V 缓存的读取顺序,让 GPU 上的 L2 缓存局部性更好,从而加快长上下文提示的处理。

数字来自一块 RTX 5090,模型是 qwen35 27B Q4_K - Medium。上下文深度 131,072 时,吞吐量从每秒 1,290.11 tokens 提到每秒 1,822.36 tokens,相当于 1.41 倍;65,536 和 32,768 两档的增幅分别约为 1.25 倍和 1.07 倍;16,384 及以下基本持平,约 1.00 倍,个别档位 1.01 倍。

长上下文受益更多的原因在机制上:KV 缓存存着已处理上下文的注意力键和值,生成阶段可以复用前缀计算,不必把整个输入重新算一遍;但预填充阶段要反复读取这份不断变长的缓存,读取顺序不好,L2 缓存的命中率就掉下来,长上下文的成本被放大。这次改的是读取顺序,所以收益随上下文长度上升,针对的是长提示词处理,而不是短上下文或者逐 token 生成。

这个 PR 目前仍在审查中。而且数据只来自单块 RTX 5090、单一模型配置、由提交者本人跑出的基准,其他硬件、模型和量化组合的实际收益,以及更广泛的兼容性,都还需要更多环境验证。

这类改动的价值在于没有增加任何计算,只是让已有数据更靠近缓存,长上下文变慢的老毛病,往往就藏在这种被忽略的访问模式里。收益随输入变长而放大,也说明日常短对话几乎感受不到变化。它现在还在审查阶段,单卡单模型跑出来的数字要打折听,但方向对自建推理的成本结构是有利的。

来源:reddit

Clover 2 用路由器为每个词元挑一个 LoRA 专家

组合模型的方式也在变,这次是基础模型加一组随时可换的模块。

Clover 2 团队放出了一个 27.8B 的稠密基础模型,外加七个独立的 LoRA 适配器,分别对应角色扮演、通用助手、安全、数学、长文档、效率和知识。推理时由一个训练过的路由器逐词元挑专家,遇到空专家槽位就回退到原始基础模型,而不是把适配器静态合并进权重。基础模型、标准 PEFT 格式的适配器、路由器和 vLLM 插件都一起公开了,部署时能保留真实的逐词元路由行为。

LoRA 的做法是在基础模型旁边挂一份单独训练的轻量模块来改行为,vLLM 这类推理引擎可以加载;把多个适配器合并进权重属于静态处理,不会在每个 token 重新选。Clover 2 就是在 27.8B 稠密模型上摆七个按 token 路由的专家,并留了一条没有合适专家时回到基础模型的路。

团队一方的测试称,相比未改动的基础模型,这套系统在 GSM8K、MATH-500 和 GSM-Hard 上提升比较明显,LongBench-v2 上也有提升,还减少了创意写作里那股通用的 AI 写作腔。具体数字没有披露,也缺少独立验证。自托管目前主推 vLLM,还没有 GGUF;因为是混合注意力架构,llama.cpp 的支持仍处在早期阶段。

把适配器留在权重之外、按词元去挑,等于承认一个模型很难同时擅长角色扮演和数学,好处是不至于为了新能力把原有本事改坏。代价是部署变复杂,推理引擎和量化格式的支持成了真正的门槛。团队自己的评测没有给出具体数字,在独立复现之前,先看它能不能在常见引擎里跑稳。如果这条路走通,更新能力的方式会从重训转向换模块,但现在还只有一家在做配套。

来源:reddit

Simon Willison 重写 Datasette Lite,浏览器里跑整套服务端体验

还有一个工具向的更新,说明浏览器能承担的后端职责比大多数人以为的多。

Simon Willison 发布了 Datasette Lite 的完整重写版。新版靠 WebAssembly、Pyodide 和 service workers,把大部分 Datasette 服务端体验直接搬进浏览器;他说新版已经几乎和真正跑在服务器上的版本分辨不出来。

用法是把参数精心构造进 lite.datasette.io 的 URL:可以加载 SQLite 数据库、JSON、CSV 或者 SQL 脚本,可以挑从 PyPI 发布的 Datasette 版本,也可以挑 GitHub 仓库里某个具体的提交、标签或分支,还能从一百多个 SQLite 版本里选。插件同样装得上,从 PyPI 或 wheel 文件安装多个 Datasette 插件,包括带 JavaScript 可视化功能的那些。示例链接装了 datasette-maplibre、载入远程数据库和 metadata.yml,跑出了 GeoJSON 地图、筛选控件和数据表。前提是远程文件所在地址要提供开放的 CORS 响应头。这样一来,分享功能演示、复现缺陷都不必再起一个完整的 Datasette 服务器。

技术上的差别在请求怎么走。Pyodide 是把 Python 编译成 WebAssembly、在浏览器里运行的发行版,Datasette Lite 用它执行原本属于服务器端的 Datasette。2022 年的初版用 Web Worker 模拟请求,再把生成的 HTML 用 innerHTML 注入,结果依赖 JavaScript 的功能跑不起来。这次重写改用 Service Worker 处理请求,浏览器端的运行方式因此更接近服务端应用。

把服务端搬进浏览器,受益最大的是文档和演示,分享一个链接就能复现问题,不必先准备环境。这类项目同时也是在试探 WebAssembly 的边界,依赖和插件只要有一个环节不兼容,整条链路就走不通。限制也很清楚,远程数据源必须放开跨域头,否则这个方向什么都拿不到。对数据类工具来说,这种分发方式真正省掉的是服务端的信任成本。

来源:rss

今天的几条消息都指向同一件事:能力在往上涨,成本和边界的账要自己算。以上是今天的分享,我们下期再聊。

🎧 本期已同步制作为播客节目,点击收听《每日AI乱炖 · 2026-11-17》。

收听当日节目

打开音频文件