今日のポイント
- Character.AI買収 — AI はチャットボットプラットフォームで、今週正式に破産を申請した。
- 医療スーパーAI — ただしいま見えているのは会社側の主張と各メディアの転載見出しが中心だ。
- 16GB の AMD カード — ローカル LLM 界にかなりハードコアな移植が現れた。
- BIOS を書き込まなくても変えられる — 開発者 Panchovix は同時に三つのオープンソースツールを公開した。
咸話咸説の毎日AIブレンド、Robin がお届けします。
Disney は Character.AI を買収し、訴訟は門の外に残す
Character.AI はチャットボットプラットフォームで、今週正式に破産を申請した。製品の凋落を物語る話のように聞こえるが、裁判所提出文書が描く筋書きは遥かに複雑だ。実際にはこれは Disney の取引の重要な一環である。破産の手続を通じて Disney は Character.AI の大半の従業員を引きずって受け入れた。ちょうど退任した CEO の Karandeep Anand も含まれ、同学社の技術資産の大部分も獲得する可能性がある。同時に、重い法的包袱は回避した。過去数年、Character.AI はチャットボットの安全性の問題で複数の個人提訴を受け、複数の規制当局による調査も受けている。破産に関する声明で、新任 CEO は人身損害賠償の請求者と調査を行った州との「双方合意の解決」に到達し、株主のために資産価値を守る、と目標を説明した。取引の構造で最も巧みなのは、Character.AI の残存実体が、まだ終わっていない訴訟を背負い続ける点にある。出典：Ars Technica
Microsoft「医療スーパーインテリジェンス」：主張は大きい、証拠は追いついていない
Microsoftの幹部 Mustafa Suleyman は、難病例の診断でMicrosoftの AI は医師に匹敵あるいは上回ると言い、この目標を「医療スーパーインテリジェンス」と呼んだ。ただしいま見えているのは会社側の主張と各メディアの転載見出しが中心だ。TechCrunch、The Verge、Gizmodo が報じたが、素材には具体的な課題、評価用データセット、サンプルサイズ、医師との比較、第三者検証がない。診断能力が本当に医師を上回るのか否かは、いまだ検証を要する比較問題であって、証明済みの突破ではない。出典：Google News
16GB の AMD カード：Qwen3-27B の 262k コンテキストを走り切る
ローカル LLM 界にかなりハードコアな移植が現れた。開発者が llama.cpp の適応的 KV キャッシュのストリーミングを NVIDIA/CUDA から AMD の ROCm/HIP へ移し、Qwen3-27B が 16GB の RX 9070 XT 単体で 262,144 token のフルコンテキストウィンドウを走破できるようにした。手法は、約 7.4GB になる完全な KV キャッシュをホストメモリに置き、PCIe 経由で非同期ストリーミングして GPU 演算と重ね合わせるものだ。重みは量子化と語彙トリミングで約 13.6GB に圧縮されている。実測では、1k から 4k のコンテキストでのデコード速度は 71.8 から 86.5 token/秒で、コンテキストを 262k まで広げると約 31 まで落ちる。遅くはなるが、かつて 65k で VRAM を使い切っていたフレームワークには、桁違いの拡張だ。面白いディテールは、消費電力を既定の 304W から 231W へ下げても、プリフィル遅延の損失は約 3.6% に収まるということだ。コードは github.com/achyudh/llama.cpp の feature/adaptive-kv-stream-rocm ブランチにある。出典：Reddit r/LocalLLaMA
BIOS を書き込まなくても変えられる：RTX 30/40/50 向けクロスプラットフォーム VBIOS ツール
開発者 Panchovix は同時に三つのオープンソースツールを公開した。Linux と Windows を跨ぐ VBIOS エディタ、Windows レジストリを基盤とするカスタム VBIOS ローダー、そして Fedora ベースの Linux ローダーだ。後者はメモリ上の GSP ファームウェアを書き換えて起動し、独立した GRUB ブートエントリを生成し、カーネル更新のたびに自動再構築する。功耗上限、電圧、NVVDD/MSVDD オフセット、ファン特性など多数の調整項目を扱える。RTX 5090 の功耗上限は 400W 未満まで絞れる——ただし物理 VBIOS には一切触れないので、NVIDIA の falcon 署名検証を回避できる。経緯はこうだ。NVIDIA は Maxwell 世代から GPU に Falcon セキュリティプロセッサーを組み込みファームウェア署名を確認してきたため、カスタム VBIOS を直接書き込む経路は十年近く実質的に閉じていた。複数 GPU 推論を 1 枚カードの電力予算で回す利用者にとって、これはオーバークロックとロック解除の自由をハードウェア破壊のリスクなく取り戻せることを意味する。著者自身のテストは RTX 5090/5080/4090 といった mainstream カードを対象としているが、ノート PC の Ada はまだ変更できない。出典：Reddit r/LocalLLaMA
Tyger：0.6B の小さなモデルがフルデュプレックス音声エージェントの「話すタイミング」を管理する
オープンソース界が Tyger のオープンウェイトを公開した。NVIDIA Nemotron 3.5 ASR Streaming 0.6B の基盤の上に 1400 万パラメータの因果 GRU を積層したもので、音声エージェントのフルデュプレックス制御を専門に担当する。80 ミリ秒ごとに先読みなしで三つの状態——ユーザーの発声が終わった、ユーザーが割り込んだので止める、エージェントが「嗯」「本当に？」といった相づちを返す——を出力し、マイクとエージェント自身の再生音を同時に聞いて、エコーをユーザーの入力と取り違えないようにする。配套の tyger-s2s 音声スタックは Gemma 4 E4B FP8 と VoxCPM2 を統合し、RTX 5090 上でユーザーの発声終了から最初の音声出力まで約 0.7 秒で到達し、デフォルトでは完全ローカル動作なので音声は自分のマシンから出ない。代償も小さくない。スタック全体で 28GB の VRAM が必要で、FP32 のみ対応，而且 5090 でのみ検証されている。出典：Reddit r/LocalLLaMA
ORL：拡散言語モデルが 5090 1 枚で 2,788 token/秒に到達
研究チームが ORL（On-Policy Residual Learning）を公開した。拡散言語モデル向けの残差学習手法で、自前の推論エンジン dlmrt を伴う。数字は鮮やかだ。ORL を適用した NVFP4 量子化版 LLaDA-2.1-mini は、単一 RTX 5090 で 2,788 token/秒を達成。QwenDLM-4B は約 6.9 倍のエンドツーエンドスループット向上を得て、HumanEval pass@1 は 82.9% から 89.6% に上がった。ポストトレーニングには自己生成 4.2M token と H100 36 時間しか使っていない。dlmrt は CUDA Graph で去劣化ループ全体をキャプチャし、同条件では SGLang/vLLM より 1.2 から 1.6 倍速い。ただしこれらは単一リクエストのピークであって平均ではないこと、NVFP4 は Blackwell カード専用であることを意識しておく必要がある。モデル、訓練コード、評価手順、推論エンジンはすべてオープンソースで、論文は arXiv にある。出典：Reddit r/LocalLLaMA
今日の条目を並べてみると面白い。Disney は破産手続を取引のメスとして使い、Microsoft は医療診断でまだ検証待ちの大仰な主張を並べた。そしてオープンソース側では、16GB グラフィックスカードの長コンテキスト限界を桁違いに押し上げた人がいた。署名検証から VBIOS 変更の権利を取り戻した人がいた。拡散言語モデルの速度を初めて自己回帰方式にかなり近い水準まで引き上げた人がいた。大手企業の語りは次第に高くなっていく一方、オープンソース世界の技術進展は静かに前進し続けている。開発者にとって、後者こそ本当に自分のマシンに落ちるものなのだろう。