咸話咸説のデイリーAIシチュー、Robin がお届けします。
今日は「Small」という名に「小」の字を抱えたモデルから始め、Mixture of Experts(MoE)がどう訓練されるのか、大規模モデルをどう Windows PC に載せるのか、そしてコーディングアシスタントがネットワークリクエストを送るとき、何を一緒に持ち出しているのかを見ていきます。最後に、視線は物理学の証明に AI が参加する試みへ。
Inkling 2 Small:「小」のモデルが5940億パラメータを抱える
Inkling が Inkling 2 Small を発表しました。このマルチモーダルな混合エキスパート(MoE)モデルは、総パラメータが5940億に達し、推論1回ごとに170億パラメータを活性化します。画像入力を受け付け、推論時に投入する計算量を調整することもできます。「Small」という名は、そのアーキテクチャと一緒に読む必要があります。モデルは入力を選び出された一部のエキスパートに渡し、各ステップで全パラメータを動員する必要がないため、同容量のデンスモデルに比べて計算コストを減らせるのです。
これまでの Inkling Small(総パラメータ2760億、活性化120億)と比べると、今回の更新はモデル容量を拡大し、画像対応と推理投入量の調整を加えました。発表によれば、新モデルは Artificial Analysis Intelligence Index で31点を取得し、エージェント型コーディング、ビジョン、知的労働、推論の各面で向上を示したといいます。Inkling はこれらの変化を、より効率的な事前学習と、大規模かつ統一的な強化学習の実施に帰しています。出典:Inkling 2 Small 発表ポスト
開発者が今すぐ使える入り口は Tinker です。Playground で利用できるのに加え、サンプリングとファインチューニングも可能です。重みは現時点でクローズドのままです。Inkling は、外部の安全性評価とレッドチーム試験の完了を条件に、来週 Apache 2.0 ライセンスで完全な重みとダウンロード可能なチェックポイントを公開する計画だといいます。サービスはすでに開放されており、重みのダウンロードは条件付きの公開計画のままです。
エキスパートはどう分担する?MoE ハンドブックが訓練現場にレンズを向ける
「1回ごとに一部のパラメータしか活性化しない」を見たあとの疑問は、誰がエキスパートを選ぶのか、タスク配分の偏りをどう防ぐのかです。Hugging Face 作者 Nouamane 氏が顔出した Megatron-LM 実践ハンドブックは、デンスモデル訓練から MoE へ移行する開発者に向け、ルーティング、負荷分散、エキスパートの配置を実践可能なエンジニアリング工程へと編み込みます。
ハンドブックは、テストハードウェアの計測、イメージ作成、デンスモデル基線の構築から始まり、初めてのシングルノード MoE の実行へと読者を誘導します。この順序は訓練にコントロール群を与えます。基線を築いてから、エキスパートネットワークの分担へ入るのです。後続の章では分散システムの問題、モデルサービング、強化学習にも触れ、GPU なしでも学習できます。出典:Megatron-LM MoE 訓練ハンドブック発表ポスト
作者によれば、指導の源泉は CSCS の Alps クラスタでの約80万 GH200 GPU 時間に及ぶ MoE 訓練経験で、単位は積算 GPU 時間です。内容には55枚の図、実行可能なスクリプト、集約済みの Megatron-LM 推奨パラメータが含まれ、ハンドブックは作者が実際に回した結果と小規模シミュレーション実験とを区別しています。MoE 訓練の設定と障害排查に当たるエンジニアにとって、これらのスクリプトとパラメータは、モデル発表のアーキテクチャ用語を具体的な訓練ステップにつなぎ止めます。
RTX 3090 一枚で DeepSeek を動かす — VRAM の外にもメモリとディスクがいる
訓練クラスタからデスクトップ PC へ視線を戻すと、Delta Inference Engine が v0.93 をリリースしていました。MIT ライセンス、Strata の Xolotl エンジンを基盤とするこの Windows 移植版は、RTX 3090 一枚での DeepSeek-V4.1-Flash-1017 実行サポートを拡張し、64 GB・96 GB・128 GB のメモリ構成をカバーし、新しい Unsloth 量子版をネイティブに読めます。
最も注目を集める数字は、作者自身のテスト機からです:テスト機の目玉は、24 GB VRAMのRTX 3090にi5-13600K、192 GBメモリ、PCIe 4.0 NVMeを組み合わせ、WSLは不使用の構成。この構成で、UD-IQ2_XXS は毎秒41トークンに達し、99問の難問で57問に正解しました。対照の ds4 Q2 は52問、完全モデルは59問です。約180トークンのプロンプトに対し、最初のトークンまでの待ち時間は3.8秒から2.3秒へ下がりました。出典:Delta Inference Engine v0.93 更新ポスト
このローカル運用ルートの鍵は、VRAM・システムメモリ・NVMe ストリーミングにモデルを一緒に担わせることで、モデル全体を VRAM に押し込むことを要求しない点にあります。Windows でネイティブに動作し、OpenAI 互換インターフェースを持つため、Windows ユーザーにこのモデルをローカル実行する道を与えます。ただしリソースの勘定も丸ごと必要です:動作要件は少なくとも64 GB のメモリ、VRAM 12 GB 以上の NVIDIA RTX グラフィックカード、高速 NVMe、そして233〜395 GB のモデル保存領域。毎秒41トークンは、作者の192 GB メモリのテスト機に対応する値で、対応するとされる全構成に短絡的に当てはめられません。AMD グラフィックカードは現時点で非対応で、三四枚以上への拡張では性能が劣ります。
Claude Code メール流出報告、注意をリクエストヘッダーへ引き戻す
モデルが動き出したあと、ツールがどうネットに繋がるかも、利用体験を同じく左右します。ユーザーの報告によれば、Claude Code がアカウントのメールアドレスをサイトへ送っていたといい、一部の評論者は、その後増えたパーソナライズされたスパムとこれを結びつけました。その中の一人は、私人アカウント下でツールが動作していたとき、curl が組織のメールアドレスを運んだと述べています。
問題報告#107757が示す経路:Web検索の際、Claude CodeはユーザーのメールアドレスをUser-Agentヘッダーに書き込む。このフィールドはリクエストを発したクライアントソフトを識別するためのもので、アカウント識別子がそこに入り込むと、リクエストを受けたサイトに見えてしまいます。コーディングアシスタントにとって、これは「身元情報がリクエストとともに外へ出るか」という問いを、HTTP フィールドにまで具体化させます。出典:Claude Code 問題報告#107757
GitHub 問題報告での Contributor の返信によれば、2.1.317 以降のバージョンには cc-plugin-privacy という組み込みモジュールが加わり、決定論的チェックでこの挙動を遮断するといいます。現時点の資料は主に利用者の語りで、技術的再現がなく、メンテナーが問題の全範囲を確認したものもありません。したがってここで言えるのは、ユーザーがメール流出を報告し、対応する防御が議論された、ということまで。パーソナライズスパムとこの挙動の結びつきは、依然として評論者の判断です。
AI が物理学の証明に参加する、着地点は一歩前進
最後は研究の糸口を一つ。公開された証明研究の一群の一歩が、長く続いてきたYang-Millsの問いへ向かう。投稿の著者はこれを、AI が数学の証明から物理へ向かう試みとして論じています。出典:YouTube 関連投稿
この報道の着地点は、AI の証明参加の方向が物理学の問題へ延びたこと。具体的な結果については、資料は「一歩踏み出した」としか言わず、この証明の技術的展開は示されず、添付のテキストも Yang-Mills 理論の説明に入り込んだところで終わっています。本号はここまで:作者は一つの進捗を報告したのであり、この長年の問いが解けたと書くことはできません。
今日のニュースを並べると、モデルのパラメータ表、訓練スクリプト、デスクトップ PC の中のメモリとディスク、そしてネットワークリクエストの中の身元情報が、同じ利用図式の中に入ってきます。Inkling はモデル容量と活性化計算の組み立てを示し、MoE ハンドブックは訓練中のエキスパート分担を展開し、Delta はデプロイを具体的なハードウェアに落とし、Claude Code の報告はツールが送るリクエストに目を配らせるよう促します。研究の側でも、「一歩前進」を正確に言う必要があります。今日のこの鍋、デイリー AI シチューは、こうした具体の細部に沿って、AI がどう訓練され、動き、使われているかを見ていきます。



