どうもー、おはようございます。マイクです。
今日も「zenncast」お届けしていきます。
今日は二〇二六年八月三日、月曜日の朝七時ということで、通勤・通学中の方も、これから一日が始まるよって方も、一緒にのんびりテックな話題でウォーミングアップしていきましょう。
この番組では、Zennで話題になっているトレンド記事を、ラジオ感覚でざっくりキャッチアップできるようにご紹介していきます。
さてさて、今日はお便りコーナーはお休みで、その分しっかりと記事を掘っていこうと思います。
きょう紹介する記事は、全部で五本です。
大規模言語モデルのデプロイの話から、音声で動くタスク管理、エージェント設定の同期ツール、超巨大モデルを家庭用（？）マシンで動かす工夫、そしてリバースエンジニアリング入門まで、かなり濃いラインナップになっています。
それではさっそく、一本目からいきましょう。
まず一つ目は、Moonshot AI の超大型 Mixture-of-Experts モデル「Kimi-K3」を、NVIDIA の Bサンビャク、八枚刺しの一ノードに、デイゼロから実際に載せて動かしてみた、という検証レポートの記事です。
この Kimi-K3、総パラメータ数がなんと二・八兆という、とんでもないサイズなんですが、量子化認識学習済みの「エムエックスエフピー・フォー」という形式のウェイトを使うことで、モデル全体が約一・六テラバイトに収まっています。
このおかげで、追加の量子化処理をしなくても、そのまま Bサンビャク八枚構成のノードにデプロイできた、というのが大きなポイントになっています。
推論エンジンとしては、KVキャッシュを GPU 間で分散できる「エスジーラング」、SGLang を採用していて、KDA と MLA を組み合わせたハイブリッド構成に合わせて、メモリ配分をかなり細かく調整しているそうです。
この記事の中では、「mamba-full-memory-ratio」という設定値を大きくしすぎた結果、実効コンテキスト長が約五十万トークンにとどまってしまった、という具体的なトラブルも紹介されています。
こういうところから、超巨大モデルを運用するうえでは、メモリまわりのチューニングがいかに重要か、というのが実感を持って伝わってきます。
ベンチマークの結果としては、同時リクエスト数が三十件程度まではスループットが伸び続けて、従来計測してきた、約百ビリオン、つまり百億パラメータ級のモデルと同程度の速度が出ていることを確認したそうです。
面白いのが、単なるベンチマークだけでなく、Aスター探索の経路を可視化するツールを実装させる、という実タスクでも評価しているところで、一発で動く高品質なコードを生成してくれた、という手応えが書かれています。
さらに、ユーザーインターフェースの作り込みの提案に関しても、他のモデルより頭一つ抜けている印象だったそうで、「ただ大きいだけじゃなくて、ちゃんと使えるモデルだな」という感触が伝わる内容になっていました。
超巨大モデルを、一ノード・八枚構成でどこまで回せるのか、現場視点で気になっている方には、かなり参考になる記事です。
。。。。
続いて二つ目の記事は、「タスク増えすぎて、頭とメモ帳だけじゃもうムリだ！」という筆者が、音声入力だけでタスクが登録されて、毎朝自動で進捗を教えてくれる、ローカルタスク管理アプリを設計した、というお話です。
このシステムの肝になっているのが、Claude Code の「スラッシュ・ボイス」、`/voice` 機能です。
マイクに向かってしゃべると、それがテキストに変換されて、そのまま `tasksドットエムディー` という一つのマークダウンファイルに、タスクとしてどんどん追記されていく仕組みになっています。
つまり、「今日中に資料のドラフト書く」とか「木曜日までにサーバー更新」と話すだけで、ローカルのタスクファイルにちゃんと残る、というわけですね。
さらに、Windows の通知機能と、タスクスケジューラーをうまく組み合わせていて、毎朝九時になると、期限が近いタスクと、期限が設定されていない未完了タスクを、最大十件までトースト通知でポンっと表示してくれます。
「そろそろこれやらないと危ないよ」「締め切り決めてないタスク、ほったらかしになってない？」みたいな感じで、自動でリマインドしてくれるイメージですね。
実装面では、`tasksドットエムディー` をかなり厳密に扱っていて、共通のパーサを用意してフォーマットをきちんと決めているほか、Claude Code 側から実行を許可するコマンドも、最小限のホワイトリストに絞り込んでいます。
これによって、誤操作でファイルを壊してしまったり、意図しないコマンドが走ってしまったりするリスクを下げている、ということですね。
今後の課題としては、アプリの起動の体感速度をもっと速くしたい、というパフォーマンス面の改善と、`tasksドットエムディー` をクラウドなどに自動バックアップする仕組みを整えること、こういったポイントが挙げられていました。
音声でサクッとタスクを投げて、朝まとめて「今日なにやるんだっけ？」を確認したい方には、かなり刺さる内容だと思います。
。。。。
三つ目の記事は、Claude Code と Codex を両方使っている人なら「うわ、それ分かる」となりそうな話題です。
同じプロジェクトを、Anthropic 側の Claude Code と、OpenAI 側の Codex で共用していると、`AGENTSドットエムディー` とか `SKILLS` ディレクトリ、それから MCP の設定なんかが、どっちか片方だけ更新されて、だんだん食い違ってくる、という問題が出がちなんですよね。
これまでも同期ツールはいくつかあったものの、やっていることは、ただのコピーだったり、シンボリックリンクを張るだけだったりで、「両方が別々に進化するかもしれない」という前提にはあまり対応できていなかった、と。
その結果、実運用では「こっち直したのに、あっち反映されてないじゃん」みたいな、ちょっとしたストレスが積もっていく、という状況があったそうです。
この記事では、そのあたりを解消するために作られた、設定ファイルを自動同期する CLI ツール、「エージェントズ・シンク」、`agents-sync` と、常駐スクリプトが紹介されています。
仕組みとしては、まず形式がまったく同じファイルは、シンボリックリンクで一本化してしまいます。
一方で、JSON と TOML のように、形式が違うファイルについては、中立的な中間表現に変換してから、差分を比較して、マージしていくようになっています。
どちらの変更を優先するか、つまり「どっちが正か」を決めるときには、前回同期したときの指紋情報、いわゆるハッシュのようなものを参照して、「どっちがあとから変わったか」を判断してくれます。
もし両方が変わっていた場合は、自動では決めずに、人間に「どっち採用する？」と選ばせる設計になっていて、ここがけっこう現実的でいいな、というポイントです。
さらに、すべての設定を一律に同期してしまうのではなくて、「SKILLS だけ同期する」とか「MCP 設定だけ同期する」といったように、同期対象を細かく選べるようになっています。
これは、Anthropic と OpenAI で、推奨されるプロンプトの書き方や、エージェントの設計思想がけっこう違っていたりするので、「ぜんぶ同じにしたいわけじゃない」というニーズがあるからなんですね。
つまり、共通化したい部分はちゃんと共有しつつ、プラットフォームごとに最適化したいところは分けて運用できる、そこをうまく切り分けるためのツールになっています。
複数のエージェント環境を行き来している方や、チームで設定を回している方には、とても実用的な内容だと思います。
。。。。
四つ目の記事は、さきほど一つ目でも名前が出てきた Kimi K3 を、今度はまったく別アプローチで「めちゃくちゃ軽くして、手元マシンで動かしちゃおう」という挑戦の話です。
筆者の方は、この巨大な Mixture-of-Experts モデルを、「ワンビット量子化」と「エキスパートの枝刈り」を組み合わせて、なんと四百四十一ギガバイトまで削り込んでいます。
その結果、メモリ五百十二ギガバイトの Mac Studio 一台で、実用レベルで動かせるようになった、というのがこの記事のハイライトです。
やっていることをもう少し分解すると、多言語対応や日本語など、「コード生成にはあまり関係ないエキスパート」を、REAP という手法を使って選別して、思い切って削っています。
一方で、英語とコードの領域については、「どのエキスパートがよく使われているか」をちゃんと測りながら、重要なものだけを残すかたちで調整していて、
最終的には六百四十個のエキスパートだけを残しつつ、モデル全体としては元の約九十三・五パーセントの「重要度」を保つように設計している、というのがポイントです。
枝刈りしたあとのモデルは、`llamaドットcpp` の Unsloth フォーク経由で、「Kimi Code CLI」に接続して運用しています。
性能評価には、SWE-Lancer という実際のソフトウェア開発タスクを使っていて、八問中五問に正解し、ドル換算で三千五百ドルを獲得した、という、かなり実戦的な結果が出ています。
そのなかには、以前使っていた Kimi Kツー・テン、二ビット量子化版では解けなかった問題が、二問含まれていたそうで、「強い圧縮をかけても、なお Kツー・テンを上回る可能性がある」という示唆が書かれていました。
さらに筆者は、この仕組みを応用すれば、日本語と、特定の業界――たとえばマーケティング業界の文書――を校正用データとして使って、その分野に特化した軽量モデルを理論上作れるのではないか、とも述べています。
ただしその場合は、どのトークンをどれぐらいの比率で含めるか、といったデータ設計が非常に重要になること、そして一度削ってしまった能力は、基本的には完全に失われるので、「なんでもできる一個のモデル」ではなく、用途ごとに別モデルを用意する必要が出てくることにも触れています。
将来的には、プロンプトの内容に応じて、どのエキスパートを使うか切り替えるような構想にも言及していて、大規模モデルの「ダイエット」と「専門特化」、両方に興味がある方には、かなりワクワクする内容になっています。
。。。。
そして五つ目、最後にご紹介するのは、Reversing、つまり実行ファイルの解析をこれから始めたい人向けに書かれた、アセンブリとデバッガの入門記事です。
まず、開発環境として Google Cloud Shell を使っていて、ここにデバッガやコンパイラを自動でセットアップする方法から丁寧に説明が始まります。
そのうえで、xエイティシックス・ろくじゅうよんビット、x八六・ろくじゅうよんアーキテクチャのアセンブリについて、レジスタの役割や、よく使う命令、メモリ参照の仕組みを、具体的なコード例とともに解説していきます。
次のステップとして、C 言語で書かれたプログラムを逆アセンブルして、「関数呼び出し」がアセンブリ上でどう見えるのか、「引数」や「戻り値」はレジスタやスタック上でどう扱われているのか、といったポイントを、実際の出力を追いかけながら読み解いていきます。
そのあと、自分でアセンブリコードを書いてビルドし、システムコール、`syscall` を使って文字列を出力したり、ループ処理を行ったりする流れを、手を動かしながら体験できるようになっています。
さらに、GDB と Pwndbg を組み合わせたデバッグ環境の使い方も紹介されていて、ブレークポイントを設定して、実行を一行ずつ止めながら、レジスタやスタックの中身を確認していく手順が解説されています。
「本当に四たす三が計算されているのか？」といった、ごくシンプルな処理を題材に、機械語レベルで何が起きているのかを、実際に目で確かめる練習ができるようになっているんですね。
最後のまとめとしては、Reversing の基本フロー――まず実行して挙動を観察してから、逆アセンブルして静的解析を行い、さらにデバッガで動的解析をして条件を特定し、最終的にフラグを取得する――この流れが整理されています。
ポイントは、「静的に読む力」と「デバッガで動かしながら確かめる力」、この両方をバランスよく育てる構成になっていることで、CTF を始めたい方や、バイナリ解析に興味がある方には、入門書としてちょうどいい記事になっています。
。。。。
というわけで、きょうの「zenncast」は、全部で五本の記事をご紹介してきました。
ざっとおさらいすると、
まずは、二・八兆パラメータの Kimi-K3 を NVIDIA Bサンビャク八枚の一ノードにデイゼロで載せて、メモリチューニングのコツや、実際のコード生成性能まで検証したレポート。
二つ目に、Claude Code の `/voice` 機能と `tasksドットエムディー` だけで、音声入力からタスク登録して、毎朝九時にトースト通知で進捗を教えてくれる、ローカルタスク管理アプリの話。
三つ目は、Claude Code と Codex の設定ファイルを、シンボリックリンクや中立フォーマット変換で賢く同期する CLI、「agents-sync」と常駐スクリプトの紹介。
四つ目に、Kimi K3 をワンビット量子化とエキスパート枝刈りで四百四十一ギガまで削って、Mac Studio 一台で実用運用しつつ、SWE-Lancer で既存モデル超えの手応えを得た、という圧縮テクニック。
そして最後に、Google Cloud Shell と GDB＋Pwndbg を使って、アセンブリの基礎から Reversing の一連の流れまで体験できる、リバースエンジニアリング入門の記事でした。
それぞれの詳しい内容や、記事本編へのアクセス情報は、番組のショーノートにまとめてありますので、「気になる！」というトピックがあった方は、ぜひそちらもチェックしてみてください。
この「zenncast」では、番組の感想や、「こんなテーマ取り上げてほしい」といったリクエストも募集しています。
ラジオネームを添えて、気軽にメッセージを送っていただけると、とても励みになります。
それでは、そろそろお時間です。
きょうも一日、ゆるくたのしく、そしてちょっとだけテックに詳しくなれる一日にしていきましょう。
お相手はマイクでした。次回の「zenncast」で、またお会いしましょう。