Decent Newsroom
Sign In

本日の知見まとめ

By wono April 28, 2026

本日の知見まとめ

1. ローカルLLM環境の全体像

現在のローカルLLM業界は「パーツの組み合わせ」で動いている。

レイヤー 役割 具体例
モデル 思考・推論する脳みそ Qwen3.6-35B-A3B
エンジン モデルをサーバーとして動かす Ollama、LM Studio
エージェント ファイルを読んで手を動かす Cline、Roo Code、Kilo Code

これらが「OpenAI互換API」という共通規格で喋っているため、パーツを自由に組み替えられる。

2. Ollamaの立ち位置

  • インストールしたらPC起動時に自動でバックグラウンド起動、npm run devしっぱなしのイメージ
  • ollama pull = npm install、モデルはファイル単体なので管理がシンプル
  • ollama run モデル名 でそのままチャットもできる
ollama pull qwen3.6:35b-a3b-q4_K_M   # モデル導入
ollama list                            # 一覧確認
ollama rm モデル名                     # 削除
  • LM StudioはGUIで視覚的にわかりやすいが、仕組みが理解できていればOllamaだけで十分

3. Qwen3.6-35B-A3BとVRAMの話

  • A3B = MoE（Mixture of Experts）構造で、35Bあるけど実際に動くのは3Bぶんだけ
  • VRAM 8GBに収まりきらない分はRAM（48GB）にオフロードされる→動くけど純VRAMより少し遅い
  • 2年前は3060 Tiで動かせるまともなモデルは7Bくらいまでだったのが、MoEの登場で35Bクラスが現実的になった

4. モデルのバージョンアップ

OSのアップデートとは違い、自分のタイミングで新しいモデルをpullして切り替えるだけ。

ollama pull qwen3.7:35b-a3b-q4_K_M   # 新モデル導入
ollama rm qwen3.6:35b-a3b-q4_K_M     # 古いモデル削除（任意）
  • 古いモデルは自動で消えないので新旧を並べて比較できる
  • 気に入らなければ即戻し可能

5. Agentの仕組み

Ollamaはテキストを受け取ってテキストを返すだけで、ファイルを見る目も手も持っていない。

ClineなどのAgentが「目と手」を担っていて、裏側はチャットのループの連続。

エージェント → モデル：「このファイルの中身はこれ。次何する？」
モデル → エージェント：「23行目が怪しい。このファイルも見せて」
エージェント → モデル：「そのファイルはこれ」
モデル → エージェント：「原因わかった。こう直して」
エージェント → ファイルを実際に編集
　　　　↑これをずっと繰り返してる

賢いモデルほどループの効率が上がる、エージェントがないとそもそもループが回らない。

6. Cline・Roo Code・Kilo Codeの違い

全部VS Code拡張機能として独立して存在しており、同時インストール・同時設定が可能。

ツール スタイル 向いている場面
Cline 毎回確認・丁寧 初心者・何やってるか把握したい
Roo Code モード分け・自律的 大きいプロジェクト・自動化重視
Kilo Code いいとこ取り＋補完 バランス重視

全部に同じBase URLとモデル名を設定しておけばいつでも使い分け可能。ブランチを分けて同じ指示を出し、出力を比較するという使い方もできる。

7. Tailscale連携でリモート使用

自宅WindowsのOllamaに外出先のMacBookからアクセスできる。

MacBook（Cline） → Tailscale → 自宅Windows（Ollama）

Windows側の設定（1回だけ）

  • 環境変数に OLLAMA_HOST=0.0.0.0 を追加

MacBook側の設定

  • ClineのBase URLを http://[WindowsのTailscale IP]:11434/v1 に設定

ラズパイもTailscaleに繋がっているなら、ラズパイでbot常駐・重い推論はWindowsという役割分担も自然にできる。

8. 夢の構成

Nostr network
　↓
ラズパイ（bot常駐・軽い処理）
　↓ Tailscale経由
自宅Windows（Ollama＋Qwen3.6）
　↓
返答生成して投稿

MacBook Neo（5月中旬到着予定）が来たら、VS Code＋Cline／Roo Codeでlumilumiの開発もこの構成で回せる。ローカルLLMだからコスト完全ゼロで試し放題。

帰ったらやること

  1. Ollamaインストール（ollama.com）
  2. ollama pull qwen3.6:35b-a3b-q4_K_M（20GBなのでダウンロード中にご飯）
  3. 環境変数に OLLAMA_HOST=0.0.0.0 を追加
  4. TailscaleでWindowsPCのIPを確認
  5. VS CodeにCline・Roo Code・Kilo Codeを全部入れて全部設定
  6. MacBook到着を待つ（わくわく期間まだ続く）
Write a comment