RTX 2000 Ada を積んだ NAS の Ollama を LAN 越しに Zed から使い、インフラ実務タスク12本を実際に実行して採点した記録

生成AIを開発に利用するとき、「どのAIモデルが最も優秀か」という比較に目が向きがちです。 しかし、実際の開発では、AIモデル単体の性能だけで開発効率や品質が決まるわけではありません。 重要なのは、 どの開発ツールから、どのAIエージェントを使い、どのモデルに何の役割を担当させるか という組み合わせです。 現在、私の開発環境は、次の2系統で構成しています。 メイン環境： Ghostty＋Herdr＋Claude Code CLI 予備・バックアップ・事前調査環境： Zed＋Z.ai、またはZed＋Sakana AIのFugu Ultra メイン環境では、Claude CodeのOpus 4.8を実装担当として利用し、 Codexを独立したレビュー担当として組み合わせています。 この記事では、私がこの構成を選んでいる理由と、 AIモデル、AIエージェント、開発ツール、レビュー規約を どのように組み合わせているかを紹介します。 １．AIモデル、AIエージェント、開発ツールは別物 まず、混同されやすい用語を整理します。 分類 役割 私の環境での例 開発

社内のコードとログを海外のLLM SaaSに送らずに、エディタでAIコーディングを使いたい。 この当たり前の要望が、実は技術的にかなり難しいという話と、それを2つのクラウドで実測して白黒つけた記録です。 生成AIをコーディング業務に組み込むとき、多くの企業が最初にぶつかる壁が 「入力したコードや社内ログが、海外のデータセンターで処理されるのではないか」という懸念です。 いわゆるデータ越境リスク。契約や規約で「学習には使わない」と書かれていても、 物理的にどのリージョンで推論(inference)が実行されるかは別問題として残ります。 私たちはこのテーマに対して、2つのクラウド上で検証リポジトリを作り、 「書類上できるはず」を一切信用せず、すべて実測で判定するという方針で取り組みました。 本記事はその2つのリポジトリ ― Azure版の editor-openai-foundry と、 AWS Bedrock版の editor-claude-bedrock ― をたどりながら、推論の国内完結がどこまで実現できるのかを整理します。 この記事で答えるこ

匿名化ケーススタディ：基幹システムにおけるリソース割り当て機能の性能改善 ※ 本記事は、実プロジェクトの技術的な学びをもとにした匿名化ケーススタディです。 業種・企業名・実際の機能名・APIパス・テーブル名・カラム名などは、公開用に抽象化しています。 ある大規模基幹システムの再構築プロジェクトにおいて、特定業務画面（リソース割り当て画面）で利用する候補一覧 API /api/v1/resource-assign/candidates に性能課題がありました。 症状は、ページ送りをすると応答が遅くなることです。浅いページでは許容範囲でも、深いページでは約900msまで伸び、実務担当者の操作テンポを落としかねない状態でした。 今回、sakana.ai の fugu ultra は、この課題に対して独立に方針検討を行い、実機検証の進め方と改善案を提示しました。 最終的には、当初想定していた大きなDB変更や複雑な二段化クエリではなく、1ファイル・実質10行の最小修正で、深いページの応答を 約900ms → 約380ms台へ改善しました。 このケースで特に

はじめに 前回の記事では、UGREEN DXP6800 Pro に eGPU 経由で RTX 2000 Ada を載せ、Ollama を Docker 上で動かし、さらに Zed からローカルLLMへ接続するところまでをまとめました。 前回時点での到達点はこうでした。 Ollama は ollama/ollama:0.24.0 に固定 NVIDIA Driver は 535.261.03 GPU は RTX 2000 Ada 16GB qwen3:14b は 100% GPU で快適に動作 qwen3-coder:30b は本体RAM不足で本格検証できず UGREEN DXP6800 Pro の本体RAMを 64GB に増設予定 今回はその続きです。 NAS本体のメモリを 8GB から 64GB に増設し、qwen3-coder:30b がどこまで実用になるのかを試しました。 さらに今回は単なるベンチマークだけではなく、実際に Zed 経由でローカルLLMを使い、Sonnet と qwen3-coder:30b に同じようなコーディング課題を投げ

Microsoft 365 Copilot に「Cowork」っていう自律エージェントが乗ってきました。中身は Anthropic の Claude。メール送ったり予定入れたり資料作ったり、指示するだけで勝手に動いてくれるやつです。すごい。 で、自社サービスに AI アシスタントを積んでる身としては当然こう思うわけです。「これ、自分のアプリから呼べたら最高では？」 結論から言うと…呼べませんでした。しかもその過程で、もっとデカい「課金が変わる話」まで掘り当ててしまったので、まとめて共有します。 そもそも Cowork って何？ ざっくり言うと、Copilot がただ喋るだけじゃなく「実際に作業する」モードです。 やってほしいことを伝えると、勝手にプランを立てて動く メール・予定・Word/Excel/PowerPoint・Teams 投稿あたりを実行 1ターンで終わらず、数分〜数時間かけて複数ステップを進める 勝手に暴走しないように、要所で「これやっていい？」と確認を挟む 使えるのはブラウザ（m365.cloud.microsoft）・デスクトッ

AI コーディングエージェントの API コストを、開発体験を変えずに削減する。 背景：AI コーディング常用で見えてきた「文脈コスト」 社内では日常的に AI コーディングエージェント（Claude Code）を開発に組み込んでいる。 生産性は確実に上がる一方で、エージェントが ツール実行結果・ビルドログ・会話履歴 を 繰り返し LLM へ送り込む構造上、入力トークンが膨らみやすい。 実装そのものより「文脈の運搬コスト」が積み上がっていく――これが今回の最適化の出発点である。 Headroom とは Headroom は、LLM へリクエストを送る前にコンテキストを圧縮するローカルプロキシ。 エージェントと API エンドポイントの間に挟むだけで、ツール出力やログといった 「冗長だが意味は保てる」テキストを縮めてから上流へ渡す。 動作位置：http://127.0.0.1:8787 でローカル待受。/v1/messages を Anthropic、/v1/chat/completions 系を OpenAI へ中継。 圧縮エンジン：ONNX..

はじめに 前回の記事では、UGREEN DXP6800 Pro に eGPU(RTX 2000 Ada)を載せて、Docker から --gpus all で叩ける状態まで持っていった話を書きました。今回はその続編、というか「続きを動かそうとしたら、また別のところで派手に詰まった」記録です。 結論から書くと、最終的にはこんな構成で安定運用に入れました。 UGREEN DXP6800 Pro UGOS Pro Kernel: 6.12.74+deb12-amd64 NVIDIA Driver: 535.261.03 GPU: NVIDIA RTX 2000 Ada Generation (VRAM 16GB) Docker Compose: Ollama + Open-WebUI モデル領域: 14.5TB HDD (RAID6) の上に手動 LV + ext4 SSD 領域: コンテナ実行ベースとして温存 ただ、ここに辿り着くまでに「Open-WebUI からモデルが見えない」という一見シンプルな症状を入口に、Docker のネットワーク、SSD

はじめに 正直に言うと、最初は「NASにeGPUを繋いでDockerからGPUを使う」って、もう少し簡単に終わると思ってたんです。 でも実際にやってみたら、ブートが飛んだり、ドライバーのバージョンが噛み合わなかったり、/boot が256MBしかなくて initrd の更新で詰んだり……正直、何度か「もう諦めて素直にWindowsマシンに刺すか」と心が折れかけました。 それでも最終的には、UGREEN DXP6800 Pro 上で eGPU 接続の RTX 2000 Ada を Docker から --gpus all で叩ける状態まで持っていけたので、ハマりどころを含めて記録として残しておきます。同じ構成で詰まっている方の参考になれば嬉しいです。 最終的に到達したのはこんな環境です。 UGREEN DXP6800 Pro UGOS Pro Kernel: 6.12.74+deb12-amd64 (Debian backports) NVIDIA Driver: 535.261.03 GPU: NVIDIA RTX 2000 Ada Genera

背景 OPSNOTE（当社開発中の手順書 SaaS）の AI 機能は標準で Anthropic Claude API を使う。一方で「顧客データを外部 API へ送れない」テナント要件が発生する可能性を考慮し、自社 Azure サブスクリプション内で完結する LLM 経路を SKU として用意したい。Azure Japan East の T4 GPU 上で Qwen2.5:14B-Q4 を動かし、Claude Haiku 4.5 / Sonnet 4.6 と横並びで評価した。 評価は 2 段階で実施した。 機械計測 PoC（性能・コスト・5 シナリオ × 単発比較） 人手運用テスト（実テナント上で 21 件の業務シナリオを実施・本番経路で tool calling 含む） 結論を先に書くと、機械計測 PoC では Haiku 比 106% で「採用可」、人手運用テストでは 42% で「不合格」という逆転が起きた。ここではその差がどこから来たかをまとめる。 １．機械計測 PoC（先行） 検証構成 インフラ: ACA Serverless GPU..

こんにちは！最近はなぜかブログモチベが高いです。 本題ですが、ここ1、2年で私の働き方は大きく変わりました。 と言っても会社の制度が変わったり、業務時間が変わったりしたわけではありません。 そう、AIによって業務の効率が大幅に改善したのです。 分からないことが業務で生じたとき、必ず私はcopilot君（MicrosoftのAI）に 「こういう状態のときにこうなるのはなぜ？」と聞きます。 すると割と高精度な回答が返ってきて、言われたとおりに検証してみると解決するんです。 エラーが出ることもありますが、都度そのエラー内容をcopilotに問い合わせれば 修正してくれます。そうして結果的には問題が解決してしまうんです。 でもふと思います。 「あれ、これってエンジニアとして成長してるって言えるのかな。」 他人からみればちゃんと成長しているようには見えるかもしれないです。 しかし、自分自身からするとあまり成長が実感できません。 だってAIが出した回答を元に解決しているのですから。。。 入社したての頃は世間的にみても「AIって意味の分からない回答してくるよね