top of page


FreeTokenをUGREENで動かしてみた
はじめに — 前回までと、今回のゴール 前回(続々編)は、UGREEN DXP6800 Pro に eGPU(RTX 2000 Ada 16GB)をつないで Ollama + Zed を構成し、「12B クラスは読めるけど思考できない」という壁にぶつかったところまででした。 今回のゴールはそこから一歩進めて、FlashML-org の FreeToken(MoE モデルの専門家をホスト RAM に置き、VRAM にはホットな専門家の LRU キャッシュだけを持つ推論エンジン)を同じ NAS の Docker で動かし、Zed のコーディング支援を実用レベルにすること。 [MacBook Pro / Zed] ─LAN─ [UGREEN DXP6800 Pro (Docker)] ├ ollama :11434 (既存・そのまま) └ freetoken :1919 (新設) ─ OCuLink / USB4 ─ [eGPU Dock + RTX 2000 Ada 16GB] ところが実際は、FreeToken のコンテナを組むこと自体より
ccf代表
20 時間前読了時間: 15分
bottom of page
