HOT ! P40 24Gカスタムファン付/40b以下LLM動作確認済/ローカルLLM最適 ベンチでは216GBのVRAM。ローカルLLMに最適な組み合わせを見てみま

ベンチでは216GBのVRAM。ローカルLLMに最適な組み合わせを見てみま。ローカルLLMで遊ぶためにVRAM40GBのPCを構築したので、その顛末を記録。LLMは、クラウドか?ローカルか? 〜RAG×AI Ready Dataで探る最適なAI。ご覧いただきありがとうございます。この度、V100水冷コンピューティングドックへのシステム移行に伴い、これまでメイン機で愛用していた調教済みの Tesla P40 を数枚出品いたします。個人でローカルLLMを動かしたい方、コスパ良く大容量VRAMを確保したい方に最適なセットです。【実測パフォーマンス（GGUF形式 / 8bit精度）】Qwen 2.5 32b クラス： 10〜13 tps（実用的な読解スピード）Gemma 3 12B クラス： 30 tps 前後（瞬時に回答が生成されます）2枚差し運用： 70Bクラスの大型モデルも3〜5 tpsで動作可能です。1. 使用していない専用の「高圧デュアルファンユニット」を付で発送します。温度目安（室温21℃）：Turbo（4500回転）：待機時38℃ / 演算時50℃前後Full（6000回転）：さらに強力に冷却可能注意点：ファンはマザーボード経由での制御を推奨します。ケースファン等は付属のSATA/大4ピン変換アダプタへ逃がしてください（ご希望の変換タイプを取引メッセージでお知らせください）。2. 電源供給について本カードの端子は CPU 8ピン（EPS） です。一般的な電源のPCIe 8ピンから変換できる「専用変換ケーブル」を同封します。予備のCPU電源端子がある場合は、ファンユニットを外して直挿しも可能です。3. ECC機能とVRAM表示ストレージ占有型ECCのため、OS上の認識は 22.5GB となりますが、仕様通り24GBの物理メモリをフル活用しています。4. 映像出力について計算専用カードのため映像出力端子はありません。CPUの内蔵グラフィックス（iGPU）または別のビデオカードと併用してください。【BIOS設定のポイント】導入時、マザーボードのBIOSで以下の設定を必ずご確認ください。Above 4G Decoding： 「Enabled（有効）」Re-Size BAR Support： 「Enabled（有効）」CSM Support： 「Disabled（無効 / UEFIモード）」※これを設定しないとWindowsで認識されない場合があります。推奨電源：650W以上。vLLMとRDMAで構築するローカルLLMクラスタ (1)：安価なGPU選定と25GbE。。グラフィックボード・グラボ・ビデオカード ROG STRIX RTX2080TI O11G WHITE GAMING。Radeon 7900XTX Hellhound グラフィックボード　本体のみ。GeForce RTX 5090 GDDR7 ゲーム。RTX3060ti グラボ。グラフィックボード・グラボ・ビデオカード ASUS PRIME Radeon RX 9070 XT 16GB。【ジャンク品】ZOTAC GTX 1660 SUPER 6GB GDDR6。グラフィックボード・グラボ・ビデオカード NVIDIA GeForce RTX 3050 8GB GDDR6。NVIDIA GeForce RTX 3070 OEM グラフィックボード。MSI AMD Radeon RX 6700 XT 12GB グラフィックボード。Corsair Vengeance RGB Pro 2枚セット。グラフィックボード・グラボ・ビデオカード MSI GeForce GTX 1660Ti AERO ITX 6G OC。ELSA NVIDIA QUADRO グラフィックボード P4000。PALIT stormx RTX3060 【12GB】 SDXL画像生成向け