2025-10-22から1日間の記事一覧

vLLMとRDMAで構築するローカルLLMクラスタ (2):VRAMの壁を突破する分散実行のアプローチ

Linux PC と RDMA ネットワークで vLLM スケールアウト構成を構築し、コストパフォーマンス重視のローカルLLM実行環境を提案・検証します。 本記事は「vLLMとRDMAで構築するローカルLLMクラスタ (1)」の続編です。