Linux PC と RDMA ネットワークで vLLM スケールアウト構成を構築し、
コストパフォーマンス重視のローカルLLM実行環境を提案・検証します。
「VA Linux エンジニアブログ」にて公開していますのでご覧ください。
https://www.valinux.co.jp/blog/entry/20251003
技術情報技術文書
OSSについての技術解説や、技術調査・検証レポートなどを公開しています。
Linux PC と RDMA ネットワークで vLLM スケールアウト構成を構築し、
コストパフォーマンス重視のローカルLLM実行環境を提案・検証します。
「VA Linux エンジニアブログ」にて公開していますのでご覧ください。
https://www.valinux.co.jp/blog/entry/20251003
プラットフォーム
2024/07/18
プラットフォーム
2024/11/05
プラットフォーム
2024/06/27
プラットフォーム
2024/02/08