前回は、受信パケットがIP層に到達した後の処理について解説しました。 今回は、その続きとなるUDPレイヤーの処理について解説していきます。

Linux PC と RDMA ネットワークで vLLM スケールアウト構成を構築し、コストパフォーマンス重視のローカルLLM実行環境を提案・検証します。 前回の「vLLMとRDMAで構築するローカルLLMクラスタ (3)」の内容を踏まえた続編です。

Linux PC と RDMA ネットワークで vLLM スケールアウト構成を構築し、コストパフォーマンス重視のローカルLLM実行環境を提案・検証します。 前回の『vLLMとRDMAで構築するローカルLLMクラスタ (2)』の内容を踏まえた続編です。

遅延処理の仕組みである Workqueue (WQ) を、現在のWQの特徴であるConcurrency Management導入前後の実装を比較しながら紐解きます。