2026-11-04
ベルギー発スタートアップ、vLLM、SGLang、Llama.cpp向けの暗号化KVキャッシュ再利用を謳う。LMCache、Nvidia、Phisonは先着。
14倍速い——Corbenicが先頭に掲げる数字だ。ベルギーのスタートアップが手がけるGalahadソフトウェアは、大規模言語モデルの提供においてサーバーのSSDをAIメモリに変える。そして同社は14倍の高速化が実際にどこから来るかについて率直だ。データを速く読むのではなく、読む量を減らすことで達成されている。
Corbenic自身の金言がこの仕組みを捉えている。GPUは同じテキストを二度読まない。GalahadはKVキャッシュ再利用を軸に作られている。モデルがプロンプトを消化する間に生み出す中間状態を捉え、SSDに永続化し、再計算する代わりに再読み込みする。入力が繰り返されたり重なったりすれば、アクセラレータは冗長な作業を丸ごと飛ばす。この区別は、SSD層のキャッシングを評価する者にとって重要だ。性能の主張は、ストレージ帯域がDRAMを追い越すことではなく、回避された計算に根ざしているからだ。
製品は、最も広く展開されている3つの推論スタック——vLLM、SGLang、Llama.cpp——にわたる正確で暗号化されたKVキャッシュ再利用を謳う。正確さは忠実性を語る。キャッシュされた状態は近似ではなくそのままの形で再利用される。暗号化は、プロンプトの素材が永続ストレージに書き込まれた瞬間に浮上する機密性の問いに応えるものだ。
ただしCorbenicが最初の着席者ではない。KVキャッシュのオフロードを巡る円卓には、LMCache、Nvidia、Phisonがすでに腰を下ろしている。
競合の広がり自体が物語る。LMCacheはキャッシングソフトウェアの側から、Nvidiaはアクセラレータ層から、Phisonはストレージコントローラから問題に迫る。つまりベルギーの新参者は、GPUとドライブの間のあらゆるホップに陣取る潜在ライバルと向き合うことになる。その差別化は、正確な再利用と暗号化を組み合わせ、多くの事業者がすでに本番で走らせているオープンソースフレームワークに適用することに懸かっている。
AIインフラの買い手にとって、GalahadはSSDのより広い再位置づけ——大量ストレージから、推論の経済性を左右するメモリ層へ——における一つのデータポイントだ。14倍という数字の出所についてのCorbenicの正直さは、このカテゴリー全体にとって有用な物差しである。ベンダーの主張を秤にかける事業者は誰であれ、同じ問いを突きつけるべきだ。高速化のどれだけが賢いキャッシングから、どれだけがハードウェア自体から来るのか。
萬安算交所 AIXX · AIXX · 検証済みコンピュート取引所 · 現貨ホールへ