ストックマークがゼロから構築した 1000 億パラメーターの日本語大規模言語モデルを NVIDIA NIM マイクロサービスとして提供開始

NIM での提供を通じて推論速度が最大 2.5 倍高速化

[画像1: https://prcdn.freetls.fastly.net/release_image/12662/559/12662-559-a9a412f8407a00f73e5a1298147bf35d-567x318.png?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]

NVIDIA は本日、開発者向けに開催されたイベント、NVIDIA AI Day Tokyo において、AI スタートアップのストックマークがゼロから開発した 1000 億パラメーターの日本語大規模言語モデル (LLM)、「Stockmark-2-100B-Instruct （以下 Stockmark-2）」を NVIDIA NIM マイクロサービスとして提供を開始したことを発表しました。