ひまネタNEWS(^o^) | スキマ時間にちょっとしたネタを提供

企業が保有する生成AIモデルを専有の環境で運用できるフルマネージドのAIモデルサービングサービス

10月9日 7:02

デジタルインフラサービス事業のさくらインターネットは、企業専用の生成AI基盤「さくらのAI Engine プライベートエディション」の提供を10月8日に始めた、と同日発表した。企業が保有する生成AIモデルを専有の環境で運用できるフルマネージドのAIモデルサービングサービス。企業が利用する生成AIモデルが安全・安定的に運用可能な環境と、フルマネージド運用を実現する。

同社の生成AIプラットフォームサービス「さくらのAI Engine」の技術基盤を活用。企業が使う生成AIモデルをGPU(画像処理装置)基盤上にホスティングしてAPI経由で利用可能にするサービスとなる。専有環境での提供によって他のサーバー利用者の影響を受けずに安定した推論実行環境が実現できる。推論基盤の構築から運用・監視まで一括して提供し、企業の運用負担を軽減する。

入力データやモデル資産を外部に出すことなく運用でき、国内データセンターによって高いセキュリティ要件に対応。入力データや生成結果はAI学習に利用されないため機密情報を扱う用途で使用可能。社内や特定顧客向けなどアクセス制限のある環境で生成AIが使える。保有する生成AIモデルをAPI経由で外部ユーザーへのサービスとしても提供できる。料金はGPU単位の月額定額制。