556-0003
大阪市浪速区恵美須西3-16-39
NVIDIA RTX PRO 6000 Blackwellを活用した、オンプレミス生成AI基盤の開発とソフトウェア提供を開始
生成AIの活用が企業の業務効率化に広がる一方で、製造業、研究開発、医療、金融、公共分野などでは、いまだに「クラウドに社内データを出せない」という課題が残っています。
社内文書をAIで検索したい。
会議音声を文字起こしして議事録化したい。
過去の技術資料や見積情報を活用したい。
しかし、機密情報や顧客データを外部サービスへ送信することは難しい。
こうした企業に向けて、株式会社ジーライブでは、PNY NVIDIA RTX PRO 6000 Blackwellを活用したオンプレミス生成AI（LLM）基盤の開発と、業務利用に向けたソフトウェア提供を進めています。
NVIDIA RTX PRO 6000 Blackwell Workstation Editionは、Blackwellアーキテクチャを採用し、96GB GDDR7 ECCメモリ、4,000 AI TOPS、第五世代Tensor Coreを備えたプロフェッショナル向けGPUです。大規模なAI開発、ローカル推論、LLMのファインチューニング、生成AI、AIエージェントのプロトタイピング用途にも位置づけられています。
なぜ今、オンプレミス生成AIが必要なのか
クラウド型の生成AIは、導入しやすく、すぐに使える点が大きな魅力です。
一方で、企業の本格活用では次のような制約が発生します。
- 顧客情報や契約情報をクラウドに送信できない
- 技術資料、研究データ、設計情報を外部環境で扱えない
- 社内規程上、外部AIサービスの利用が制限されている
- 利用人数やAPI利用量が増えると月額費用が読みにくい
- 部門単位ではなく、全社的にAIを使う環境を整えたい
特に、製造業や研究開発部門では、社内に蓄積された独自ノウハウこそが競争力です。
過去の設計資料、品質管理記録、作業手順書、設備保全メモ、議事録、トラブル対応履歴などは、企業ごとに異なる重要な知的資産です。これらを安全にAIで活用するには、クラウドではなく、社内ネットワーク内で完結する生成AI基盤が有効な選択肢になります。
RTX PRO 6000 Blackwellを活用した高性能ローカルAI環境
ジーライブが開発・提供するオンプレミス生成AI基盤では、高性能GPUを搭載したAIサーバー上に、LLMの推論環境、社内文書検索、要約、音声文字起こし、議事録生成などの機能を構築します。
今回活用するRTX PRO 6000 Blackwellは、96GBの大容量GPUメモリを備えており、ローカル環境で大規模なAIワークロードを扱いやすい構成です。PNYの公式仕様でも、24,064 CUDAコア、752 Tensor Core、188 RT Core、96GB GDDR7 ECCメモリ、最大消費電力600Wが示されています。
このようなGPUを活用することで、クラウドに依存せず、社内環境内で生成AIを動かす構成を実現しやすくなります。
提供するソフトウェア機能
ジーライブでは、単にGPUサーバーを導入するだけではなく、企業が実際の業務で使えるようにするためのソフトウェアも提供します。
主な機能は以下の通りです。
1. 生成AIアシスタント
社内環境で動作する生成AIアシスタントとして、文章作成、要約、情報整理、問い合わせ対応、アイデア出しなどに活用できます。
社内資料や業務情報を扱う場面でも、クラウドにデータを送らずにAIを利用できるため、機密情報を含む業務にも適用しやすくなります。
2. 社内文書検索・要約
PDF、Word、Excel、テキストファイルなどの社内文書を対象に、自然言語で検索・要約できる仕組みを構築します。
たとえば、次のような使い方が可能になります。
「過去の類似見積を探して」
「この装置に関する保守記録を要約して」
「品質トラブルの対応履歴を整理して」
「社内規程の該当箇所を教えて」
従来は人がフォルダを探し、資料を読み込み、必要な情報を抜き出していました。AIを活用することで、社内ナレッジへのアクセスを効率化できます。
3. 音声文字起こし・議事録要約
会議音声を文字起こしし、要点、決定事項、TODOを整理する議事録作成機能を提供します。
社内会議、技術検討会、顧客打ち合わせ、現場ヒアリングなど、外部に出しづらい会話データも社内環境で処理できます。
4. 業務システム連携
必要に応じて、社内の既存システムや文書管理基盤、ファイルサーバー、管理表、業務アプリケーションとの連携にも対応します。
単なるチャットAIではなく、社内業務に組み込めるAI基盤として拡張できる点が特徴です。
5. AI利用研修・運用支援
生成AIは、導入しただけでは十分に活用されません。
どの業務に使うのか。
どのように質問すればよいのか。
どの情報をAIに参照させるのか。
回答結果をどのように確認するのか。
こうした運用設計と社内定着支援をあわせて行うことで、現場で使われるAI環境を構築します。
製造業・研究開発部門との相性
このオンプレミス生成AI基盤は、特に製造業や研究開発部門との相性が高いと考えています。
製造業では、熟練者のノウハウ、過去の不具合対応、設備ごとの癖、検査記録、見積条件、部品情報など、現場固有の情報が多く存在します。
しかし、それらの情報は個人の経験、紙資料、Excel、共有フォルダ、メール、議事録などに分散していることが多く、必要なときにすぐ使える状態になっていないケースがあります。
オンプレミス生成AIを活用することで、こうした社内情報を安全にAIへ参照させ、現場担当者や若手社員が必要な知識にアクセスしやすい環境を整えることができます。
クラウドAIとの違い
クラウドAIとオンプレミス生成AIは、どちらが優れているというより、用途によって使い分けるものです。
クラウドAIは、すぐに使える手軽さや最新モデルへの追従性に強みがあります。
一方で、オンプレミス生成AIは、次のような用途に適しています。
- 機密情報を外部に出せない業務
- 社内文書や研究データを扱う業務
- 利用量が多く、月額費用や従量課金を抑えたい業務
- 社内ネットワーク内で完結させたい業務
- 自社専用のAI環境としてカスタマイズしたい業務
ジーライブでは、顧客の業務内容、セキュリティ要件、利用人数、対象データ、既存システム環境に応じて、クラウド型とオンプレミス型のどちらが適しているかを整理し、最適な構成を提案します。
重要なのは、GPUではなく「業務で使えるAI」にすること
高性能なGPUを導入するだけでは、業務改善にはつながりません。
重要なのは、そのGPU上でどのようなAI環境を構築し、どの社内データを扱い、どの業務フローに組み込むかです。
ジーライブでは、オンプレミス生成AIの導入において、以下を重視しています。
- 社内データを安全に扱う設計
- 利用者が使いやすい画面・操作性
- 文書検索や要約など、実務に直結する機能
- 既存業務システムとの連携
- 導入後の利用研修とQAサポート
- 部門利用から全社展開まで見据えた拡張性
AI基盤は、単なるサーバー設備ではなく、社内の知識を活用するための業務インフラです。
今後の展開
ジーライブでは、RTX PRO 6000 Blackwellを活用したオンプレミス生成AI基盤を、社内文書検索、議事録作成、ナレッジ共有、見積支援、技術継承、社内問い合わせ対応など、さまざまな業務に展開していきます。
今後は、LLMの推論環境に加え、RAG、音声認識、画像認識、業務システム連携、AIエージェント機能などを組み合わせ、企業ごとの課題に合わせたオンプレミスAI環境を提供してまいります。
特に、セキュリティ要件が厳しくクラウドAIの利用が難しい企業に対して、社内完結型の生成AI活用を支援していきます。
まとめ
生成AIは、社内業務の効率化、ナレッジ共有、技術継承、議事録作成、文書検索など、多くの業務に活用できます。
一方で、企業の重要なデータを扱うには、セキュリティや情報管理の課題を避けて通ることはできません。
ジーライブが提供する、PNY NVIDIA RTX PRO 6000 Blackwellを活用したオンプレミス生成AI基盤は、クラウドに依存せず、社内環境で生成AIを活用するためのソリューションです。
高性能GPUと業務向けソフトウェアを組み合わせることで、企業の機密情報を守りながら、社内データを活用できるAI環境を構築します。
生成AIを「試す段階」から「業務で使う段階」へ進めるために、オンプレミスAIは有力な選択肢となります。
お問い合わせ
オンプレミス生成AI、社内文書検索AI、議事録作成AI、社内ナレッジ活用基盤の構築にご関心がございましたら、お気軽にお問い合わせください。
株式会社ジーライブ
E-mail：contact@geelive-inc.com
URL：https://geelive-inc.jp/
