
生成AIや画像・映像解析AIを、自社内のオンプレミス環境で動かしたい。
そのような企業にとって課題になりやすいのが、AIを動かすハードウェアの導入費用と設置環境です。
これまで、ある程度の規模のLLMやVLMをローカル環境で動かすには、高性能GPUを搭載した大型ワークステーションやGPUサーバーが必要でした。
しかし、大型のAIサーバーには次のような課題があります。
こうした課題に対する新しい選択肢として登場したのが、NVIDIA DGX Sparkをベースに開発された「Lenovo ThinkStation PGX」です。
ThinkStation PGXは、NVIDIA Grace Blackwellアーキテクチャを採用したGB10 Superchipを搭載し、デスクトップ環境でAIモデルの開発や推論を行えるコンパクトなAIワークステーションです。NVIDIA DGX OSとNVIDIA AIソフトウェアスタックがあらかじめ導入され、ローカルAI開発を始めやすい構成になっています。
今回は、ジーライブに届いたThinkStation PGXを開封し、筐体や付属品、設置時の印象を確認しました。
あわせて、オンプレミスLLM、VLM、RAG、AIエージェント、AIカメラ解析の実行基盤として、どのような可能性があるのかを紹介します。
Lenovo ThinkStation PGXは、AI開発やAIモデルの推論をデスクトップ環境で行うために設計された小型AIワークステーションです。
NVIDIA DGX Sparkをベースとしており、Lenovoのワークステーション製品として提供されています。
主な特長は次の通りです。
Lenovoは、ThinkStation PGXをAI開発者、データサイエンティスト、研究者などがデスクトップ上でAIモデルを試作、調整、推論するための製品として位置づけています。
製品が到着して最初に感じるのは、AIワークステーションとしては外箱が非常にコンパクトであることです。
一般的なGPUワークステーションやラックマウント型サーバーを想像していると、箱の小ささに驚きます。
大型GPUサーバーの場合、納品時には設置場所、搬入経路、電源、冷却環境などを事前に検討する必要があります。
一方、ThinkStation PGXはデスク上や棚にも設置しやすい大きさです。
このコンパクトさは、次のような環境で特にメリットがあります。
大がかりなサーバールームを用意せず、まず社内でローカルAIを検証したい企業にとって、導入しやすいサイズ感です。
箱を開けると、本体と付属品が整理された状態で収納されています。
今回確認した主な内容物は、次の通りです。
実際の同梱物は購入構成や販売時期によって異なる可能性があるため、導入時には販売元の製品仕様を確認する必要があります。
本体を持ち上げてみると、コンパクトながら密度を感じるつくりです。
大型のGPUカードを搭載した一般的なタワー型ワークステーションとは異なり、小型筐体の中にAI処理に必要なCPU、GPU、メモリ、ストレージ、ネットワーク機能がまとめられています。
ThinkStation PGXの大きな特長は、そのサイズです。
AIサーバーという言葉から想像する大型の筐体ではなく、デスク上へ置けるコンパクトな設計になっています。
このサイズであれば、情報システム部門のデスク横、研究開発部門の作業スペース、工場の管理室などにも設置できます。
特に、次のような用途では小型筐体が有効です。
本番用の大型GPUサーバーを購入する前に、自社データでAIモデルを検証できます。
研究開発、品質管理、情報システムなど、特定部門専用のローカルAI環境として利用できます。
本体を持ち込み、自社データや映像を使ったAIデモを実施しやすくなります。
本社のデータセンターへ映像や情報を送らず、データが発生する拠点でAI処理を行う構成を検討できます。
本体は、業務用ワークステーションらしい落ち着いたデザインです。
派手な装飾やゲーミングPCのような照明はなく、オフィスや研究室に設置しても違和感がありません。
小型筐体ではありますが、AI推論時には相応の演算処理が発生します。
そのため、実際に設置する際には、次の点を考慮する必要があります。
工場内で利用する場合は、製造現場へ直接置くのではなく、管理室や制御盤周辺など、温度や粉じんを管理しやすい場所への設置が現実的です。
ThinkStation PGXは、ディスプレイ、ネットワーク、USB機器などを接続し、一般的なワークステーションに近い形で使用できます。
初期設定時には、主に次の機器を用意します。
AIサーバーとして常時運用する場合は、初期セットアップ後にリモート接続を設定し、別のパソコンから操作する構成も考えられます。
社内ネットワーク内で利用する際には、IPアドレス、ユーザー権限、外部通信の可否、ファイアウォールなどの設定も必要です。
ThinkStation PGXには、NVIDIA DGX OSとNVIDIA AIソフトウェアスタックがプリロードされています。
また、AI開発で広く使われるPyTorchやJupyterなどのツールを利用し、デスクトップ上でAIモデルのプロトタイプ作成、調整、推論を行える環境として設計されています。
一般的なGPUワークステーションでは、OS、GPUドライバー、CUDA、各種ライブラリ、コンテナ環境などを個別に構築する必要があります。
ソフトウェアのバージョンによっては依存関係や互換性の問題も発生します。
ThinkStation PGXでは、NVIDIAのAIソフトウェア環境を前提とした構成が用意されているため、AI開発環境の立ち上げにかかる負担を軽減できる点がメリットです。
ただし、実際に使用するAIモデルやアプリケーションによっては、追加のライブラリ導入やコンテナ設定が必要になります。
ThinkStation PGXは、128GBの統合システムメモリを備えています。
一般的なGPUワークステーションでは、CPUが使うシステムメモリと、GPUが使うVRAMが分かれています。
LLMやVLMを動かす場合、モデルをGPUメモリへ読み込む必要があるため、搭載VRAMの容量が扱えるモデル規模を左右します。
ThinkStation PGXの統合メモリ構成では、CPUとGPUが大容量メモリを共有できます。
これにより、一般的なコンシューマー向けGPUではVRAM容量の制約で扱いにくかったモデルも、ローカル環境で検証できる可能性があります。
ただし、モデルを読み込めることと、十分な速度で実務運用できることは別です。
利用モデル、量子化方式、入力データ量、同時利用者数、必要な応答速度などを確認したうえで、適切な構成を選ぶ必要があります。
ジーライブでは、ThinkStation PGXを主にオンプレミス環境におけるLLMとVLMの検証・推論基盤として活用することを想定しています。
LLMは、文章生成、要約、検索、質問回答、AIエージェントなどに使われる大規模言語モデルです。
ThinkStation PGXを活用することで、次のような処理を社内環境で行える可能性があります。
クラウドへデータを送信できない企業でも、社内ネットワーク内にLLM環境を構築できます。
VLMは、画像や映像の内容と言語を組み合わせて扱うAIモデルです。
カメラ映像に対して「何が映っているか」「どのような状態か」「異常はないか」と質問し、文章で回答を得られます。
ジーライブでは、次のような用途を想定しています。
従来の物体検出AIでは、事前に学習した対象物や決められたルールを検知する使い方が中心でした。
VLMを活用することで、より柔軟な言葉で映像の状態を確認できる可能性があります。
ジーライブが提供する「OnPrem Brain」は、クラウドにデータを出さず、社内ネットワーク内で生成AIを利用するためのオンプレミスAIソリューションです。
ThinkStation PGXを実行基盤として活用することで、次のような機能を比較的コンパクトな構成で提供できる可能性があります。
高性能なRTX系ワークステーションやGPUサーバーと比較し、用途によっては導入価格を抑えた構成を提案できることが期待されます。
ただし、同時利用人数や処理速度などの要件によっては、より高性能なGPUサーバーが適している場合もあります。
ジーライブのAIカメラソリューション「KOTOBA Monitor」では、カメラ映像に対して言葉で検知ルールを設定し、現場の状態を確認・通知します。
ThinkStation PGXをオンプレミスVLMの実行基盤として活用することで、映像を外部クラウドへ送らずにAI解析する構成を検討できます。
たとえば、次のようなルールです。
工場内の映像を外部へ出せない企業にとって、ローカルVLMを利用したAIカメラ解析は有力な選択肢になります。
AIエージェントは、利用者からの指示に応じて、文書検索、映像確認、情報整理、システム操作などを組み合わせて実行する仕組みです。
ThinkStation PGX上でAIエージェントを動かすことで、次のような活用が考えられます。
機密情報や工場映像を扱うAIエージェントを、社内環境内で実行できることが大きな利点です。
ThinkStation PGXとRTX系ワークステーションは、単純に性能だけで比較できるものではありません。
それぞれに向いている用途があります。
特にThinkStation PGXはArm系の環境であるため、既存ソフトウェアやコンテナがそのまま動くとは限りません。
導入時には、使用するライブラリやアプリケーションが対応しているかを事前に確認する必要があります。
今回、ThinkStation PGXを実際に開封して感じた最大の特長は、AI用マシンとしての導入ハードルの低さです。
大型サーバーのような専用スペースを必要とせず、机や棚に設置できます。
DGX OSやNVIDIA AIソフトウェアスタックを前提としており、一般的なPCを一からAI用に構築する場合よりも環境を整えやすくなっています。
顧客先や検証場所へ持ち込めるため、実データを使ったオンプレAIの検証に活用しやすいと考えられます。
文書を扱うLLMと、画像・映像を扱うVLMを一つの環境で検証できます。
最初から大型GPUサーバーを導入するのではなく、まず業務での有効性を検証する環境として利用できます。
ThinkStation PGXは魅力的な製品ですが、すべてのAI用途に適しているわけではありません。
使用するAIライブラリ、コンテナ、周辺ソフトウェアがArm環境へ対応しているか確認が必要です。
複数人が同時にLLMを利用する場合、求める応答速度によって必要な性能が変わります。
多数のカメラ映像を常時リアルタイム解析する場合、より大規模なGPU環境が必要になる可能性があります。
RAG対象の文書、AIモデル、映像を保存する場合は、必要なストレージ容量を確認します。
本番業務で常時利用する場合、故障時の代替機やバックアップ方法も検討する必要があります。
社内ネットワークへ接続する場合、ユーザー権限、アクセス制御、ログ管理、アップデート方法を整理します。
ThinkStation PGXを活用したオンプレAI導入では、最初からすべての業務を移行するのではなく、PoCから始める方法が有効です。
たとえば、次のような検証が考えられます。
PoCでは、単にAIが動くかだけでなく、業務で必要な速度、精度、操作性、運用方法まで確認することが重要です。
Lenovo ThinkStation PGXは、NVIDIA DGX Sparkをベースにした、コンパクトなAIワークステーションです。
小型筐体ながら、NVIDIA GB10 Grace Blackwell Superchip、128GBの統合メモリ、NVIDIA DGX OS、NVIDIA AIソフトウェアスタックを備え、デスクトップ環境でLLMやVLMの開発・推論に取り組めます。
今回実際に開封してみて、特に印象的だったのは、そのコンパクトさです。
従来のGPUサーバーのように大がかりな設置環境を用意せず、オフィスや研究室、工場の管理室などにオンプレAI環境を構築できます。
ジーライブでは、ThinkStation PGXを次の用途で活用していく予定です。
AIをクラウドへ出せない社内データや現場映像に適用しながら、従来の高性能RTX系構成よりも導入しやすいオンプレAIサービスの実現を目指します。
今後は、実際のLLM・VLMモデルを動かし、応答速度、処理負荷、対応モデル、AIカメラとの連携などについても検証していきます。
Lenovo ThinkStation PGXやNVIDIA DGX Sparkを活用したオンプレミスLLM・VLM、社内文書検索、AIエージェント、AIカメラ解析にご関心がございましたら、お気軽にお問い合わせください。
株式会社ジーライブ
E-mail:contact@geelive-inc.com
URL:https://geelive-inc.jp/